这则成语出自北宋释道原的《景德传灯录》。
唐代高僧从谂禅师曾主持赵郡观音院多年。据说，他对徒弟们非常严格，要求徒弟们在打坐参禅的时候必须心无旁骛，集中心神，以此来杜绝外界的干扰，达到入定的境界。有一次，他的徒弟们都在晚参，从谂禅师说：“今夜答话，有闻法解悟者出来。”他说这句话本来是想试探一下徒弟们的定力。大多数徒弟都知道他的意图，仍在聚精会神地打坐，丝毫不为所动，但一个小僧却走了出来回应禅师。禅师见此，便说：“本来想抛砖引玉，却引来了一块连砖都比不上的土坯。”
另外，还有一个故事是这样说的：吴地一个叫常建的诗人，非常崇拜同为诗人的赵嘏。有一次，他得知赵嘏要到吴地游览，便猜想赵嘏肯定会到灵岩寺。于是，他先到了那里，在墙上写了两句诗，希望赵嘏看到之后将其补全。果然，赵嘏看到这两句诗后，诗兴勃发，提笔就在后面补上了两句。经过赵嘏补全的诗非常完美，但前面两句的水准明显比不上后面的两句。于是后人便用“抛砖引玉”来形容这种用差的诗句引出好的诗句的做法。
常建 “抛砖引玉”的中心思想是引导，即启发别人，使其从中受益。比如孔子在教学时，不局限于讲授，时常采用探讨的方式，如“农山言志”、“四子侍坐”，都通过自己对于某一个问题的见解引发弟子的思考，使弟子从中增长学识，锻炼思维和口才。在日常生活中，如果能启发别人，引导别人，我们何不也“抛砖引玉”一下呢？
