关于这首诗的来历，《坛经》第四节至第八节，有明白的记载：五祖弘忍“一日唤门人尽来”，要大家“各作一偈”。并说“若悟大意者”，即“付汝衣法，禀为六代。”弘忍的上首弟子神秀在门前写了一偈道：“身是菩提树，心如明镜台。时时勤拂拭，莫使有尘埃。”弘忍知道后，“遂唤秀上座于堂内”，说是“汝作此偈，见即未到”，“若觅无上菩提，即未可得”，因而要他“更作一偈”。而“秀上座去数日，作不得。”
惠能的偈语，即针对神秀的《无相偈》而发。据《坛经》所载，惠能本不识字，他先“请人一读”神秀的偈语，然后作此歌偈，“请得一解书人于西间壁上题着”。