怀海参见马祖后，成了马祖侍者。每次施主送斋饭来，怀海一揭开饭盒盖的时候，马祖就拈起一块烧饼，问大众：“是什么？”每回都如此。就这样，怀海在马祖身边呆了三年。
有一次，百丈怀海陪马祖散步，听到野鸭的叫声，马祖问道：“是什么声音？”
怀海答道：“野鸭的叫声。”
过了好久，马祖又问道：“刚才的声音那里去了？”
怀海答道：“飞过去了。”
马祖道一禅师于是扭百丈怀海的鼻子，百丈怀海负痛失声。
接着马祖道一禅师说道：“何曾飞去？”
怀海一听，立即省悟，却回到侍者宿舍里哀声大哭。当时有僧人问道：“你想念父母了吗？”
百丈怀海答道：“没有。”
那僧人又问道：“是被人骂了吗？”
百丈怀海答道：“也不是。”
那僧人更是不解，继续问道：“那你哭什么？”
百丈怀海答道：“我的鼻子被马祖大师扭得疼痛难忍。”
那僧人又问道：“什么原因呢？”
百丈怀海答道：“你去问马祖大师好了。”
于是，那僧人问马祖道一禅师道：“大师，怀海师兄为什么在房里痛哭？”
马祖道一禅师答道：“这是他悟道了，你去问他吧。”
那僧人回到僧房，告诉百丈怀海：“马祖大师说你开悟了，叫我来问你。”
百丈怀海听后哈哈大笑，那僧人感到很惊讶，便问道：“先前哭，现在笑，是何道理？”百丈怀海自言自语：“先前哭，现在笑。”
那僧人更是莫名奇妙。