كان يأنس إلى البراري ويأكل من ورق الاشجار ويرد ماء الانهار ويتغذى بالجراد في بعض الاحيان، ويقول: من أنعم منك يا يحيى ! وروى ابن عساكر أن أبويه خرجا في تطلبه فوجداه عند بحيرة الاردن فلما اجتمعا به أبكاهما بكاء شديدا لما هو فيه من العبادة والخوف من الله عزوجل. وقال ابن وهب عن مالك، عن حميد بن قيس، عن مجاهد قال: كان طعام يحيى بن زكريا العشب، وإنه كان ليبكي من خشية الله حتى لو كان القار على عينيه لخرقه. وقال محمد بن يحيى الذهلي: حدثنا الليث، حدثني عقيل، عن ابن شهاب، قال: جلست يوما إلى أبي إدريس الخولانى وهو يقص فقال: ألا أخبركم بمن كان أطيب الناس طعاما ؟ فلما رأى الناس قد نظروا إليه قال: إن يحيى بن زكريا كان أطيب الناس طعاما ؟ إنما كان يأكل مع الوحش كراهة أن يخالط الناس في معايشهم. وقال ابن المبارك عن وهيب بن الورد: قال: فقد زكريا ابنه يحيى ثلاثة أيام فخرج يلتمسه في البرية فإذا هو قد احتفر قبرا وأقام فيه يبكي على نفسه، فقال يا بني أنا أطلبك من ثلاثة أيام وأنت في قبر قد احتفرته قائم تبكي فيه ؟ فقال: يا أبت ألست أنت أخبرتني أن بين الجنة والنار مفازة لا تقطع إلا بدموع البكائين. فقال له: ابك يا بني. فبكيا جميعا. وهكذا حكاه وهب بن منبه ومجاهد بنحوه. وروى ابن عساكر عنه أنه قال: إن أهل الجنة لا ينامون للذة ما هم