چگونگی تربیت و نیز از تاریخ زندگی او قبل از مسلمان شدنش اطلاعاتی در دست نیست. تنها اطلاعات موجود مطالبی است که ابو هریره راجع به خودش گفته است به این شرح که گربه کوچکی داشته و با او بازی می‌کرده است. فقیر و تنگدست و حقیر بوده و به خاطر لقمه نانی خدمت مردمان می‌کرده است؛ وی می‌گوید: «گوسفندان خویشانم را می‌چراندم و گربه کوچکی داشتم که با او بازی می‌کردم. شبها او را در سوراخ درختی می‌گذاشتم و چون صبح فرا می‌رسید دوباره به سراغ او می‌رفتم و با او به بازی می‌پرداختم. لذا کنیه مرا «ابو هریره» نهادند ... با یتیمی بزرگ شدم و با تنگدستی و فقر مهاجرت کردم؛ اجیر بسرة بنت غزوان بودم و در ازای سیر کردن شکم و یافتن کفشی کار می‌کردم. هرگاه کاروانیان بار می‌انداختند به آنان خدمت می‌کردم و چون بار می‌بستند برای شترانشان حدی می‌خواندم».
او سی سال داشت که وارد مدینه شد و هنگام ورود او پیامبر صلّی اللّه علیه و آله در جنگ خیبر بود- که در سال هفتم هجری اتفاق افتاد. ابن سعد می‌گوید: «ابو هریره همراه گروهی از قبیله دوس وارد مدینه شد؛ در این هنگام پیامبر در خیبر به سر می‌برد. پیامبر صلّی اللّه علیه و آله با اصحاب خود صحبت کرد تا ابو هریره را در غنائم به دست آمده از خیبر شریک کنند و آنان پذیرفتند. ابو هریره که تنگدست بود، ناگزیر راه صفّه [١] را در پیش گرفت».
ابو الفداء می‌گوید: «صفه نشینان مردمانی فقیر بودند که نه منزل و مأوایی داشتند و نه قبیله و خویشاوندی. مسجد جایگاه آنان بود و همانجا می‌خوابیدند و چون صفه مسجد النبی سر پناه آنان بود به «اصحاب صفه» معروف شدند. شبها پیامبر صلّی اللّه علیه و آله به هنگام تناول شام تعدادی از آنان را با خود می‌برد و آنان را اطعام می‌کرد و بقیه را بین اصحاب تقسیم می‌کرد تا به آنان شام بدهند».
مسلم از ابو هریره نقل می‌کند که گفت: «من مردی تنگدست بودم و در ازای سیر کردن شکمم، خدمت رسول خدا صلّی اللّه علیه و آله را برگزیده بودم». و در روایات دیگر از زبان او آمده است: من برای سیر کردن شکمم ملازمت رسول خدا را ترک نمی‌کردم.
ابو هریره بسیار پرخور بود و برخی از صحابه که گاه برای اطعام به خانه آنها می‌رفت، از او نفرت داشتند.

[١] صفّه: سایه‌بانی در منتها الیه ضلع شمالی مسجد النبی بوده است.