پس از پشت سر نهادن دوران نوباوگى، در پنج سالگى به مكتب گذارده شد و تحت تربيت برادر حاج آقا صابر اراكى (ره)- كه در وقت خواندن قرآن اشك بسيار مى‌ريخت و در عبادت و تقوا مقامى شامخ داشت- خواندن و نوشتن و قرآن را آموخت. پس از آن، در سنّ ١٠ سالگى تحت مراقبت و تربيت شوهر خواهرش، مرحوم حجت الاسلام آقاى عمادى (ره)، قرار گرفت و درس و مشق را آموخت، و در همان سنّ گلستان سعدى را استنساخ كرد، سپس به توصيه ايشان، براى تحصيل علوم دينى به محضر مرحوم حجت الاسلام آقا شيخ جعفر شيثى (ره)- كه از اوتاد خاص بود- شتافت و سطح (صمديه، سيوطى، معالم، لمعتين، رسائل و مكاسب) را نزد وى و بقيه كتابهاى درسى را نزد استاد ديگرش آقا شيخ عباس ادريس‌آبادى (ره) فراگرفت.

با تكميل سطوح، به درس خارج آيت اللّه آقا نور الدين عراقى (ره) و حضرت آيت اللّه حاج شيخ محمّد سلطان العلما (ره) حاضر شد و به استوارى مبانى فقه و اصول خويش پرداخت. بيست ساله بود كه آيت اللّه حاج شيخ عبد الكريم حائرى يزدى (ره)، در سال ١٣٣٢ ه. ق به اراك آمد و به تأسيس حوزه علميه دست يازيد. آيت اللّه اراكى نيز بدون فوت وقت، به جلسات درس آن بزرگمرد علم و دانش حاضر شد و از خرمن فيضش بهره برد. مرجع بزرگ شيعه، قديمى‌ترين شاگرد آيت اللّه حائرى (ره) به شمار مى‌رفت، زيرا از ١٣٣٢ ه. ق- ورود حاج شيخ به اراك- تا ١٣٥٥ ه. ق وفات حاج شيخ به مدت ٢٣ سال ملازم آيت اللّه حائرى (ره) بود. لذا، سخت مورد توجه استاد قرار گرفت و در اراك براى او و مرحوم حاج آقا اسماعيل محسنى اراكى (ره)، درسى خصوصى گذاشتند.

در سال ١٣٤٠ ه. ق و به هنگام حركت استاد به قم، ايشان نيز روانه آستان مقدس قم شد. آيت اللّه اراكى به مدت ٨ سال از درسهاى حاج شيخ در اراك بهره‌