ولما هبط الزعيم الديني عبد الكريم الحائري مدينة قم سنة (١٣٤٠هـ)، انتقل إليها السيد الرفيعي، مستفيداً من أبحاث الزعيم المذكور في الفقه والأُصول، ومواظباً في الوقت ذاته على تدريس الفقه والأُصول، والفلسفة العالية التي برزت مواهبه فيها تحقيقاً وتدريساً وتأليفاً ومقدرة على حلّ معضلات المسائل المعقدة فيها.

تتلمذ عليه كثيرون، من أبرزهم: السيد روح اللّه الخميني، والسيد جلال الدين الآشتياني، وحسن حسن زاده الآملي، والسيد رضي الدين الشيرازي.

ووضع ما يربو على سبعين مؤلَّفاً في الفلسفة (وقد احتلّت جانباً كبيراً منها) والعرفان والعقائد والتفسير والفقه والرياضيات وغيرها، منها: حاشية على «شرح تجريد الكلام» للقوشجي، حاشية على «شوارق الإلهام في شرح تجريد الكلام» لعبد الرزاق اللاهيجي، حول عقائد الإمامية(ط) في الردّ على الجُبّائي، حول عقائد الإمامية في الردّ على البغدادي، رسالة في المبدأ والمعاد بالفارسية، رسالة المعراج (ط) بالفارسية، رسالة في الرجعة(ط) بالفارسية، سخن در معاد(ط) بالفارسية، حاشية على «گوهر مراد» في مسائل فلسفية وكلامية وأخلاقية وعرفانية لعبد الرزاق اللاهيجي، حاشية على «أسرار الآيات» لصدر المتألهين الشيرازي، حاشية على «شرح أُصول الكافي» لصدر المتألهين الشيرازي، حاشية على «الشواهد الربوبية» في الفلسفة لصدر المتألهين، رسالة في اتحاد العاقل والمعقول(ط) بالفارسية في الفلسفة، رسالة في وحدة الوجود (ط) بالفارسية، حاشية على «لوامع الأسرار في شرح مطالع الأنوار» في المنطق لقطب الدين