پس از آن ابن ابى العزاقر كه به سبب دوستى كه با محسن پسر ابو الحسن على بن محمد فرات وزير المقتدر باللّه عباسى داشت در دستگاه وزارت درآمد و به كتابت و دبيرى پرداخت. در اين هنگام قرامطه كه طايفه‌اى از اسماعيليه بودند بر كاروان حاجيان زده و گروهى را بكشتند.

مردم بغداد كه از ابو الحسن على بن محمد فرات و پسرش محسن راضى نبودند آنان را متهم به دستيارى با قرامطه كردند.

محسن براى پيشگيرى از دشمنان خود و مطالبۀ بقاياى ماليات، شلمغانى را در ديوان وزارت وارد كرد و به تدبير او گروهى از دشمنان خويش را به جرم نپرداختن ماليات بكشت.

امّا ابن الفرات و پسرش محسن نتوانستند سوء ظن خليفه را نسبت به خويش از بابت رابطه با قرامطه رفع كنند، سرانجام خليفه ايشان را در سال ٣١٢ ه‌ به قتل رسانيد.

شلمغانى پس از اين واقعه بگريخت و تا حدود سال ٣٢٠ ه‌ در موصل و اطراف آن مى‌زيست، چون اوضاع را آرام يافت به بغداد رفت و به دعويهاى تازه پرداخت.

قديمى‌ترين كتابى كه دربارۀ عقايد وى سخن گفته كتاب «الفرق بين الفرق» بغدادى (در گذشته در ٤٢٩ ه‌) است. وى مى‌نويسد: گروهى در بغداد بودند پيرو مردى كه به روزگار راضى بن المقتدر در سال ٣٢٢ هجرى برخاست كه محمد بن على شلمغانى نام داشت. وى دعوى «حلول» خداوند در خود مى‌كرد و خويشتن را روح القدس مى‌خواند و كتابى به نام «الحاسة السادسه» يعنى حس ششم نوشت و در آن دين، آيين را برداشت و لواط را روا دانست و گفت: آن اندر آوردن فاضل نورش در مفضول است.

پيروانش زنان خود را براى كار زشت به او مى‌سپردند به اميد اين كه نور وى به ايشان اندر آيد.

ابو ريحان بيرونى در باب متنبئين در «آثار الباقيه» از عقايد ابن العزاقر ياد كرده است و همين نسبتها را به او داده است.

در كتاب «غيبت» شيخ طوسى (در گذشته سال ٤٦٠ ه‌) عقايدى سخيف به ابن ابى العزاقر نسبت داده و گويد: ابن العزاقر مى‌گفت: خدا در وى «حلول» كرده و يكى شد و او همان سخنان حلاّج ملعون را مى‌گويد.

ابن ابى العزاقر، معتقد به خلقت ضد بود يعنى مى‌گفت: خداوند خود اضداد را آفريده تا بتوسط آنها مخالفان آنان شناخته شوند زيرا تا اضداد در برگزيدگان خدا طعن نزند و به مخالفت با ايشان برنخيزد فضيلت و برترى آن بزرگان معلوم نخواهد شد، به همين جهت ضد افضل از ولى است زيرا فضيلت آن جز به ضديت او ظاهر نگردد.