ولد بالبصرة في سكة صالح سنة ثلاث وعشرين ومئتين، ونشأ بها وأخذ عن السجستاني والرياشي وغيرهما، ثم انتقل إلى عمان وأقام بها اثنتي عشرة سنة، ثم عاد إلى البصرة، وسكنها زمانا، ثم خرج إلى نواحي فارس بصحبة ابني ميكال، وعمل لهما كتاب الجمهرة، وقلّداه ديوان فارس، وكانت الكتب تصدر عن رأيه، ولا ينفذ إلا بعد توفيقه، فأفاد أموالا عظيمة، وكان لا يمسك درهما سخاء وكرما، ثم أتى بغداد سنة ثمان وثلثمئة بعد انتقال بني ميكال إلى خراسان. وأجرى عليه المقتدر خمسين دينارا في كل شهر، ولم تزل عليه إلى حين وفاته.
وكان واسع الرواية لم ير أحفظ منه، تقرأ عليه دواوين العرب، ويسابق إلى إتمامها حفظه.
وسئل الدارقطني أثقة هو أم لا، فقال: تكلموا فيه. وقال الأزهري: دخلت عليه فرأيته سكران، فلم أعد إليه. وقال ابن شاهين: كنا ندخل فنستحي مما نرى من العيدان المعلقة والشراب المصفّى. وذكر أن سائلا سأله أشياء فلم يكن عنده غير دنّ من نبيذ فوهبه له، فأنكر عليه بعض غلمانه، وقال: تتصدّق بالنبيذ، فقال: لم يكن عندي شيء سواه، ثم أهدي له بعد ذلك عشرة دنان من النبيذ فقال لغلامه: أخرجنا دنا فجاءنا عشرة.
وعرض له رأس السبعين من عمره فالج ثم سقي الترياق فبري وصحّ، ورجع الى أحسن أحواله، ثم عاوده الفالج بعد سنة لغذاء كان يتناوله فظل ثم كان يقول: [الطويل]
فواحزني أن لا حياة لذيذة ... ولا عمل يرضى به الله صالح
وتوفي يوم الأربعاء لاثنتي عشرة ليلة بقين من شعبان سنة إحدى وعشرين وثلثمئة، ودفن بالمقبرة المعروفة بالعباسية، وهو اليوم الذي مات فيه الجبائي المتكلم. فقال الناس اليوم مات علم اللغة والكلام.