كان أبو علي شديد العناية بدراسة الأصوات، وما يتصل بفقه اللغة من تصريف واشتقاق، وقد أفصح عن ذلك جلياً تلميذه أبو الفتح عثمان بن جني، وكان شديد الاهتمام بالقياس، فقد ابتغى له كل سبب والتمس إليه كل مساغ وقلَّب فيه وجوه الرأي. وقد حبسه ذلك أن يمهر في الرواية اللغوية ويتمكن فيتوفر حظه منها، كما فعل أصحابه منذ عهد المبرد. فقد كان السيرافي أروى منه. قال أبو علي: "لأن أخطئ في مائة مسألة لغوية ولا أخطئ في واحدة قياسية" وقال: "لأن أخطئ في خمسين مسألة مما بابه الرواية أهون علي من أن أخطئ في مسألة واحدة قياسية". وكان كصاحبه الرماني علَماً في علم الكلام على طريقة المعتزلة. وعلت شهرته حتى قيل انه فاق المبرد. قال أبو طالب العبدي: "لم يكن بين أبي علي وبين سيبويه أحد أبصر بالنحو من أبي علي". واشتهر من مؤلفاته (الإيضاح في النحو) و (التكملة) و (مختصر عوامل الإعراب) . ومن أنبغ تلاميذ أبي علي أبو الفتح عثمان بن جني، وقد لقيه حين مرّ بجامع الموصل، فأعجب ابن جنّي بأستاذه وأكبره ولزمه بعد ذلك، وكان يقول: "أنا غلام أبي علي الفارسي في النحو" وقال في أبي علي: "وقد انتزع من علل النحو ثلث ما وقع منه لسائر النحويين".
وخلف الفارسي أبو الفتح عثمان بن جني (٣٩٢هـ) . وقد استفاضت شهرته فسبق أقرانه وشآهم فبلغ الذروة في الأصالة وبعد الغور.
كان ابن جني يختلف إلى مسجد الموصل فيتلقى فيه مبادئ علوم العربية وقد تلمذ فيه لأحمد بن محمد الموصلي. ولم يكد يبلغ الخامسة عشرة حتى شوهد يتصدر حلقة المسجد، وكان يختلف إليه صغار طلبة العلم. وبينما هو كذلك إذا بأبي علي يلقاه في المسجد فيستوقفه نبوغ الصبي وحديثه وما انطوى عليه من فصاحة لسان وقوة منطق فيقول له: "تزببت يا بني وأنت حصرم". وقد قاد هذا ابن جني إلى أن يتلمذ لأبي علي ويستمر اتصاله به في صحبة علمية امتدت نحو أربعين عاماً.