سورة براءة، فقال:] أن الله بريءٌ من المشركين ورسولِه [، فقلت: أو قد برئ الله تعالى من رسوله! إن يكن برئ من رسوله، فأنا أبرأ منه. فقال له عمر رضي الله عنه: ليس هكذا يا أعرابي، فقال: كيف هي يا أمير المؤمنين؟ فقال:] أن الله بريءٌ من المشركين ورسولُهُ [فقال الأعرابي: وأنا والله أبرأ ممن برئ الله ورسوله منه. فأمر عمر رضي الله عنه ألا يقرئ القرآن إلا عالمٌ باللغة، وأمر أبا الأسود أن يضع النحو.
وقال أبو عبيدة معمر بن المثنى وغيره: أخذ أبو الأسود النحو عن علي بن أبي طالب رضي الله عنه.
وروى أيضاً أن زياد بن أبيه بعث إلى أبي الأسود، وقال له: يا أبا الأسود، إن هذه الحمراء قد كثرت وأفسدت من ألسن العرب، فلو وضعت شيئاً يصلح به الناس كلامهم، ويعرب كتاب الله تعالى! فأبى أبا الأسود، وكره إجابة زياد إلى ما سأل، فوجه زياد رجلاً وقال له: اقعد على طريق أبي الأسود؛ فإذا مر بك فاقرأ شيئاً من القرآن، وتعمّد اللحن فيه. فقعد الرجل على طريق أبي الأسود، فلما مر به رفع صوته فقرأ:] أن الله بريء من المشركين ورسوله [بالجر، فاستعظم أبو الأسود ذلك، وقال: عز وجه الله أن يبرأ من رسوله! ورجع من حاله، إلى زياد، وقال: يا هذا، قد أجبتك إلى ما سألت، ورأيت أن أبدأ بإعراب القرآن، فابعث إليَّ ثلاثين رجلاً؛ فأحضرهم زياد، فاختار منهم أبو الأسود عشرة، ثم لم يزل يختارهم حتى اختار منهم رجلاً من عبد القيس، فقال: خذ المصحف وصبغاً يخالف لون المداد، فإذا فتحت شفتيَّ فانقط واحدة فوق الحرف، وإذا ضممتهما فاجعل النقطة إلى جانب الخرف، وإذا كسرتهما فاجعل النقطة في أسفله، فإن أتبعت شيئاً من هذه الحركات غنَّةً فانقط نقطتين.
فابتدأ بالمصحف حتى أتى على آخره، ثم وضع المختصر المنسوب إليه بعد ذلك.