أما نسبته «التّوحيدي» فيقول ابن خلكان: «لم أر أحدا ممن وضع كتب الأنساب تعرّض إلى هذه النسبة لا السّمعاني ولا غيره، لكن يقال إن أباه كان يبيع التوحيد ببغداد وهو نوع من التمر» . ونقل السيوطي عن شيخه ابن حجر قوله: يحتمل أن تكون إلى التوحيد الذي هو الدين فإن المعتزلة يسمون أنفسهم أهل العدل والتوحيد.
ويذهب الذّهبي إلى أنه هو الذي نسب نفسه إلى التوحيد، مثلما سمى ابن تومرت أتباعه بالموحدين، وكما يسمي صوفية الفلاسفة نفوسهم بأهل الوحدة وبالاتحادية.
كان أبوه فيما يقال تاجرا متنقلا يبيع نوعا من التمر المعروف باسم «التوحيد» . ولا يوجد في كتب أبي حيان أية إشارة إلى أسرته، ولا أية قرينة يستدل منها على لقبه. وهذا ما حدا بعض الباحثين إلى القول بأن الرجل كان يعلم أنه نشأ من أسرة دقيقة الحال، عديمة النسب والحسب، فلم يكن يجد داعيا للحديث عن نشأته، أو الإشارة إلى أسرته.
ويمضي أحد الباحثين إلى حدّ أبعد من ذلك فيقول: «لا تسألني متى ولد، ولا أين ولد، فذلك رجل نشأ في بيئة خاملة لم تكن تطمع في مجد، حتى تقيد تاريخ ميلاده» .
بيد أن بعضا من الباحثين استنتجوا تاريخ مولده من إشارتين: الأولى منهما وردت في «المقابسات» ، وفيها يعترف التوحيدي بأنه قد جاوز العقد الخامس من عمره، وينصّ في الوقت نفسه على أنه ألّف هذا الكتاب سنة ٣٦٠ هجرية، والثانية منهما وردت في الرسالة التي كتبها إلى القاضي أبي سهل بن محمد سنة ٤٠٠ هـ، وفيها يقول إنه قد بلغ «عشر التسعين» . وعلى ذلك يكون أبو حيان قد ولد- كما قال معظم مؤرخي سيرته- في العشرة الثانية بعد الثلاثمائة، أي حوالي سنة ٣١٠ أو ٣١١ هجرية (على وجه التقريب) .
عاش التوحيدي طفولة معذبة «منعه الحياء من الخوض فيها، فاكتفى بالصمت الذي هو أبلغ من كل كلام» . وكان هذا الحرمان سببا في التجائه إلى الدرس والتحصيل، عله يجد فيه تعويضا عن بعض ما فاته من نعم الحياة. ويخيل أن أبا حيان كان يتحدث عن نفسه حينما راح يقول: [وهكذا] اشتد في طلب العلم تشميره، واتصل في اقتباس الحكمة رواحه وبكوره، وكانت الكلمة الحسناء أشرف عنده من الجارية العذراء، والمعنى المقوم أحب إليه من المال المكوم ... » . ويتأيد هذا الظن إذا عرفنا أن اهتمام أبي حيان بالعلم والدراسة قد صرفه عن التفكير في الزواج وإنجاب النسل، فلم يعرف عنه أنه تزوج أو رزق أولادا بدليل قوله هو نفسه: إنه ظل طول عمره لا يجد حوله «ولدا نجيبا، وصديقا حبيبا، وصاحبا قريبا، وتابعا أديبا، ورئيسا منيبا» . ويظهر أن ميله إلى التنقل، وولعه بالأسفار، قد حالا بينه وبين الاستقرار، فلم يكن في وسعه أن يفكر في تكوين أسرة، أو أن يقنع من العيش بتربية بعض الأبناء! صرف التوحيدي القسم الأكبر من حياته في بغداد، وكان يتنقل بين بغداد، والريّ،