ابن عساكر: حدَّثني أبو محمد الأشِيريّ: سمعتُ أبا جعفر بن غَزْلُون الأُمَويّ الأندلسيّ: سمعتُ أبا الوليد الباجيّ يقول: كان أبي من تجّار القَيْروان من باجة القيروان، وكان يختلف إلى الأندلس ويجلس إلى فقيهٍ بها يقال له: أبو بكر بن سماح، فكان يقول: تُرى أرى لي ابنًا مثلك؟ فلمّا أكثر من ذلك القول قال: إنْ أحببت ذلك فاسكُنْ قُرْطُبة، والزَمْ أبا بكر القَبْريّ، وتزوج بنته، عسى أن تُرزق ولدًا مثلي. ففعل ذلك، فجاءه أبو الوليد، وآخر صار صاحب صلاة، وثالثُ كان من الغزاة.
وقال أبو نصر بن ماكولا: أمّا الباجيّ ذو الوزارتين أبو الوليد سُليمان بن خَلَف القاضي، فقيه، متكلم، أديب، شاعر، رحل وسمع بالعراق، ودَرَس الكلام على القاضي السِّمنانيّ، وتفقه على أبي إسحاق الشيرازي، ودرس وصنَّف.
وكان جليلا رفيع القدر والخطر. توفي بالمرية من الأندلس، وقبره هناك يزار.
وقال أبو علي بن سكَّرة: ما رأيت أحدًا على سمته وهيبته وتوقير مجلسه مثل أبي الوليد الباجي. ولما كنت ببغداد قدم ولده أبو القاسم، فسرت معه إلى شيخنا قاضي القضاة أبي بكر محمد بن المظفر الشامي، وكان ممن صحبه أبو الوليد الباجي قديما، فلما دخلت عليه قلت له: أدام الله عزَّك، هذا ابن شيخ الأندلس. فقال: لعلّه ابن الباجي؟ قلت: نعم. فأقبل عليه.
وقال عياض القاضي: حَصَلت لأبي الوليد من الرؤساء مكانة، وكان مخالطًا لهم، يترسَّل بينهم في مهِم أمورهم، ويقبل جوائزهم. وهم له في ذلك على غاية التِّجلَّة، فكثُرت القالة فيه من أجل هذا.
وولي قضاء مواضع من الأندلس تصغُر عن قدره كأوريُولة وشبهها، فكان يبعث إليها خلفاء، وربما أتاها المرَّة ونحوها.
وكان في أول أمره مقلا حتى احتاج في سفره إلى القصد بشعره، واستئجار نفسه في مقامه ببغداد فيما سمعته مستفيضا لحراسة درب، فكان يستعين بإجارته على نفقته وبضوئه على دراسته، وكان بالأندلس يتولى ضرب ورق الذهب للغزال والأنزال، ويعقد الوثائق.