نام او على بن عبّاس بن جريح، ١ و كنيه‌اش ابو الحسن است. ٢ در روز چهارشنبه بعد از طلوع فجر، دوم ماه رجب سال ٢٢١ در بغداد، در محل معروف به عقيقه (و بنا به گفته‌ى مرزبانى عتيقه) و درب الختليّه، در خانه‌اى مقابل كاخ عيسى بن جعفر منصور به دنيا آمد. ابن رومى، غلام آزادشده‌ى عبد اللّه بن عيسى بود. جاى ترديد نيست كه او رومى الأصل مى‌باشد و اين مطلب را او خود ياد كرده و در چند جاى ديوانش روى آن تأكيد مى‌كند. نام جدّش جريح يا جرجيس، بى‌شك اسمى غيرعربى است. پس به سخن كسى‌كه گفته است به اين دليل او را ابن رومى مى‌گويند كه در كودكى زيباروى بود، نبايد وقعى نهاد. ٣

مادر ابن رومى ايرانى بوده و خود شاعر اين مسأله را در اشعارش آورده است، آنجا كه مى‌گويد: ايرانى‌ها دايى‌ها و رومى‌ها عموهاى من‌اند:

كيف أغضي على الدّنيّة و الفر		س خؤولي و الرّوم هم أعمامي‌

علامه‌ى امينى گويد:

مادرش حسنه دختر عبد اللّه سنجرى است و سنجر يكى از شهرهاى ايران در خراسان است، پس او فارسى خالص مى‌باشد.

برادر تنى‌اش ابو جعفر محمّد از ابن رومى بزرگ‌تر بوده و قبل از او، فوت كرده است. ابن رومى به ياد او اظهار درد و مصيبت مى‌كرد. بعد از مرگ برادر، ابن رومى كسى نداشت كه عائله‌ى او و برادرش را تعهّد كند مگر عده‌اى از دوستدارانش از بنى هاشم و بنى عبّاس. ٤