ثم رحل أبو علي القالي إلى الأندلس فدخل قرطبة في 27 شعبان 330 هـ[5] في عهد الخليفة عبد الرحمن الناصر لدين الله. وفي زمن إقامته في الأندلس، أدناه ولي العهد الحكم منه،[6] وأغدق عليه المال لينشّطه على التأليف.[8] وقد انتشر علمه فيها، وروى عنه عبد الله بن الربيع التميمي وأبي بكر الزبيدي وأحمد بن أبان بن سيد.[6] كما ألف القالي العديد من التصانيف أشهرها كتاب الأمالي وهو كتاب في نوادر الأخبار والأشعار، و«البارع في اللغة» و«المقصور والممدود والمهموز» و«الأمثال»[9] و«الإبل ونتاجها» و«مقاتل الفرسان»[10] و«في حلي الإنسان والخيل وشياتها» و«فعلت وأفعلت» وكتاب في شرح المعلقات،[11] و«تفسير السبع الطوال».[12]