Невдовзі після завершення кар'єри гравця у 1971 році отримав свою першу тренерську роботу, очоливши тренерський штаб команди клубу «Ліньяно» з четвертого дивізіону. Згодом тренував ще декілька команд третього-четвертого дивізіону, доки 1978 року не отримав запрошення попрацювати з друголіговим «Варезе».
Протягом більшої частини 1980-х знову працював у третій та четвертій за силою футбольних лігах Італії. За цей період двічі поспіль приводив свої команди до перемог у Серії C2, четвертому італійському дивізіоні, — 1986 року «Терамо», а наступного року «Франкавіллу».
1987 року повернувся до Серії B, очоливши «Барлетту». Утім вже за рік знову став тренером третьолігової команди, «Палермо».
Протягом наступних двох десятиліть встиг змінити понад півтора десятки команд, проте особливих успіхів із жодною з них не досяг. Найвищим тренерським досягненням стала перемога у розіграші Серії C1 сезону 1995/96 на чолі «Равенни».
Останнім місцем тренерської роботи був клуб «Тревізо», головним тренером команди якого Джорджо Руміньяні був з 2009 по 2010 рік.