В 1930 году переехал в Ленинград. В 1930—1931 годах учился в ленинградском Центральном музыкальном техникуме по классу композиции у П. Б. Рязанова, а в 1931—1932 — в Ленинградской консерватории, откуда был отчислен за непосещение занятий[3]. В Ленинграде Дзержинский написал «Поэму о Днепре» и «Весеннюю сюиту» для фортепиано, «Северные песни», первый фортепианный концерт. В 1935 году композитор окончил оперу «Тихий Дон» (по роману М. А. Шолохова), ставшую вехой в развитии советского музыкального театра. Через 30 лет после «Тихого Дона», в 1967 году Дзержинский написал вторую оперу на тот же сюжет — «Григорий Мелехов», которая (в отличие от первой) общественного резонанса не получила.
По рекомендации Д. Д. Шостаковича опера «Тихий Дон» была включена С. А. Самосудом в план Ленинградского малого театра оперы и балета (ЛМАТОБ), в октябре 1935 года была поставлена и вскоре вошла в репертуар многих музыкальных театров страны. Первое издание клавира вышло с посвящением оперы Д. Д. Шостаковичу. При вторичном издании клавира И. И. Дзержинский снял посвящение под влиянием редакционной статьи «Сумбур вместо музыки» в газете «Правда». В. И. Немирович-Данченко охарактеризовал оперу в «музыкальном отношении вещь совершенно посредственная». Он объяснял её очень большой успех тем, что она основана на сильном музыкальном (казацкие песни) и драматургическом материале[4].
В 1937 году написал оперу «Поднятая целина». В 1939 году появилась опера «Волочаевские дни». Вслед за этим композитор приступил к написанию оперы на сюжет драмы А. Н. Островского «Гроза», но эта работа была прервана войной.
После войны Дзержинский написал музыкальную комедию «В зимнюю ночь» по повести А. С. Пушкина «Метель». Премьера состоялась в Ленинградском театре музыкальной комедии в 1946 году. В последующие годы композитор создал три вокальных цикла «Новое село» (стихи А. Д. Чуркина, 1948), «Земля» (стихи А. И. Фатьянова, 1949), «Женщине-другу» (стихи А. Д. Чуркина, 1950).