В день приступа, под начальством подполковника Миклашевского, со вверенною ему ротою бросился с примерной отважностью в штыки на неприятельские шанцы на коих взято с боя, совместно с ротой 42-го Егерского полка, два орудия; потом занял часть предместья, причём взято четыре знамя.
В 1832 году за отличия против горцев Лабынцев был произведён в штабс-капитаны и вскоре назначен старшим адъютантом 20-й пехотной дивизии, в 1834 году зачислен в лейб-гвардии Волынский полк, в 1836 году произведён в капитаны.
Лабынцев в 1838 году был произведён в полковники с переводом в Кабардинский пехотный полк и командирован в Санкт-Петербург в Образовый пехотный полк. Однако на полпути его застал высочайший приказ (от 22 декабря того же года) о назначении командиром Кабардинского пехотного полка и Лабынцев вернулся на Кавказ; 15 марта 1839 года он принял полк в командование.
В 1840 году, начальствуя самостоятельным отрядом, производил экспедиции по рекам Ассе и Аргуну; следующие два года провел в Чечне и Дагестане, в почти ежедневных стычках с врагом. Принимал участие в знаменитой ичкеринской экспедиции графа Граббе с целью взятия Дарго. Кабардинским полком Лабынцев командовал до 21 февраля 1842 года, затем был назначен командиром 2-й бригады 20-й пехотной дивизии, в 1844 году получил под начало 1-ю бригаду 19-й пехотной дивизии.
Большие услуги оказал он во время Даргинской экспедиции 1845 года; князь Дондуков-Корсаков в значительной степени ему приписывает спасение всего отряда и сообщает много любопытного о его личной храбрости, превосходном уменьи влиять на солдат и об его отличном понимании условий войны на Кавказе.
В начале 1845 года Лабынцев был назначен командующим14-й пехотной дивизией и 31 июля 1845 года был произведён в генерал-лейтенанты, однако вскоре был переведён на должность начальника 19-й пехотной дивизии.
В 1855 году назначен командующим силами 1-й и 3-й пехотных дивизий. В 1856 году назначен командующим 1-м армейским корпусом, 8 сентября 1859 года произведён в генералы от инфантерии.
Лабынцев пользовался на Кавказе репутацией «храбрейшего из храбрых», а граф Граббе писал, что с ним «все предприятия удаются».
Яркую характеристику Лабынцева оставил генерал М. Я. Ольшевский:
«Вот этот среднего роста, крепкого сложения с толстою шеей, с простоватым, ничего не выражающим лицом, идущий на маленькой довольно плохой лошадке, в засаленном сюртуке, ситцевой рубашке и курящий отвратительную сигару, которая вас одуряет, — это герой Кавказа, генерал Лабынцев. Он очень скуп, а потому у него и лошадь плохая, и засаленный сюртук, и ситцевая грязная рубашка, и курит он одуряющую сигару. Генерал Лабынцев — грубый брюзга, всегда угрюмый, недовольный, насупившийся, вечно ругающийся. Но если он не любим посторонними и подчинёнными, то уважаем ими за мужественную храбрость и неустрашимость. Солдаты его боятся и недолюбливают, но охотно идут с ним в бой, потому что знают, что с ним не попадут в беду; а если случится беда, то знают, что Иван Михайлович постоит и за себя и за них. И действительно много опасностей пережил генерал Лабынцев во время продолжительной своей службы на Кавказе, но, кроме контузии камнем при штурме Сурхаевой башни под Ахульго, не был ни разу ранен. Недаром солдаты считали его заговоренным от пуль и ядер».
Историк Кабардинского полка А. Л. Зиссерман следующими словами описывал Лабынцева:
Небольшого роста, плотный, лысый, с непривлекательным, но очень выразительным лицом, Иван Михайлович обладал замечательным природным умом, и это затушёвывало недостаток образования научного. При этом — редкая твёрдость и изумительная энергия. … До крайности расчётливый, даже просто скупой, иногда до мелочности, он был однако чужд корыстолюбия и также строго берёг казённые деньги, как и свои собственные. … Суровый, строгий начальник, грубый в обращении, он умел однако приобрести в полку среди офицеров горячих приверженцев, а солдаты боготворили его и готовы были за ним в огонь и в воду. … Впоследствии, командуя дивизией, он заставлял бояться полковых командиров его инспекторских смотров пуще всякой беды.
Волков С. В. Генералитет Российской империи. Энциклопедический словарь генералов и адмиралов от Петра I до Николая II. Том II. Л—Я. — М., 2009. — С. 7. — ISBN 978-5-9524-4167-5 (2 т)
Гизетти А. Л. Сборник сведений о георгиевских кавалерах и боевых знаках отличий кавказских войск. — Тифлис, 1901. — С. 32—33
Записная книжка графа П. Х. Граббе. — М., 1888
Зиссерман А. Л. История 80-го пехотного Кабардинского генерал-фельдмаршала князя Барятинского полка. (1726—1880). Т. II. — СПб., 1881. — С. 240—242
Ольшевский М. Я. Кавказ с 1841 по 1866 год. — СПб., 2003. — С. 117. — ISBN 5-94214-053-7
Пономарёв В. П., Шабанов В. М. Кавалеры Императорского ордена Святого Александра Невского, 1725—1917: биобиблиографический словарь в трёх томах. Том 2. — М., 2009. — С. 197. — ISBN 978-5-89577-144-0
