01 ноября 1942г. отстал от эшелона, прибыл на Московский военно-пересыльный пункт.

03 ноября 1942г. направлен на сборный пункт Московского горвоенкомата.

06 ноября 1942г. в составе команды военнослужащих направлен до станции Сухиничи в 8 мотострелковую бригаду 9 танкового корпуса.

Был зачислен стрелком в в 1 роту 2 мотострелкового батальона бригады.

Летом 1943г. был прикомандирован к штабу 9 танкового корпуса в качестве посыльного.

Участник Курской битвы.

Приказом от 05 октября 1943г. красноармеец Харьковский был награжден медалью «За боевые заслуги».

Участник боев бригады по расширению плацдарма на правом берегу р.Днепр.

Переведен в состав комендантского взвода управления 9 танкового корпуса.

Летом 1944г. части корпуса прошли с боями от Бобруйска до Бреста, участвовала в освобождении Польши.

27 и 28 июня части 9 танкового корпуса вели бои с остатками окруженной под Бобруйском группировкой противника, пытавшейся вырваться из окружения.

В 04-00 29 июня 1944г. колонна 8 мотострелковой бригады, двигавшаяся по шоссе Бобруйск- Минск, в районе деревни Сычково было атакован отрядом противника численностью до полка. Иван Иванович с подкреплением участвовал в освобождении колонны из окружения.

В боях уничтожил до 20 гитлеровцев.

Приказом от 13 июля 1944г. был награжден орденом Славы III степени.

В январе-феврале 1945г. корпус прошел с боями от Вислы до Одера.

Иван Иванович исполнял обязанности связного оперативного отдела корпуса.

При прочесывании района у д.Чехи уничтожил 15 гитлеровцев и 8 взял в плен.

Приказом от 09 февраля 1945г. рядовой Харьковский был награжден орденом Красной Звезды

В апреле 1945г. участвовал в Берлинской операции и штурме Берлина.

Приказом от 19 мая 1945г. старший сержант Харьковский был награжден орденом Отечественной войны II степени.

Награжден медалями «Зв освобождение Варшавы», «За взятие Берлина», «За победу над Германией в Великой Отечественной войне 1941–1945 гг.».

В честь 40-летия Победы награжден орденом Отечественной войны II степени.