Незадолго до войны с 1937 по 1940 гг. находился в зарубежной командировке в Болгарии по заданию Главного разведывательного управления Генерального штаба РККА.
Во время ВОВ служил в разведывательных подразделениях Сталинградского фронта. Командовал разведывательным отрядом во время Курской битвы. 
Командовал танковой бригадой во время освобождения города Новоград-Волынского в 1944 году. 
Участвовал в освобождении Будапешта. Командовал 9ой Гвардейской танковой бригадой во время взятия Вены. Победу встретил в Альпах.
Награды Иосифа Федоровича: 2 Ордена Красной Звезды, 2 Ордена Красного Знамени, Орден Почётного легиона 2 степени, Орден Богдана Хмельницкого 3 степени, Медаль «За боевые заслуги», Медаль «За победу над Германией в Великой Отечественной войне 1941-1945 гг.», Медаль «За взятие Вены», Медаль «За взятие Будапешта», Медаль «За оборону Сталинграда».
После войны командовал танковыми полками в Иране, Тбилиси и Кировограде.

Интересный факт - многие детали из реального боевого пути Иосифа Федоровича вошли в сюжет фильма "Ожидание полковника Шалыгина" с Борисом Галкиным в главной роли, снятого в 1981 году.