Первый раз Иван Александрович призван в ряды РККА в декабре 1942 года Ершовским  РВК Саратовской области и направлен в г. Пугачев Саратовской области. После обучения по прибытии  в 353 стрелковую дивизию он был назначен на должность командира пулеметного расчета 2-й пулеметной роты 2-го батальона 1145 стрелкового полка. Он участвовал в боях Юго-Западного фронта, который с августа 1943 г. начал Донбасскую стратегическую операцию. Его дивизия была брошена на прорыв немецкой обороны в Харьковской области. В составе полка Иван Александрович с 24 августа по 3 сентября 1943 г. участвовал в кровопролитнейших и ожесточенных боях по освобождению г. Днепродзержинска. Приказом командира 353 стрелковой дивизии от 1 ноября 1943г. № 019/н Иван Александрович Осышный за бои по освобождению города Днепродзержинска был награжден орденом Красной Звезды. С ноября 1943 года, Осышный И.А. переведен в 98 отдельный истребительно-противотанковый дивизион 6-й Краснознаменной Орловской стрелковой дивизии. В составе 2 го Украинского фронта он участвует в разгроме фашистов на Корсунь-Шевченковском направлении ( второй Сталинский удар). В ходе тяжелых боев 29 января 1944 года Иван Александрович получил осколочное ранение левого коленного сустава в результате обстрела немецкой тяжелой артиллерией у с. Красноселка.С марта 1944 года по май 1944 года находился на лечении в госпитале в г. Баку. В мае 1944 года после ранения Иван Александрович по заключению ВВК был признан негодным к военной службе, уволен в запас и отправлен для выздоровления на Родину. В декабре 1944 года Иван Александрович по собственному желанию был вторично призван на военную службу Ершовским РВК Саратовской области и направлен в 60 запасной артиллерийский полк 19 запасной стрелковой дивизии. В феврале 1945г. Иван Александрович был отправлен на фронт. Он назначен на должность орудийного номера 76 мм. орудия ЗИС-3 пятой батареи второго дивизиона 452 легкого артиллерийского Корсуньского Краснознаменного полка, располагавшегося  в районе озера Балатон в Венгрии. В 452 легком артиллерийском Корсуньском Краснознаменном полку он воевал до Победы. Участвовал  в боях на заключительном этапе Великой Отечественной войны: в Балатонской оборонительной операции, Венской наступательной операции, Грацко-Амштеттинской наступательной операции. Боевой путь Ивана Александровича Осышного в Австрии  закончился 9 мая 1945г. в районе г. Амштеттен. Демобилизован в феврале 1948 года.