Родился 14 июня 1925 г. в деревне Яковлево Дорогобужского района. Из крестьянского рода, ведущего начало от пушкарей. Окончил 6 классов школы в Дорогобуже в 1937 г., работал в колхозе.

В Великую Отечественную войну, с началом немецкой оккупации Дорогобужского района, помогал партизанам, а затем вслед за отцом также ушел в феврале 1942 г. в партизанский отряд «Дедушка».

6 июня 1942 г. был зачислен рядовым, кавалеристом, в состав 1-го гвардейского кавалерийского полка 1-й гвардейской кавалерийской дивизии 1-го гвардейского кавалерийского корпуса, находившегося на территории Дорогобужского партизанского края. Присягу принял 23 июня 1942 г. В 1-м гвардейском полку прослужил до 28 марта 1945 г., воевал в полковой разведке.

За участие в рейде с прорывом конников из окружения в Дорогобужском партизанском крае летом 1942 г., в ходе которого был легко ранен, Панин И.Я. награжден орденом Красного Знамени.

Отличился при захвате «языка», за что в апреле 1943 г. был награжден медалью «За боевые заслуги».

Месяцем позже награжден орденом Красной Звезды за участие в боях в составе взвода, в ходе которых был уничтожен расчет штурмового орудия, пресечены немецкие атаки на наши позиции.

Получил легкое ранение в бою 18 марта 1944 г. Освобождал Украину (отличился под Львовом, в Карпатах), проявил себя в боях у перевала Дукла, освобождал польскую Силезию, участвовал в Берлинской и Пражской операциях советских войск. В одном из боев на его глазах погиб отец.

С 28 марта 1945 г. Иван Яковлевич проходил службу в отдельном батальоне связи 1-й гвардейской кавалерийской дивизии, был командиром отделения связи.

Гвардии сержант Иван Панин участвовал в Параде Победы в Москве 24 июня 1945 г. в составе сводного полка 1-го Украинского фронта.

Демобилизовался 26 марта 1947 г.