Начал войну 1 декабря 1941 года. 10 декабря 1941 г. В д. Даршево проявил исключительную храбрость и мужество при обстреле его батареи миномётами противника, он сумел без потерь людского состава вывести батарею из-под обстрела. 28 января 1942 года командование поручило 2 батарее прямой наводкой в с. Севостьянове в районе города Зубцова, расстрелять укреплённые вражеские пункты. Шарапов Иван Яковлевич довёл этот приказ до каждого бойца и командира, и взялись за выполнение. 28-29 января 1942г. Его батареей были расстреляны прямой наводкой 4 ДЗОта противника, при этом активным участником и руководителем был сам комиссар батареи Шарапов. 12 июля 1943 г. Выполняя приказ командования о наступлении Майор Шарапов находясь в боевых порядках дивизиона личным примером под ударами авиации противника обеспечил своевременное передвижение батарей и переброску боеприпасов за наступающей пехотой, обеспечивая продвижение пехоты 1172 сп. На высоте 2449 артиллерийским огнем дивизиона разбит Дзот препятствующий своим огнём продвижению нашей пехоты вперёд, подожжён склад боеприпасов, уничтожено пулемётное гнездо до взвода пехоты и разбит наблюдательный пункт противника. Дивизион своим огнём обеспечил продвижение пехоты и прорыв передового края обороны противника. За время боевых действий с 12.07.1943г по 16.07. 1943г освобождено 6 населённых пунктов ,4 из них крупных. С 15 по 16.07.1943г. в ночь майор Шарапов руководил выводом двух батарей на прямую наводку на расстоянии 700-800 метров. Поставленная задача была выполнена. Батарея под сильным артиллерийским, миномётным огнём заняли боевой порядок. После выполнения боевой задачи при отходе  был убит.  Также  как политрук вёл большую политико-массовую работу среди бойцов и командиров, изучал каждого бойца в отдельности и всеми силами помогал им в овладении техникой. За период Отечественной войны в его батарее выросли замечательные люди: боец-оружейный наводчик Канарев, лейтенант Чуразов, оружейный наводчик Биценизов и другие.. Как комиссар батареи сначала организации полка и батареи приложил все силы к тому, чтобы батарея была сплочена в единый кулак. Его батарея являлась первой батареей в дивизионе. Бойцы были готовы выполнять любой приказ по разгрому врага. Ещё в первые дни войны его батарея прямой наводкой расстреливала укреплённые пункты в г. Воронино. Как комиссар являлся душой своей батареи.  Шарапов Иван Яковлевич имеет медаль «За Отвагу», а также был награждён орденом Отечественная война II степени.