Родился 20 апреля 1913 года в селе Саевка ныне Пятихатского района Днепропетровской области.В Красной Армии с 1939 года. Участник похода Красной Армии в Западную Белоруссию и Западную Украину.Участник Великой Отечественной войны с июня 1941 года. Был механиком-водителем танка. Участвовал в обороне Москвы. В 1942 году окончил Харьковское танковое училище и был направлен на Сталинградский танковый завод испытателем танков. При подходе немцев к Волге участвовал в обороне Сталинграда, а в дальнейшем - и в Курской битве.Указом Президиума Верховного Совета СССР от 22 февраля 1944 года за мужество, отвагу и героизм, проявленные в борьбе с немецко-фашистскими захватчиками, капитану Вергуну Якову Пантелеймоновичу присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда»В дальнейшем принимал участие в Кировоградской, Корсунь-Шевченковской и Уманско-Ботошанской наступательных операциях, освобождал Румынию, Болгарию, Югославию, Венгрию.Войну закончил начальником разведки 18-го танкового корпуса 3-го Украинского фронта.Награждён орденами Ленина, Александра Невского, двумя орденами Отечественной войны 1-й степени, орденом Отечественной войны 2-й степени, двумя орденами Красной Звезды, медалями.