Родился 22 июля 1914 года на Украине в Чернобыльской области. Умер 14 июня 1985 года в 70 лет от эшемической болезни сердца  в Москве. 4 класса образования. Новость о начале войны застала Якова Ивановича на вокзале, когда он вернулся с Украины, отвозив маленького сына к родственникам. 

Был призван Кунцевским РВК Московской области в 60 стрелковую дивизию пулеметчиком в июле 1941г. ( по февраль 1942г. )

С февраля 1942 года  по май 1943 года служил  в 64 запасном строевом полку командиром орудия. 

С мая по август 1944 года -  командир пулевого расчета 4 отделения мотострелкового батальона.

В ноябре 1945 года  -  демобилизован на основании Указа Президиума от 25.09.1945 г.

Дважды ранен. В  феврале 1942 получил тяжелое ранение в голову. 

Яков Иванович отлично выполнял боевые задания. 09.02.1942 года с занятием исходного положения Яков Иванович получил задание разведать огневые точки противника. Во время передвижения отделения, командир отделения тов. Маляр выбыл из строя. Тогда Яков Иванович принял командование на себя, лично ведёт огонь из пулемета, прикрывая продвижение.  Подавлял огневые точки противника, вывел из строя пулемет противника. Получив точные данные, вернулся в роту.  В последующие дни Голуб Я.И.  в качестве командира взвода неоднократно ходил в атаку. 12.02.1942 года Яков Иванович получил специальное задание  - прорваться в село Миново. Под сильным пулеметным и минометным огнем, действуя мелкими группами, взвод Якова Ивановича подполз к окраине деревни и забросал фашистов гранатами. Голуб Я.И. лично из пулемета расстрелял двух немецких снайперов. Яков Иванович своим личным примером храбрости увлекал бойцов.  За данный подвиг представлен к Правительственной Награде 11.04.1942 года медалью “За Отвагу”.

Награды: 

Июль 1945 года - Медаль за победу над Германией. 

3 ноября 1948 года  -  Медаль за боевые заслуги.

В послевоенные годы трудился на железной дороге и на московском радиотехническом заводе. 

Похоронен на Кунцевском кладбище.