Родился в селе Балки Васильевского района Запорожской области, в крестьянской семье.  В 1940 году окончил 8 классов неполной средней школы и  прошел обучение в сельскохозяйственной школе по подготовке кадров. Трудовую деятельность начал счетоводом  колхоза, а через год участковым бухгалтером. В 1941 году был эвакуирован в г.Челябинск, где работал регистратором в районном военкомате.

         В ноябре 1943 года был призван в армию в 196-й  армейский запасной полк, 3-го Украинского фронта. В составе своей части участвовал в форсировании Днепра.

       С февраля 1944 года воевал на 4-м Украинском фронте, в 997-м стрелковом полку, 263-й стрелковой дивизии, на должности помощника командира взвода. При освобождении Крыма,  9 апреля 1944 года, получил ранение в боях под городом Джанкой. Через 4 месяца после лечения вернулся на фронт, в 200-й запасной стрелковый полк.

      В ноябре 1944 года был направлен на курсы младших лейтенантов. В феврале 1945 года младший лейтенант Гергель Я.Д. был назначен командиром учебного взвода 626-го учебного полка.При освобождении Румынии, в боях за город Будапешт получил второе ранение.

         Из аттестационного листа на командира стрелкового взвода младшего лейтенанта Гергель Я.Д.: «В боевой обстановке смелый.  В бою ведет себя спокойно и уверенно. Оборону на участке взвода организовать может».

       Командиром 36-й гвардейской стрелковой дивизии гвардии лейтенанту Гергелю Я.Д. за отличное выполнение заданий командования в период боевых действий дивизии была объявлена благодарность и он был награжден охотничьим ружьем.

    За боевые отличия в период войны  был награжден орденом «Красная Звезда» и  медалями «За взятие Будапешта»,  «За победу над Германией в Великой Отечественной войне 1941-1945 гг».

       После окончания войны продолжил службу в Южной группе войск на должности начальник продовольственного склада, до увольнения в запас в 1947 году. В городе Мелитополь работал судебным исполнителем. Потом переехал жить в Псковскую область, где работал директором машинно-конного прокатного пункта, председателем Круппского сельпо, преподавателем физкультуры и труда в Зимне-Борковской школе.