родился в 1919 году в семье крестьян-переселенцев в поселке Денисовка Тургайской губернии, ныне Денисовский район Костанайская область. После окончания Денисовской школы начал работать в колхозе, затем в районном финотделе, райкоме комсомола. В 1939 году был призван на действительную военную службу в Красную Армию.В начале 1941 года окончил Военно-политическое училище. С 1941 по 1945 годы был на фронтах Великой Отечественной войны. Первый бой военный комиссар - уполномоченный особого отдела Подольского пехотного училища политрук Киселев принял под  Подольском. Из  книги Панковых «Подвиг подольских курсантов»:...В начале 1941 года немецко-фашистские танковые части прорвались по Варшавскому шоссе, захватили Юхнов и устремились к Москве, до которой оставалось 200 километров. На этом направлении путь фашистам преградили курсанты Подольских пехотного и артиллерийского училищ. Значение совершенного ими подвига высоко оценили Маршал Советского Союза Г.К. Жуков, маршал артиллерии К.П. Казаков, маршал бронетанковых войск К.П. Катуков и другие советские военачальники. Газета «Правда» писала: «Они полегли на поле боя, но не отступили и дали время создать за своей спиной новый рубеж обороны»... 43-я армия, в составе которой сражался Яков Киселев, стояла насмерть, срывая планы гитлеровцев прорваться к Москве. Время было выиграно. Курсанты продержались на указанных рубежах не 5-7 дней, как требовало Верховное Командование, а почти 3 недели, уничтожив около 5000 немецких солдат и офицеров, выведя из строя около 100 танков... Цена этой победы чрезвычайно высока: из 3 с половиной тысяч юных курсантов в живых осталось  чуть более 500... Именно за эти бои политрук Яков Киселев был представлен к ордену Красного Знамени.Подвиг подольских курсантов отображен в художественном фильме «Битва за Москву». Александрой Пахмутовой написана «Прелюдия Памяти Подольских курсантов» и песня «Ты моя надежда, ты моя отрада» (поэт Н. Добронравов).После войны Яков Павлович продолжал службу в органах госбезопасности, которой он отдал более 46 лет своей жизни.В 1960 – 1964 годах Я.П. Киселев назначен начальником отдела контрразведки КГБ при Совете Министров Эстонской ССР, в 1964 – 1969 гг. – начальником 2-го Управления КГБ при Совете Министров Казахской ССР, до 1973 года – зам. Председателя при Совете Министров Эстонской ССР. В 1973 – 1978 годах Яков Павлович – председатель КГБ при Совете Министров Туркменской ССР. Уволен по возрасту в июне 1987 года в связи с переездом в Москву. Звание генерал-майора присвоено Я. П. Киселеву в 1974 г. Имеет награды: знак «Отличник РККА» (1940 г.), ордена "Октябрьской Революции", "Красного Знамени", "Отечественной войны 1 степени", два ордена "Красной Звезды", 26 медалей, в том числе 7 медалей социалистических стран. Яков Павлович Киселев умер в 1999 году. Похоронен в городе Москва.