Родился 17 января 1905 года в деревне Дубовка ныне Бавлинского района Татарии в крестьянской семье. Русский. Член ВКП(б) с 1931 года. Окончил 5 классов, работал в сельском хозяйстве.

В октябре 1927 г. он был призван в пограничные войска и направлен в Среднюю Азию. До ноября 1931 г. служил в Каракумах командиром отделения на 6-й заставе Керкинского погранотряда, затем его выдвинули на должность командира взвода.

Неоднократно участвовал в боевых операциях, связанных с ликвидацией вооруженных басмаческих банд. В схватке с головорезами Сапар-шайтана получил тяжелое ранение в голову, но продолжил драться до конца боя. За умелое проведение боевой операции и личную храбрость заслужил орден Красного Знамени.

В 1934 году, окончив Харьковскую пограничную школу, возвратился в Туркмению. От начальника заставы вырос до начальника штаба комендатуры.

Война с Финляндией застала старшего лейтенанта Зиновьева на учебе в Высшей пограничной школе. Направленный вместе с другими слушателями школы на финскую границу, он возглавил 3-ю роту 4-го пограничного полка.

Высоко оценила Родина мужество и героизм офицера-пограничника в советско-финляндской войне. Указом Президиума Верховного Совета СССР от 26 апреля 1940 г. капитану Зиновьеву Ивану Дмитриевичу присвоено звание Героя Советского Союза. В том же 1940 году Зиновьев поступил в Военную академию имени М.В. Фрунзе.

В Великой Отечественной войне с фашистскими захватчиками полковник Зиновьев сражался до мая 1942 года.

29 мая 1942 г. полковник Зиновьев И.Д. тяжело раненным попал в плен и был расстрелян гитлеровцами за подготовку побега из лагеря. Его имя присвоено улице в Туркменском городе Керки.