Родился 19 января 1917 года в деревне Нершево Вачского района Горьковской области.

12 июля 1941 года в возрасте 24 лет был призван в ряды РККА в звании красноармейца. При формировании 29 июля 1941 года был направлен в состав 20-го гвардейского минометного дивизиона реактивных минометов «Катюша», входящего в состав 49 армии Западного фронта. С июля по ноябрь 1941 года участвовал в обороне Москвы, был назначен командиром орудия.

13 ноября 1941 года под городом Юхнов получил первое тяжелое ранение в левое бедро. В марте 1942 года в районе местечка Кресты Калужской области получил второе тяжелое ранение, в правый бок. После излечения продолжил воевать в этом же полку. 30 августа 1942 года в бою под Смоленском вновь был тяжело ранен в правое плечо. Направлен на излечение в тыл.

После выздоровления был направлен в 81-й запасный стрелковый полк 30-й стрелковой бригады Московского военного округа (дислоцировался в Гороховецком районе Ивановской области) для прохождения реабилитации и обучения.

16 февраля 1943 года, по завершении обучения, был направлен в 6-ю отдельную железнодорожную бригаду 2-го Прибалтийского фронта. В составе 14 восстановительного железнодорожного батальона принимал участие во освобождении Восточной Пруссии. Участвовал в штурме города-крепости Кенигсберг, восстанавливая под огнем противника железнодорожное полотно и обеспечивая подвоз боеприпасов и войск. Награжден медалью «За взятие Кенигсберга».

После победы над Германией продолжал восстановление железных дорог до 1946 года. Награжден медалью «За победу над Германией».

Демобилизовался из РККА в августе 1946 года и вернулся в родную деревню. В результате полученных во время Великой Отечественной войны тяжелых ранений получил инвалидность 3 группы. Работал в Нершевской артели в должности агента по снабжению.

За активное участие в Великой Отечественной войне военным комиссаром Вачского района Горьковской области в Московский военный округ было направлено представление о награждении Шмелева Ивана Львовича орденом Отечественной войны 2 степени.

Указом Президиума Верховного Совета СССР №: 209/831 от 30.05.1951 года солдат Шмелев Иван Львович за отвагу и храбрость, проявленные в период Отечественной войны награжден орденом Славы 3 степени.

Умер в 1974 году, в возрасте 57 лет. Похоронен в деревне Нершево.