Родился в 1922 году в семье крестьянина села Ровеньки Ровеньского района Белгородской области. Там же окончил семилетнюю школу.

С 1937 по 1939 год работал в колхозе "Комсомолец", потом в Чугуевском райвоенкомате Харьковской области.

В октябре 1941 года Михаил Васильевич Мягкий был призван в Красную Армию минёром 10-го гвардейского отдельного батальона минёров 43-й армии Калининского фронта, гвардии рядовой.

Весной 1943 года отряд минёров, состоявший из 30 человек, был заброшен самолётами во вражеский тыл. Они действовали на железнодорожной магистрали Витебск – Смоленск. На задания выходили мелкими группами по 5 – 6 человек.

8 мая 1943 года одна их таких групп в количестве 6 человек, в которой был и гвардии рядовой Мягкий, в районе станции Лелеквинская Руднянского района Смоленской области совершила диверсию, но попала в окружение. С большим трудом им удалось прорваться к высоте у деревни Княжино.

На рассвете 12 мая 1943 года крупное подразделение карателей окружило высоту, на которой находились 6 храбрецов-минёров. Гвардейцы заняли круговую оборону. Гитлеровцы густыми цепями надвигались на высоту. Некоторые были с овчарками. Разведчики стали укреплять высотку, минировали подступы к ней, вырыли щели. Когда лай собак послышался совсем рядом, 6 автоматов ударили разом. Потеряв не менее двух десятков убитыми, гитлеровцы откатились назад.

Вскоре под прикрытием пулемётов гитлеровцы вновь ринулись в атаку. Однако и на этот раз, понеся потери, отошли на исходные позиции. Потом фашисты подтянули миномёты и пушки. На высоте стали рваться снаряды. Мягкий с товарищами отошёл, возле оставленных щелей заложив фугасы. Гитлеровцы снова бросились в атаку, но раздался оглушительный взрыв. Гвардейцы атакой вернули свои позиции. Более 2-х часов минёры стойко сражались с врагом. И вот настала критическая минута. Враг сосредоточил все свои усилия на левом фланге. Казалось, что он сомнёт храбрецов. Мягкий и ещё 3 минёра перешли на левый фланг и гранатами ударили по гитлеровцам, двое минёров автоматным огнём прикрывали их действия. Вражеская атака вновь захлебнулась. В ожесточённой схватке были ранены гвардии рядовые Базылев и Мягкий. Однако и они остались в строю, продолжая меткими выстрелами поражать вражеских солдат. Гвардейцы стреляли прицельно, наверняка, экономя каждый патрон.

В течение многих часов 6 советских минёров вели неравный бой. Гитлеровцы бросили против них подразделение с миномётами, артиллерией и даже самолётом-корректировщиком. И все же сломить упорство советских героев не смогли. Раненные и обессиленные гвардейцы держались стойко. Но силы были слишком неравные. Плотные цепи карателей окружили минёров-разведчиков. В том бою все они пали смертью храбрых, но не сдались врагу. Высотку фашистам удалось взять только тогда, когда никого из отважных воинов уже не осталось в живых. Жители деревни Княжино видели, что после боя гитлеровцы на 3-х грузовых машинах увозили своих убитых солдат и офицеров.

За исключительную выдержку, самоотверженность и героизм, проявленный в тылу врага при выполнении специального задания, минеру 10-го отдельного гвардейского батальона минеров гвардии рядовому Мягкому Михаилу Васильевичу Указом Президиума Верховного Советского Союза от 4 июня 1944 года посмертно присвоено звание Героя Советского Союза.

Похоронен на месте боя в деревне Микулино Руднянского района Смоленской области в братской могиле. Приказом Министра обороны СССР гвардии рядовой Мягкий Михаил Васильевич навечно занесён в список воинской части.