Михаил Яншин родился в 20 октября (2 ноября) 1902 в городе Юхнов, Юхновский уезд (ныне Калужская область), в семье банковского служащего. М. М. Яншин приходился дядей академику А. Л. Яншину (1911—1999).
После окончания Ольховского городского реального училища (1909—1916) три года учился в московском среднем Комиссаровском техническом училище, а в 1919 стал студентом Высшего технического училища (ныне МВТУ имени Н. Э. Баумана). В 1919 году пошёл добровольцем в РККА.
В 1922 году поступил в школу Второй Студии МХАТ; в 1924 году вместе с другими молодыми студийцами (в частности, с Н. П. Хмелёвым, М. Н. Кедровым и Б. Н. Ливановым) был принят в труппу МХАТа, актёром которой он оставался до конца жизни. Затем — и режиссёр МХАТ.
Одновременно работал в других театрах — с 1934 по 1939 годы был художественным руководителем Московского театра лесной промышленности, с 1937 по 1941 годы руководил театром «Ромэн», с 1950 по 1963 годы был главным режиссёром Московского драматического театра имени К. С. Станиславского. По инициативе Яншина в МХАТ был приглашен О. Н. Ефремов.
Начиная с 1920-х годов много снимался в кино.
Один из любимейших артистов «Союзмультфильма», озвучивший героев множества мультфильмов. Часто работал с сёстрами Брумберг, написал для них сценарий фильма «Ночь перед Рождеством».
В ноябре 1926 года он вступил в брак с ученицей школы МХАТ В. В. Полонской, с которой разошёлся в 1933 году. В 1934 году женился на Н. С. Киселёвой (Ляле Чёрной) — актрисе театра «Ромэн». В 1942 году они развелись и Ляля Чёрная стала женой Николая Хмелёва. Третьей супругой Михаила Яншина в 1955 году стала актриса Драматического театра имени К.С.Станиславского Н.В.Мейер.
Похоронен актёр на Новодевичьем кладбище (7 участок).
Заслуженный артист РСФСР (27.10.1933)
Народный артист РСФСР (5.11.1947)
Народный артист СССР (17.05.1955)
