Великая Отечественная война
Совершил выдающийся и по тем временам исключительно рискованный поступок: сделав вывод из имеющихся данных об опасности нападения врага на СССР, поздно вечером 21 июня 1941 года отдал приказ о приведении войск округа в боевую готовность, о занятии приграничных укреплений и выводе войск из мест постоянной дислокации, о немедленном перемещении авиации по полевым аэродромам (в ряде публикаций указывается, что Захаров убедил отдать такой приказ командующего округом Я. Т. Черевиченко, однако Черевиченко в своих воспоминаниях указывает именно на инициативу Захарова). Начало войны подтвердило правильность данного приказа, а войска округа избежали разгрома и организованно вступили в бой. Советский ас-истребитель маршал авиации А. И. Покрышкин, служивший перед войной в ВВС Одесского военного округа, вспоминает в своих мемуарах «Небо войны», что когда утром 22 июня вражеская авиация разбомбила постоянный аэродром его полка, там оказался уничтоженным единственный находившийся на аэродроме самолёт, не успевший накануне перелететь на запасной аэродром из-за поломки. Противнику удалось нанести удар только по аэродромам в Бендерах и Гросулово, где самолёты не смогли подняться в воздух с размытого дождями лётного поля.
С июля 1941 года — начальник штаба Главного командования войсками Северо-Западного направления. С августа 1941 года — заместитель начальника Главного управления Тыла Красной Армии. С декабря 1941 года и до конца войны — в действующей армии, последовательно занимал должности начальника штаба Калининского (с декабря 1942), Резервного (с апреля 1943), Степного (с июня 1943), 2-го Украинского (с октября 1943 по май 1945) фронтов. Часто был начальником штаба разных фронтов при командующем И. С. Коневе (до мая 1944). Особенно успешно проявил себя в таких крупных операциях, как Белгородско-Харьковская, Кировоградская, Корсунь-Шевченковская, Уманско-Ботошанская, Ясско-Кишинёвская, Дебреценская, Будапештская, Венская, Пражская. Кроме того, штабы этих фронтов под руководством генерала М. В. Захарова самостоятельно разработали и провели около 20 фронтовых наступательных операций.
С июля 1945 года — начальник штаба Забайкальского фронта. В ходе Советско-японской войны в августе 1945 года фронт провёл Хингано-Мукденскую наступательную операцию.
Послевоенное время
С октября 1945 года М. В. Захаров — начальник Высшей военной академии (тогдашнее наименование Военной академии Генерального штаба). С января 1949 года — заместитель начальника Генерального штаба по разведке — начальник Главного разведывательного управления Генерального штаба. С июля 1952 года — Главный инспектор Советской Армии. С мая 1953 года — командующий войсками Ленинградского военного округа. С ноября 1957 года — Главнокомандующий Группой советских войск в Германии.
С апреля 1960 года — начальник Генерального штаба Вооружённых Сил СССР. В марте 1963 года понижен в должности до начальника Военной академии Генерального штаба (в некоторых мемуарах упоминается о предшествующем этому событию конфликте М. В. Захарова с Н. С. Хрущёвым по какому-то военному вопросу, сам Хрущёв в своих мемуарах утверждал, что настаивал на смещении Захарова из-за его возраста). Сразу после отстранения Хрущёва от власти, в ноябре 1964 года Захаров повторно назначен вместо погибшего в авиационной катастрофе С. С. Бирюзова начальником Генерального штаба Вооружённых Сил СССР — первым заместителем Министра обороны СССР. В 1967 году находился в длительной командировке в Египте, решая вопросы восстановления египетской армии после разгрома от Израиля в Шестидневной войне.
Хрущёв объявил Захарова открывшим «движение сталинистов».
Член ЦК КПСС с 1961 г. Депутат Верховного Совета РСФСР 2-го (1947—1952) созыва. Депутат Верховного Совета СССР 4-8-го (1954—1972) созывов.
С сентября 1971 года — генеральный инспектор Группы генеральных инспекторов Министерства обороны СССР. Похоронен в Кремлёвской стене на Красной площади в Москве.
Советская марка, посвящённая М. В. Захарову, 1978 год.
Воинские звания
-Комбриг (16.07.1937);
-комдив (22.02.1938);
-комкор (9.02.1939);
-генерал-майор (4.06.1940);
-генерал-лейтенант (30.05.1942);
-генерал-полковник (20.10.1943);
-генерал армии (29.05.1945);
-Маршал Советского Союза (8.05.1959).
Труды
-Операция на окружение.
-Тактика высших соединений.
-О научном подходе к руководству войсками. М. Воениздат 1967
-Человек и техника.
-О принципах и методах военного обучения.
-Накануне великих испытаний. М., 1968.
-Генеральный штаб в предвоенные годы. М., 1989.
Награды
СССР
-Дважды Герой Советского Союза (8.09.1945 г., 22.09.1971 г.);
-5 орденов Ленина (21.02.1945 г., 8.09.1945 г., 21.06.1957 г., 2.02.1958 г., 22.02.1968 г.);
-орден Октябрьской Революции (16.08.1968);
-4 ордена Красного Знамени (22.02.1938 г., 31.12.1942 г., 3.11.1944 г., 6.11.1947 г.);
-2 ордена Суворова 1-й степени (13.09.1944 г., 28.04.1945 г.);
-2 ордена Кутузова 1-й степени (27.08.1943 г., 22.02.1944 г.);
-орден Богдана Хмельницкого 1-й степени (17.05.1944);
-орден Красной Звезды (31.12.1939);
-почётное оружие с золотым изображением Государственного герба СССР (22.02.1968);
-медали;