東歐的騷亂使赫魯曉夫聲望受損，其他政治派系勢力借機形成聯盟，莫洛托夫、卡岡諾維奇、伏羅希洛夫、馬林科夫、布林加寧等密謀推倒赫魯曉夫。1957年6月18日，部長會議主席布林加寧在克里姆林宮召開部長委員會會議。會議剛開始，馬林科夫、莫洛托夫、卡岡諾維奇輪番發言，猛烈抨擊赫魯曉夫是「托洛斯基主義和機會主義」，逼赫魯曉夫承認錯誤並且辭職。赫魯曉夫當然否認一切指控，激烈的辯論整整延續了三天。最後表決，主席團以七票對四票，通過撤銷赫魯曉夫黨內外一切職務的決議。然而赫魯曉夫長期掌握黨務工作，絕大多數身兼中央委員的地方幹部都是赫魯曉夫一手提拔，赫魯曉夫便要求召開中央委員會全體會議，討論自己的去留。當時與赫魯曉夫關係密切的國防部長朱可夫更下令用飛機將外地的中央委員帶到莫斯科。6月22日，在莫斯科召開的中央全會上，朱可夫嚴厲地指責莫洛托夫、卡岡諾維奇、馬林科夫在史太林時代大清洗中的罪行，反對派最終被擊敗。赫魯曉夫和莫洛托夫都作了報告，結果，多數中央委員支持赫魯曉夫，並決議譴責了馬林科夫、莫洛托夫、卡岡諾維奇的「反黨集團」，撤銷了他們的職務。

國防部長朱可夫元帥協助赫魯曉夫清除「反黨集團」後，成為主席團的重要成員，個人威望日漸升高，亦引起了赫魯曉夫的懷疑和恐懼。1957年10月19日，當朱可夫踏上出訪巴爾幹半島諸國的航程時，赫魯曉夫在得到大部份將領的支持下，於主席團通過了一項譴責朱可夫的決議，並撤銷了他國防部長的職務。1958年3月底，布林加寧也被免去部長會議主席職位，改由赫魯曉夫兼任。從此，赫魯曉夫擔任中央委員會第一書記的同時，又獲得了行政權力首腦的職責和權威。及後為統一領導所有與戰爭相關的部門，又專門成立了最高國防委員會，赫魯曉夫自然亦擔任委員會主席。從此赫魯曉夫獨攬黨、政、軍各方大權於一軍，掌控了整個蘇聯與蘇共的最高權力。