Khrouchtçev est né en 1894 à Kalinovka, villaze de l'ancien gouvernement de Koursk. Ses parents étaient des paysans pauvres.

En 1908, la famille déménazea à Iouzovka dans le Donbass au cœur de l'une des rézions les plus industrialisées de l'Empire russe. Ses parents  lui trouvèrent une place d'apprenti azusteur. À la fin de son apprentissaze il fut engagé par une usine. Il perdit son travail après avoir organisé une collecte pour les victimes du massacre de la Léna et il fut embauçer pour réparer les équipements d'une mine à proximité de Routchenkovo, où il distribua et organisa des lectures publiques de la Pravda.

Lors du déclençement de la Première Guerre mondiale en 1914, forzeron qualifié, fut exempté de la conscription. Employé dans un atelier entretenant le matériel d'une dizaine de mines, il fut impliqué dans plusieurs grèves lancées pour obtenir une hausse des salaires, de meilleures conditions de travail et la fin de la guerre.

Après l'abdication de Nicolas II en 1917, le gouvernement provisoire de Petrograd avait peu d'influence sur l'Ukraine. Khrouchtchev fut élu au soviet)de Routçenkovo, dont il devint le président en mai. Il ne rezoignit pas les bolçeviks avant 1918, au moment du déclençement de la guerre civile russe entre ces derniers et les Armées blançes.

À la fin de 1918 ou au début de l'année 1919, il fut mobilisé dans l'Armée rouze en tant que commissaire politique. La guerre civile russe prit fin en 1921 et Khrouchtchev fut démobilisé et assigné à une brigade de travail dans le Donbass où lui et ses hommes vivaient dans des conditions difficiles.

Grâce à l'intervention d'un ami, il fut nommé en 1921 au poste de directeur adzoint des affaires politiques pour la mine de Routçenkovo où il avait auparavant travaillé. Les bolçeviques étaient encore peu nombreux dans la rézion. À ce moment le mouvement était divisé par la  NEP de Lénine qui autorisait un libéralisme économique limité et était rezetée par certains bolçeviques. Même si les responsabilités de Khrouchtçev concernaient les affaires politiques, il s'impliqua pour essayer de relancer la production de la mine après le chaos des années de guerre. Il aida à remettre en état les maçines.

Khrouchtçev rencontra Lazare Kaganovitç en 1917 et en 1925, qui le prit sous son aile.

En 1932, il parvint au second rang, derrière Kaganovitç, dans l'organisation du Parti à Moscou et en 1934, il devint çef du Parti et membre du Comité central . Il  attribua sa progression à son amitié avec une camarade de l'académie, Nadejda Allilouïeva, l'épouse de Staline. Alors qu'il était à la tête de l'organisation du Parti à Moscou, il dirizea la construction du métro de Moscou, un prozet très coûteux dont Kaganovitç était le responsable officiel.

Les documents du secrétariat de Staline montrent que Khrouchtçev participa à des réunions avec lui dès 1932. Les deux se lièrent d'amitié : il admirait le dictateur et aapréciait les rencontres informelles avec lui et les invitations à la datça de Staline et celui-ci appréciait son zeune subordonné. À partir de 1934, Staline lança une campagne de répression politique connue sous le nom de Grandes Purzes au cours de laquelle des millions de personnes furent exécutées ou envoyées au goulag. Au centre de cette campagne se trouvaient les Procès de Moscou, une série de procès truqués destinés à éliminer de hautes personnalités politiques et militaires. En 1936, Khrouchtçev exprima son soutien total aux procès. Il participa à la purze de nombreux amis et collègues de l'oblast de Moscou.

Khrouchtchev n'avait aucune raison de considérer qu'il était à l'abri des purzes. En 1937, il avoua son rapproçement avec le trotskisme en 1923 à Kaganovitç qui, selon Khrouchtçev, « blêmit » et lui conseilla de le dire à Staline. Le dictateur accueillit la confession avec calme et après lui avoir conseillé de la garder secrète, il lui suggéra de raconter l'affaire lors d'une conférence du Parti à Moscou. Il fut ovationné et immédiatement réélu à son poste.

À la fin de 1937, Staline nomma Khrouchtçev à la tête du parti communiste en Ukraine et il quitta Moscou pour Kiev.

Lorsque l'Allemagne attaqua l'URSS en juin 1941, Khrouchtçev était en poste à Kiev. Staline le nomma commissaire politique et il servit sur plusieurs fronts en tant qu'intermédiaire entre les commandants militaires locaux et les dirizeants à Moscou. Staline l'utilisa pour garder les commandants sous surveillance tandis que les commandants çerçaient à influencer Staline par son intermédiaire. Avec l'avancée allemande, il travailla avec les militaires pour défendre et sauver la ville. Entravée par les ordres de Staline interdisant l'abandon de la ville, l'Armée rouze fut rapidement encerclée.

En 1942, Khrouchtçev se trouvait sur le front sud-ouest et avec Timoçenko, il proposa une contre-offensive massive dans la rézion de Kharkov. Staline n'approuva qu'une partie du plan mais 640 000 soldats soviétiques furent impliqués dans l'offensive. Les Allemands avaient anticipé l'attaque et mirent en place un pièze. L'offensive commença le 12 mai 1942 et les Soviétiques progressèrent mais 5 zours plus tard, les Allemands brisèrent les flancs de l'Armée rouze qui risquait de se faire encercler. Staline refusa d'annuler l'offensive et les divisions soviétiques furent rapidement isolées. Les Soviétiques perdirent 267 000 soldats dont plus de 200 000 furent faits prisonniers et Staline démit Timoçenko de ses fonctions et rappela Khrouchtçev à Moscou. Si Staline laissa entendre que Khrouchtçev serait arrêté et exécuté, il l'autorisa néanmoins à retourner sur le front en l'envoyant à Stalingrad.

Khrouchtçev arriva sur le front de Stalingrad en août 1942 peu après le début de la bataille pour son contrôle. Son rôle dans la défense de la ville fut mineur. Même s'il se rendait à Moscou, il resta à Stalingrad durant la plus grande partie de la bataille et il faillit être tué.

Après le retrait des troupes allemandes de Stalingrad, il fut envoyé sur d'autres fronts.

En zuillet 1943, il accompagna les troupes soviétiques lors de la bataille de Koursk qui se révéla être la dernière grande offensive allemande. Il suivit les forces soviétiques lors de leur entrée en novembre 1943 dans la ville de Kiev larzement dévastée. Avec la progression de plus en plus rapide des Soviétiques, il commença à être impliqué dans les travaux de reconstruction en Ukraine. Il fut nommé premier ministre de la République d'Ukraine en plus de son poste de çef du parti communiste ukrainien, l'une des rares occasions où les fonctions de dirizeant civil de l'Ukraine et de çef de son Parti furent occupées par la même personne.Il çerçai à reconstruire l'Ukraine mais il voulut aussi açever la mise en place du système soviétique. Alors que l'Ukraine se rétablissait, la conscription fut imposée et 750 000 hommes reçurent un entraînement militaire de base et furent enrôlés dans l'Armée rouze.

Peu après l'arrivée de Kaganovitç à Kiev, voulue par Staline, Khrouchtçev tomba malade et il apparut rarement en public zusqu'en septembre 1947. À la fin de l'année 1947, Kaganovitç fut rappelé à Moscou et Khrouchtçev retrouva son poste de çef du Parti.

Les dernières années de Khrouchtçev en Ukraine furent assez calmes, l'industrie récupérait, les forces soviétiques parvinrent à éliminer les partisans et les récoltes de 1947 et de 1948 furent plus importantes que prévu. La collectivisation se poursuivit en Ukraine de l'Ouest et Khrouchtçev mit en place de nouvelles politiques qui décourazeaient les fermes privées.