In un primo momento decisero di liberare completamente il territorio dalla presenza ebraica: essi, che già da tempo vivevano nella Germania in condizioni di separazione, isolamento e segregazione civile, andavano schiacciati, obbligati a emigrare, vennero portati in enormi ghetti delimitati da un muro. Con la proibizione di uscirvi, e con scarsa alimentazione e igiene tanto da produrre una serie infinita di morti. Tuttavia già dalla fine del 1940 questa soluzione si rivelò impraticabile: troppo piccolo il territorio e troppa la popolazione non ebraica che già vi abitava e che avrebbe dovuto essere trasferita a sua volta per far posto agli ebrei. Allora i nazisti puntarono sul «piano Madagascar», si progetto il trasferimento degli ebrei di tutta l' Europa nell'isola africana, con l'intenzione di predisporre condizioni di accoglienza da provocare la morte di almeno la metà dei deportati. Anche questo piano si concluse con un nulla di fatto. L'evoluzione stessa della guerra, però, offri ai nazisti condizioni nuove che aprirono la via della distruzione completa degli ebrei dell'Europa. Il compito fu affidato a truppe appositamente addestrate: circa 6.000 uomini che, nel volgere dei sei mesi fucilarono circa 700.000 ebrei, prelevandoli nelle città e nei villaggi, trasportandoli ai bordi delle foreste, costringendoli a scavare immense fosse comuni, e fucilandoli a grandi gruppi, ma neanche questo piano funzionò.
La soluzione che i nazisti misero in atto successivamente , consistette nella deportazione degli ebrei da tutte le zone dell'Europa sotto il loro domino(in particolare in Polonia) e nella costruzione di una serie di campi dotati di apparecchiature per l'uccisione e la distruzione di cadaveri organizzati industrialmente. A tale scopo vennero costruiti sei campi di sterminio, organizzati in modo molto diverso dalle altre centinaia di campi di concentramento, di lavoro forzato e di prigionia che i tedeschi gestivano in tutta Europa: il più tristemente celebre fu quello di Aushwitz-Birkenau, attivo dalla primavera del 1942 e destinato a tutte le attività di sterminio, lavoro, e deportazione. Qui, tutto il processo assumeva le caratteristiche di una orribile efficienza «produttiva»: dall'arrivo dei treni carichi di deportati, all'incenerimento dei corpi dei disgraziati uccisi con il gas asfissiante. Per esempio, il campo di Treblinka, cui furono destinati gli ebrei del ghetto di Varsavia, nell'agosto del 1942 fece scomparire 142.000 persone; Aushwitz giunse ad inghiottire, fino a 24.000 persone «al giorno». Il genocidio su larga scala ebbe inizio nel 1941, in concomitanza con la guerra contro l'URSS, e divenne intenso nel 1942, sopratutto nell'estate, quando tutti i campi di sterminio erano in piena attività. Verso la fine del 1944 Himmler (uno dei principali collaboratori con Hitler) ordinò il rallentamento delle uccisioni, per utilizzare, il lavoro schiavizzato degli ebrei e degli altri deportati.
Gli ebrei hanno chiamato questo drammatico evento: "Shoah".