Natten mellom den 12. og 13. august ble grensen plutselig stengt - piggtråd ble rullet ut, hinder ble oppført og gater ble gravd opp. Familier, venner og naboer ble hjerteløst splittet. Neste steg var å skape et ca. 100 meter bredt ingenmannsland for å motstå fluktforsøk. Alle bygninger som lå ved grensen ble revet og et parallelt gjerde ble oppført. Ingenmannslandet, som ofte kalles for dødssonen, ble fylt med sand og grus. Litt om litt begynte man å oppføre betongmuren, som ble forsterket med mange ulike type hinder på den østtyske siden. Den vesttyske siden av muren ble så dekket av fargerik graffiti som en protest mot murens eksistens.
Muren hadde ønsket effekt - det ble mye vanskeligere for østtyskere å flykte til vest. Ca. 5000 personer lykkes likevel med å flykte i løpet av årene. På denne tiden ble folk svært oppfinnsomme, man gravde tunneler, forsøkte å fly luftballong eller kjøre bil i full fart gjennom sperringer ved grenseovergangen. Det ble derfor gjort enda vanskeligere å flykte ved at flere hinder ble oppført.