Le basi per questo sono state gettate dalla "Convenzione costituzionale di Herrenchiemsee". La Convenzione si riunì dal 10 al 23 agosto 1948 sull'isola di Chiemsee, in Baviera. Il Consiglio parlamentare ha seguito da vicino il suo progetto, che conteneva già i contorni della futura Legge fondamentale. Il Consiglio parlamentare può facilmente adottare i nomi degli organi federali (Bundestag, Bundesrat, Presidente federale, Governo federale, Corte costituzionale federale) dalla bozza di Herrenchiemsee, così come le innovazioni rispetto alla Costituzione di Weimar.
L'obiettivo di questi nuovi elementi era quello di aumentare la stabilità della seconda Repubblica tedesca. Ciò includeva l'abbandono quasi completo degli elementi plebiscitari, nonché il rafforzamento del Parlamento e del Cancelliere federale rispetto al Presidente federale (ampiamente esautorato). Inoltre, l'introduzione del "voto di sfiducia costruttivo" (articolo 67 della Legge fondamentale), secondo il quale un Cancelliere federale in carica può essere rovesciato dal Bundestag solo se contemporaneamente viene eletto un nuovo Cancelliere.
La "Convenzione di Herrenchiemsee" è anche all'origine della formulazione del principio della "democrazia contenziosa". Secondo questo principio, la democrazia deve essere disposta e capace di difendersi dai suoi nemici.
La ripartizione delle competenze tra il governo federale e i governi statali rimane controversa fino alla fine, soprattutto in materia finanziaria. Ampie fasce della CDU e della CSU sono federaliste estreme. Vogliono dare più influenza agli Stati federali. La SPD e la FDP, invece, chiedono un governo federale forte. Alla fine hanno prevalso le idee di SPD e FDP. In qualità di Presidente del Consiglio, Konrad Adenauer deve mediare tra il suo partito e i governatori militari che vogliono rafforzare il federalismo.
Konrad Adenauer il 23 maggio 1949 presso l'Accademia Pedagogica di Bonn (in seguito edificio del Bundesrat)Oggi, 23 maggio 1949, inizia un nuovo capitolo della movimentata storia della nostra nazione: dopo la firma e la promulgazione della Legge fondamentale, la Repubblica Federale Tedesca entra nella storia. Siamo tutti consapevoli di cosa significhi. Chiunque abbia vissuto consapevolmente gli anni dal 1933 [...] si commuove al pensiero che oggi, con il passaggio di questo giorno, nascerà la nuova Germania.
Risultato della votazione: 53 favorevoli contro 12 contrari
L'8 maggio 1949, la Legge fondamentale viene approvata dal Consiglio parlamentare con 53 voti favorevoli e 12 contrari. Il Partito di Centro, il PS e il KPD votano contro il progetto. Anche sei dei 13 rappresentanti della CSU respingono la Legge fondamentale, non ritenendo che la questione del federalismo e i riferimenti alla dottrina sociale cristiana siano adeguatamente rappresentati.
I governatori militari delle tre potenze occidentali approvano la Costituzione il 12 maggio 1949, così come dieci degli undici parlamenti statali. La Baviera vota contro la nuova Legge fondamentale. Il 23 maggio 1949, la Legge fondamentale viene promulgata dal Consiglio parlamentare ed entra in vigore il giorno successivo.
Bonn diventa la capitale federale "temporanea
Il Consiglio parlamentare aveva già deciso sulla questione della capitale il 10 maggio 1949. Bonn fu scelta come capitale federale "provvisoria" con 33 voti a favore. Ventinove deputati votarono a favore di Francoforte sul Meno, la sede della Paulskirche con la sua grande storia democratica. L'argomento principale a favore di Bonn era che sottolineava la natura provvisoria della nuova Repubblica.
Dopo l'entrata in vigore della Legge fondamentale, il 14 agosto 1949 si tengono le elezioni per il primo Bundestag, che viene costituito il 7 settembre 1949 - insieme al Bundesrat - a Bonn.
La prima Assemblea federale elegge Theodor Heuss come primo Presidente federale il 12 settembre 1949 e il Bundestag elegge Konrad Adenauer come primo Cancelliere federale il 15 settembre.
Da parte loro, gli Alleati mettono in vigore lo Statuto di occupazione il 21 settembre, imponendo significative restrizioni alla sovranità del nuovo Stato. Da quel momento in poi, la legge sull'occupazione si sovrappone all'intero sistema giuridico della Repubblica federale, compresa la Legge fondamentale. L'espansione della sovranità è una delle principali preoccupazioni del Cancelliere Adenauer negli anni a venire.