وقد وضع الأساس لذلك "مؤتمر هيرينشيمسي الدستوري". اجتمع المؤتمر من 10 إلى 23 أغسطس 1948 في جزيرة تشيمسي في بافاريا. وقد تابع المجلس البرلمانيّ عن كثب مسودته التي تضمنت بالفعل الخطوط العريضة للقانون الأساسيّ المستقبليّ. ويمكن للمجلس البرلماني أن يتبنى بسهولة أسماء الهيئات الاتحادية (البوندستاغ، البوندسرات، الرئيس الاتحادي، الحكومة الاتحادية، المحكمة الدستورية الاتحادية) من مسودة هيرينشيمسي، بالإضافة إلى الابتكارات مقارنة بدستور فايمار.
كان الهدف من هذه العناصر الجديدة هو زيادة استقرار الجمهورية الألمانية الثانية. وشمل ذلك التخلي شبه الكامل عن العناصر المتعلقة بالاستفتاء الشعبي، بالإضافة إلى تعزيز دور البرلمان والمستشار الاتحادي في مواجهة الرئيس الاتحادي (الذي تم إضعافه إلى حد كبير). علاوة على ذلك، تم إدخال "التصويت البناء بحجب الثقة" (المادة 67 من القانون الأساسي)، والذي بموجبه لا يمكن إسقاط المستشار الاتحادي الحالي من قبل البوندستاغ إلا إذا تم انتخاب مستشار جديد في نفس الوقت.
كما أن "اتفاقية هيرينشيمسي" هي أيضًا أصل صياغة مبدأ "الديمقراطية التنازعية". ووفقًا لهذا المبدأ، يجب أن تكون الديمقراطية مستعدة وقادرة على الدفاع عن نفسها ضد أعدائها.
لا يزال تقسيم الاختصاصات بين الحكومة الاتحادية وحكومات الولايات مثيرًا للجدل حتى النهاية، خاصة في المسائل المالية. فأقسام كبيرة من حزب الاتحاد الديمقراطي المسيحي والاتحاد الاجتماعي المسيحي من أنصار الفيدرالية المتطرفة. فهم يريدون منح الولايات الاتحادية المزيد من النفوذ. ومن ناحية أخرى، يدعو الحزب الاشتراكي الديمقراطي والحزب الديمقراطي الحر إلى حكومة اتحادية قوية. وفي النهاية، انتصرت أفكار الحزب الاشتراكي الديمقراطي والحزب الديمقراطي الحر. كان على كونراد أديناور، بصفته رئيسًا للمجلس، أن يتوسط بين حزبه والحكام العسكريين الذين يريدون تعزيز الفيدرالية.
كونراد أديناور في 23 مايو 1949 في الأكاديمية البيداغوجية في بون (مبنى المجلس الاتحادي الألماني فيما بعد)يمثل اليوم، 23 مايو 1949، بداية فصل جديد في تاريخ أمتنا الحافل بالأحداث: اليوم، وبعد التوقيع على القانون الأساسي وإصداره، تدخل جمهورية ألمانيا الاتحادية التاريخ. ونحن جميعًا ندرك جميعًا ما يعنيه ذلك. كل من عايش بوعي السنوات التي تلت عام 1933 [...] سوف يتأثر بفكرة أن اليوم، وبمرور هذا اليوم، ستخرج ألمانيا الجديدة إلى حيز الوجود.
نتيجة التصويت: 53 مؤيداً مقابل 12 معارضاً.
في 8 مايو 1949، وافق المجلس البرلماني على القانون الأساسي بأغلبية 53 صوتًا مقابل 12 صوتًا. وصوّت حزب الوسط والحزب الديمقراطيّ والحزب الديمقراطيّ الألمانيّ ضد المشروع. كما رفض ستة من نواب الاتحاد الاجتماعي المسيحيّ الـ13 القانون الأساسيّ، إذ لم يشعروا أن مسألة الفيدرالية والإشارة إلى التعاليم الاجتماعية المسيحية ممثلة بشكل كافٍ.
ويوافق الحكام العسكريون في القوى الغربية الثلاث على الدستور في 12 مايو 1949، وكذلك عشرة من برلمانات الولايات الإحدى عشرة. صوتت بافاريا ضد القانون الأساسي الجديد. في 23 مايو 1949، صدر القانون الأساسيّ عن المجلس البرلمانيّ ودخل حيز التنفيذ في اليوم التالي.
أصبحت بون العاصمة الاتحادية "المؤقتة"
وكان المجلس البرلماني قد اتخذ قراره بشأن مسألة العاصمة في 10 مايو 1949. وتم اختيار بون كعاصمة اتحادية "مؤقتة" بأغلبية 33 صوتًا مؤيدًا. صوّت تسعة وعشرون نائبًا لصالح اختيار فرانكفورت أم ماين، موقع كنيسة القديس بولس بتاريخها الديمقراطي العظيم. كانت الحجة الرئيسية لصالح بون هي أنها أكدت على الطبيعة المؤقتة للجمهورية الجديدة.
بعد دخول القانون الأساسي حيز التنفيذ، تُجرى الانتخابات في 14 أغسطس 1949 لأول بوندستاغ، والذي يتم تشكيله في 7 سبتمبر 1949 - مع البوندسرات - في بون.
انتخبت الجمعية الاتحادية الأولى تيودور هوس كأول رئيس اتحادي في 12 سبتمبر 1949، وانتخب البوندستاغ كونراد أديناور كأول مستشار اتحادي في 15 سبتمبر.
من جانبهم، وضع الحلفاء قانون الاحتلال حيز التنفيذ في 21 سبتمبر، وفرضوا قيودًا كبيرة على سيادة الدولة الجديدة. ومنذ ذلك الحين، يتداخل قانون الاحتلال مع النظام القانوني للجمهورية الاتحادية بأكمله - بما في ذلك القانون الأساسي. ويعد توسيع نطاق السيادة أحد الشواغل الرئيسية للمستشار أديناور في السنوات القادمة.