Auch die Ministerpräsidenten der Länder und die Regierenden Bürgermeister Hamburgs und Bremens waren zunächst skeptisch: Sie befürchteten, die Sowjetunion könnte eine westdeutsche Verfassung zum Anlass nehmen, in ihrer Besatzungszone einen eigenen Staat zu gründen.
Die Militärgouverneure Frankreichs, Großbritanniens und der USA bestellten die deutschen Länderchefs dennoch nach Frankfurt am Main ein. Dort übergaben sie ihnen die „Frankfurter Dokumente“. Darin stand, dass die Ministerpräsidenten eine verfassunggebende Versammlung einberufen sollten. Über die Annahme der Verfassung sollte eine Volksabstimmung entscheiden.
Außerdem empfahlen die Dokumente eine teilweise neue Grenzziehung der deutschen Länder und enthielten Grundzüge des künftigen Besatzungsstatuts, wonach Westdeutschland relativ frei über seine Gesetze, seine Justiz und seine Verwaltung entscheiden dürfe, aber die Alliierten die Kontrolle über die Außenbeziehungen und den Außenhandel haben sollten.
Eine Woche nach dem Treffen in Frankfurt, am 8. Juli 1948, kamen die Ministerpräsidenten in Koblenz zusammen, um über die Dokumente zu beraten. Anders als die Militärgouverneure sie angewiesen hatten, wollten die Länderchefs keine verfassunggebende Versammlung einberufen, sondern lediglich einen „Parlamentarischen Rat“. Die Verfassung sollte nicht „Verfassung“ heißen, sondern nur „Grundgesetz“. Ein Referendum lehnten sie ab.
Ein Verfassungskonvent traf sich im August 1948 im Alten Schloss Herrenchiemsee und arbeitete einen Entwurf für eine Verfassung aus, auf dessen Grundlage der Parlamentarische Rat in Bonn ab September über den Wortlaut des Grundgesetzes beriet. Am 12. April 1949 einigten sich die Militärgouverneure mit dem Parlamentarischen Rat. Am 8. Mai verabschiedete das Plenum des Rates das Grundgesetz, anschließend ratifizierten es die Länderparlamente – mit Ausnahme des bayerischen Landtags.
Die CSU-Regierung hatte ihren Abgeordneten die Ablehnung empfohlen, weil sie das Grundgesetz für zu zentralistisch und zu wenig christlich hielt. An der Geltung der Verfassung auch für Bayern änderte das nichts, weil zu diesem Zeitpunkt bereits die geforderten zwei Drittel der westdeutschen Länder zugestimmt hatten. Um Mitternacht nach der Verkündung des Grundgesetzes, um 0 Uhr am 24. Mai 1949, trat es in Kraft.