英法美三国按照西方自由、民主的精神对西占区进行了民主化改造，并逐步建立起了地方各级议会和民主政府。在军政府的严格监督下，各州先后制订了以联邦制和分权制为特征的州宪法，从而为后来西德联邦《基本法》的制定和联邦德国的建立奠定了基础。
尽管柏林危机结束了，但德国分裂的局面却是已成定局。1948年7月1日，美英法按照《伦敦议定书》的精神，筹备起草德国宪法和规定占领国与德国之间关系的占领法。在美英法三国军事长官的邀请下，西占区11个州的总理齐聚法兰克福，开始就制宪和建立西德国家问题展开谈判。在此之前的6月14日，美占区军事长官克莱就已经向各州总理通知了《伦敦议定书》的内容。而在这次法兰克福会议上，军事长官们则正式向州总理们散发了《立宪决议》（Verfassungsrechtliche Bestimmungen）、《重划各州》（Lndernneugliederung）和《占领法规基本原则》（Gerundzüge eines Bezatzungstatus）三个文件。其内容主要包括：授权各州总理召开代表会议，为成立联邦式的政府起草宪法；参加联邦的各州通过公民投票以简单多数通过宪法，一旦该宪法为2/3联邦州所通过，宪法即在全联邦生效；各州总理审核各州边界；在授予未来德国国家立法、行政、司法权力的同时，占领当局也将保留必要的权限，以保证实现占领的基本目标；占领国保留的权限包括：领导德国外交；监督外贸；对已达成或即将达成的协议所规定的相关事项，如《鲁尔国际管制条约》，进行监督。这三个文件合称“法兰克福文件”，它对西德政府的成立意义重大。
7月8—10日，西占区州总理在科布伦茨（Koblenz）讨论占领当局发下的三个文件。社会民主党主张加强中央政府权力，基督教民主联盟赞同地方分权，两家都反对占领当局提出的在9月1日制订宪法，认为时机不成熟。社会民主党建议召开包括苏占区在内的制宪会议，成立统一的、主权的德国。基督教民主联盟认为，若外交与外贸控制在占领当局手中，“法兰克福的建议意味着不存在德国的主权”。
10日，西占区各州总理向克莱汇报讨论情况，并在三个附件中对“法兰克福文件”提出了修改意见：（1）避免将即将制定的法律称之为“宪法”，以免将德国的分裂固定化；改宪法为“基本法”，据说这是援引1875年法国在普鲁士军事占领下的先例，当时也不称宪法，叫“基本法”；“基本法”不必经公民投票，为今后统一德国留下余地，“只有全体德国人民进行自由表决时，才能产生一部德国宪法”；（2）先公布占领法的内容，然后再制订“基本法”；希望除保证占领军安全、维持德国的民主秩序、非军事化和履行国际协定的义务外，其余行政权、立法权、司法权等均应交德国；（3）外贸应不受占领当局监督、鲁尔国际管制不应列入占领法、德国有权自行管理警察；军事长官应每隔一定时间审查占领国所保留的权限。墨菲概括西占区各州总理的意见是，“他们非常希望不要确立‘制宪会议’‘宪法’和‘政府’。总之，他们力图避免采取被人看成是成立‘国家’的任何措施”。
7月14日，克莱召见美占区州总理，对西德人的修改意见逐条进行了批评，并明确表示，《伦敦议定书》是一个整体，它要么被全部接受，要么就得由六国重新制定，但重新制定须耗费大量时间，不符合眼下的形势需要。但是，墨菲“仔细研究了州总理提出的草案后，发现大都是可接受的，可以作为最终确定占领法的令人满意的谈判基础”。不过，墨菲也坚决拒绝州总理们将鲁尔排除在占领法之外和限制军事长官在司法方面权限的要求。7月15日，国务卿马歇尔批准了墨菲的意见，贝文也无异议。在经过多轮磋商之后，西占区军事长官和州总理们终于在7月26日达成协议，决定成立一个所谓的“议会委员会”（Parlamentarische Rat）代替制宪会议制定“基本法”。第二天，州总理会议通过《议会委员会立法的模式与依据》（Model und Begründung eines Gesetzesüber den Parlamentarische Rat）文件，对议会委员会的任务、选举方法、工作程序、与各州议会及政府的关系作出了详细的规定。8月10日，各州总理选出一个法律专家组成的“宪法问题专家委员会”，在黑伦希姆泽（Herenchimsee）召开会议，为议会委员会准备供讨论用的“基本法”草案。
二、《基本法》的制定
1948年9月1日，议会委员会在波恩教育学院举行开幕仪式，盟国高级官员应邀出席。议会委员会由6个政党的65名代表（按每75万居民选1名代表，黑森州代表由州议会指定）组成，其中西德两大政党，即由“基民盟”和“基社盟”组成的联盟党和社会民主党各占27名，自民党5名，德意志党、中央党和德国共产党各2名。基督教民主联盟的阿登纳当选为主席。黑森州总理、社会民主党人克里斯蒂安·斯托克（Christian Stock，1884—1967）以州总理联席会议主席身份致开幕词，“他把这次会议称为德国战后史上的新篇章”。之后，阿登纳以议会委员会主席身份致答词，开宗明义地提到议会委员会的任务是起草一部《基本法》。他说：“我们鉴于德国的艰难处境和意识到对我国人民所负的责任，聚集一堂来群策群力地起草一部《基本法》。我们议会委员会工作坚定的目标是，要写出这样一部宪法：使全德统一的可能性永久地存在下去，使德国的东部地区在任何时候能在这个新国家里有自己的位置。”
然而，对于希望早日重新恢复德国主权的西德政治家们来说，制定一部过渡时期的《基本法》可绝非易事。一方面，西德各主要政党在建国原则和国家体制方面还存在着重大分歧；另一方面，未来的《基本法》还必须得到占领当局的批准并与占领当局所制定的占领法相符。
议会委员会中两大党——联盟党和社民党在未来西德国家的联邦制原则，尤其是在联邦与州财政分权方面存在着不小的分歧。社民党在1947年夏通过了《建立德意志共和国的纽伦堡纲领》，要求赋予未来联邦中央政府强大的行政能力和牢固的财政控制权。“统一的财政政策是非常必要的，这既是因为财政是控制经济的重要手段，也是为了满足重建中巨大的财政支出需要。”但是，联盟党中的绝大多数成员则认为，各州应对中央政府保持独立性，尤其在财政上不应依赖于联邦政府。“联邦与各州的权限应彼此分明。”在1948年10月13、14、21日进行的三次议会委员会党团内部辩论中，两大党在财政权归属问题上各持己见，冲突激烈。在其他小党中，中央党支持社民党，德意志党等支持联盟党。
占领当局对议会委员会在联邦分权问题上的争论也十分关切。其实，在西方盟国内部，也对这一问题有不同看法。法国不希望德国拥有一个强大的中央政府，英国则出于维持西德稳定的考虑，要求在坚持联邦制的原则下，赋予中央政府更多的权力，美国的观点则接近联盟党，希望西德能够成为美国式的分权制联邦国家。最终，还是美国的观点占据了上风。1948年10月19日，占领当局在给阿登纳的一份文件中指出，他们希望未来联邦政府在财政方面的权力仅限于“征税和为行使宪法所赋予的职责而分配资金”。为谋求整个联邦的统一，联邦政府可以制定税率，并颁布征收其他捐税的整体性规定，但应当由各州来征收和使用这些税款。与此同时，盟国也强调，由于《基本法》尚在讨论中，他们还不可能或者不需要在这一问题上作出正式的判断。
1948年11月22日，西占区军事长官向议会委员会递交一份备忘录，正式对他们所了解到的《基本法》条款提出修改意见。占领当局认为，未来联邦政府的权力“应被明确限制在宪法所规定的范围内”。除财政方面的限制外，联邦政府不应插手以下领域：教育、文化宗教事务；地方政府和公共卫生，“除非其协调政策对几个州居民的健康至关重要”；公共福利方面的职能要限制在社会安全措施的协调方面；在占领时期警察权要特别得到军事长官的批准；对联邦执行和管理机构的建立规定应明确，且这些机构只能是当州政府无法执行相应权力时才能建立。阿登纳向议会委员会成员解释说，盟国主要是对《基本法》草案中州与联邦财政分权问题表示不满，希望议会委员会认真考虑盟国的意见。但是，委员会中的社民党党团主席表示，社民党不能接受盟国在备忘录中的修改建议。之后，阿登纳和议会委员会成员多次与占领当局就这一问题进行谈判和交换意见，但始终没有结果。
1949年2月11日，议会委员会完成了《基本法》的制定工作，并将其递交占领当局审核。由于这份草案没有按照盟国的要求作出修改，因此很快就遭到了占领当局的否决。3月2日，西占区军事长官向议会委员会递交了关于《基本法》草案修改意见的备忘录，指责的重心依然是联邦和州的分权问题。备忘录指出：“现行《基本法》草案第36条在规定联邦政府的权力时没有足够的条款来保证各州在联邦体制中的地位。”备忘录要求议会委员会删除现行《基本法》草案第36条，而代之以他们所给出的条款。1949年4月5日，三个占领国的外长向三国军事长官发出一份备忘录，拒绝在《基本法》条文方面对西德人作出让步。
阿登纳主张对占领当局实行妥协，在联邦体制的问题上对盟国作出让步，以求西德国家能早日建立。“我并不认为，财政问题是这样一个重要问题，因为它而置整个《基本法》于不顾。如果《基本法》因列入了盟国所希望的财政处理方案而被通过，如果在实施了两三年之后表明，对财政问题所规定的解决办法既无益于联邦，也无益于各州，然后，再作出修改决定，那就可以预料，这个问题完全可能获得盟国同意。”然而，社民党却坚决不想让步。4月20日，社民党主席舒马赫在汉诺威党代表大会结束后宣布，只有在满足联邦政府享有独立财政权等条件下，才能接受《基本法》。
鉴于社民党的强硬态度，盟国决定作出让步。1949年4月22日，三国外长将事先准备好的那份措辞缓和的备忘录转交议会委员会，基本同意《基本法》草案中关于联邦与州分权的规定。“在财政方面，议会委员会所建议的每一条规定都得到善意的赞赏，因为它的目的是保证各州政府和联邦政府在财政方面都有独立性，保证它们在各自的主权范围内行使自己的权力时拥有相应的经济力量；关于第36条的问题，外长们对每一项条款也表示认同：（1）《伦敦议定书》所明确指出与联邦无关的一切事务，不列入联邦的职权范围之内；（2）保证各州拥有足够的权力，使它们成为独立的强有力的国家机构；（3）保证联邦在重大的国家事务方面拥有足够的权力，使它足以有效地处理那些涉及一个州以上的利益的重要任务。”
就在占领当局和议会委员会讨论西德国家体制问题的同时，全称《明确占领国所保留之权力的占领法规》（Occupation Statute Definingthe Powersto Be Retained by The Occupation Authorities，简称《占领法规》）也在多次协商之后出台了。8月中，美英法成立三方委员会根据5月9日六国伦敦会议通过的军事长官和德国临时政府权限规定的文件，开始起草占领法规。为了使《基本法》不与《占领法规》相冲突，西占区州总理和议会委员会一致要求能尽早看到《占领法规》，或者了解其中的某些重要内容。但是，由于当时西方三国在德国拆迁和建立鲁尔国际管制机构问题上还存在着较大分歧，《占领法规》迟迟未能公布。1949年4月初，三大占领国召开华盛顿外长会议。会上，美国以同意建立鲁尔国际管制机构为筹码，逼迫英法同意修改德国拆迁计划和签署《占领法规》。4月10日，三国外长将《占领法规》草案转交议会委员会，决定一旦德意志联邦共和国建立，三国军政府就将代之以文职的高级专员委员会和占领军最高司令。其中高级专员将负责监督德国当局，而最高司令则主要负责军事工作。
随着盟国在西德国家体制问题上作出让步和《占领法规》的脱稿，《基本法》出台的条件也逐渐成熟。1948年5月8日，议会委员会以53票对12票通过了《基本法》草案。5月12日，占领当局正式批准《基本法》并公布《占领法规》。一周之后，西占区11个州中有10个州议会批准了《基本法》，达到先前所规定的2/3多数。5月23日，《基本法》正式生效，其法律效力将一直延续到德国统一和全德举行自由选举之时。
三、德意志联邦共和国的建立
1949年5月23日，苏美英法四大国外长会议在巴黎召开。会议主要讨论德国问题，包括德国的重新统一、柏林问题、币制改革和对德和约等。在会上，苏联外长安德烈·维辛斯基（Andrey Vyshinsky，1883—1954）提议恢复破裂一年多的盟国对德管制委员会；缔结对德和约，各自占领军自缔结和约后一年内从德国撤退；建议以苏占区和西占区现有经济机构为基础，建立全德国务会议，并使其具有政府职能。美国国务卿艾奇逊认为，苏联这些建议“就像要求一个已经恢复了3/4的瘫痪病人重新全部瘫痪似的”。5月28日，美国在会上提出反建议，要求将波恩宪法推广到整个德国，实现德国统一。维辛斯基拒绝了美国的建议。6月20日，四大国外长会议无果而终。
1949年8月14日，德国西占区举行第一届联邦议院选举，共选出402名议员，联盟党获139席，为第一大党，社民党131席紧随其后，自民党52席，巴伐利亚党和德意志党各17席，德共12席，经济建设联合会12席，中央党10席，德意志国家党5席，无党派人士3席。9月7日，联邦议院和联邦参议院正式宣告成立。12日，自民党特奥多尔·豪斯当选首任联邦总统。15日，阿登纳以1票的微弱多数被选为联邦政府总理。20日，德意志联邦共和国正式建立，定都波恩（Bonn）。