毛泽东亲自挂帅，担任了宪法起草委员会的主席。他对宪法起草工作的重视非同一般，据蒋碧昆后来所了解：“最早是毛主席亲自带队到杭州起草，搞出了一个草案。他甚至开出了包括资本主义国家在内的各国宪法以及中国历史上各部大法做参考书目。为了方便政治局讨论，他还要求所有的政治局委员和在京的中央委员抽空阅读这些参考文献。”
1954年6月14日，《中华人民共和国宪法草案》通过。两天后，《人民日报》全文刊登宪法草案并发表社论，号召全国人民讨论。
多年以后，蒋碧昆获知，这次全民讨论参加人数达1.5亿人之多，占全国人口的四分之一。如在福州，300多个扩音器分别以福州话、闽南话向全市50万人播送草案内容。由于当年夏天发生特大洪灾，不少地方的政府是在防洪堤坝上组织民众讨论的。因为洪水冲垮了公路、铁路，为了能将讨论意见送到北京，地方上用油纸、油布把文件包裹后，空运到了中南海。
1954年8月，蒋碧昆到宪法起草委员会办公室(简称“宪草办”)报到，被分到秘书组。时隔57年，他仍然清楚记得，工作证上职务一栏写的是“临时编辑”。
“我和一位叫小周的工作人员负责把全国各个系统的意见汇总整理。大至国家要务，小到标点符号，均要记录在案。”
据蒋碧昆回忆，当时整整记录了14大本(中国人民大学法学院韩大元教授编著的《1954年宪法与新中国宪政》一书认为是16册)，分成社会制度、国家制度、国家机构、公民的权利和义务、国旗国徽首都五大类。
1954年9月15日，第一届全国人民代表大会第一次会议在中南海怀仁堂举行。蒋碧昆和其他大会工作人员则集中在中南海紫光阁小会议室听广播。
刘少奇在大会上作了《关于中华人民共和国宪法草案的报告》。在报告的第三部分，他专门针对讨论宪法草案时提出的各种意见作了简要回答。他说，由于采纳了群众的意见，宪法草案已经有了若干改动，有些是内容的改动，有些是文字和修辞上的改动。他还列举了未被采纳的一些意见：有些人提议在序言中详细地叙述我国的革命历史；有些人提议在第五条中列举我国现有的各种生产资料所有制的时候，还应当提到国家资本主义；有些人提出地方各级人民代表大会也应当和全国人民代表大会一样设立常务委员会；还有些人提议在宪法中增加规定我国疆域的条文刘少奇还一一说明了没有采纳这些意见的理由。
9月20日，宪法三读通过。蒋碧昆回忆当时：“台上台下一片鼎沸，新中国有了根本大法的那种激动溢于言表。”
多年后，作为宪法学权威学者的蒋碧昆评论这部宪法：“那个时候，五四宪法实际上已经非常先进了，也发挥了它应有的价值，尤其是公民在法律面前人人平等这个原则的提出，是非常了不起的。”
但他同时认为，这部宪法也有其局限性：“到了1982年宪法修订的时候，大家才有了对宪法实施的监督制度的思考与设置。这个问题在1954年宪法起草的时候，据我所知，没有任何人提起过。而这个制度正是宪法能否实施的重要保障。”
