1948年年底，随着解放战争的进展，国民党败局已定。在这天翻地覆的历史关键时期，何从何去成为摆在中国知识分子面前的一个艰难选择。这时，远在美国的费正清夫妇给梁思成写信：“北平保不住了，共产党来了，看来台湾也不保险，还是把全家接到美国来吧？”梁思成轻松作答：“共产党也是中国人，也得要盖房子。我还是为新中国的建设出力吧。”
1949年5月，梁思成被任命为北京市都市计划委员会副主任。上任伊始他四处写信，邀请国内建筑专家来北京筹建国家建筑设计机构。在写给大学同学童寓的信中，梁思成按捺不住内心的激动：“清华比北平城早获解放一个月，从解放的第一天起，解放军的纪律就给了我们极深的印象，接着与中央方面的种种接触，看见他们虚怀若谷、实事求是的精神，耳闻目见，无不使我们心悦诚服而兴奋。中国这次真的革命成功了，中共政策才能把腐败的中国从半封建半殖民地的状况里拯救出来，前途满是光明，这不是jargon（行话、套话），而是真诚老实的话。现在北平已安定下来，并且已展开了建设工作，北平是新中国的首都，以后需要大量的建筑师，并且需要训练大量的新建筑师，我期盼你早早的北来。”
1949年5月22日，北京市都市计划委员会在北海公园正式成立。会上形成一份决议，“正式授权梁思成先生及清华营建系师生起草西郊新市区设计”。很快梁思成便写成了《城市的体形及其计划》。梁思成的本意是想吸取西方工业化国家百年来的发展经验，解决中国工业化过程中的城市问题，希望把北京城建成像华盛顿那样“风景优美、高度绿化、不发展大规模工业的政治文化中心”，“能像罗马和雅典那样的世界旅游城市”。遗憾的是梁思成的这些设想并没有引起有关方面的重视。
1949年9月19日，作为北京都市计划委员会副主任，梁思成致信当时的北平市市长聂荣臻：“荣臻将军市长：北京都市计划委员会成立之初，我很荣幸的被聘，忝为委员之一，我就决心尽其绵力、为建设北京而服务，现在你继叶前市长之后，出来领导我们，恕我不忖冒昧，在欢欣拥戴之热情下，向我的市长兼主任委员略陈管见。……近来听说有若干机关，对于这一个主要原则或尚不明了，或尚不知有这应经过的步骤，竟未先征询市划会的同意，就先请得上级的批准，随意地兴建起未。这种办法若继续下去，在极短的期间内，北平的建筑工作即将呈现混乱状态，即将铸成难以矫正的错误。……我们人民的首都在开始建设的时候，必须‘慎始’，在‘都市计划法规’未颁布之先，我恳求你以市长兼计委主任的名义布告各级公私机关团体和私人，除了重修重建的建筑外，凡是新的建筑，尤其是现在空地上新建的建筑，无论大小久暂，必须事先征询市计划委的意见，然后开始设计制图。若连这一点都办不到，市划委就等于虚设，根本没有存在的价值了。”
1950年2月，梁思成和留学英国利物浦大学建筑学院师从著名都市规划大师阿伯克隆比爵士研究都市计划立法的我国著名规划学家陈占祥一起向北京当局递交了他们草拟的《关于中央人民政府行政中心位置的建议》，（即著名的“梁陈方案”）。方案依照古今兼顾、新旧两立的原则，从占地面积、交通联系、长远发展等几个方面详细论证，建议从北京的长远发展考虑，应将新的行政中心放在京城西郊，而将拥有众多文化遗址的旧城完整地保存下来。1950年，毛泽东在天安门城楼上，用手指着广场以南一带兴奋地对站在身边的北京市市长彭真说：“将来从天安门上望过去，四面全是烟囱！”毛泽东这句话标志着梁思成提出的方案最终被否决。
此后不久，梁思成便卷入“关于北京城墙存废问题的讨论”。1950年，梁思成写下《北京城墙存废问题的辩论》一文。在这篇文章中，梁思成大声疾呼“城墙不但不应拆除，且应保护整理，与护城河一起作为一个整体的计划，善于作用，使它成为将来北京市都市计划中的有利的，仍为现代所重用的一座纪念性的古代工程。”此外，他还用诗意的语言描绘了一幅城墙之上的画卷：“这应该成为一个全长将近四十公里的这么一个世界上最伟大的环城公园。登上去之后，可以壮阔我们的胸襟，能够休息人民疲劳的筋骨，壮阔他们的胸襟，古老的城墙确实可以担负起新的使命。”“环绕北京的城墙，是一件气魄雄伟、精神壮丽的杰作。它不只是为防御而叠积的砖堆，它磊拓嵯峨，是一圈对于北京形体的壮丽有莫大关系的古代工程。无论是它壮硕的品质，同北京人民同甘共苦的象征意味，总都要引起后人复杂的感情。”尽管如此，梁思成的热情建议和美好憧憬并没有挽回城墙即将消失的命运。从1952年年底开始，北京外城城墙因为妨碍交通、限制首都的发展而被陆续拆除。
整个北京城都在破旧立新。一些建设单位为了改善城内的交通状况准备将位于北城古城中心的团城拆除，以便将马路修得一平二直。梁思成一听，急了。他苦口婆心地劝说，终于说服了苏联专家。可是一些行政领导还是要坚持非拆不可。这时，一向温文尔雅的梁思成一改往日的书生气，怒发冲冠，站起来指着对方的鼻子说：“既然你们认为一定要这样修一条笔直的马路，那还有什么可讨论的？不必讨论了，就把团城拆掉，把金鳌玉竦桥拆掉，修一条笔直的马路通过去好了。”说完话，他离开会场，径直去中南海西花厅向周恩来总理恳切陈词。周恩来被梁思成的精神打动，亲自带领苏联专家到现场勘察，最后决定团城不再拆除。
梁思成的“上谏”充其量只能保住一些个别地方，却不能守护住整座城市。1953年，北京市委在《改建与扩建北京市规划草案要点》中提出“要打破旧的格局给予我们的限制和束缚”，明确指出行政区域要设在旧城中心，并且要在北京首先发展工业。同年5月9日，方案批准。时任北京市副市长的吴晗担起了解释拆除工作的任务，为了挽救四朝古都仅存的完整的牌楼街不因政治因素而毁于一旦，梁思成与吴晗发生了激烈的争论。由于吴晗的言论，梁思成被气得当场失声痛哭。他不理解为什么解放当初解放军宁可流血牺牲也要保护古建筑，现在当家做了主人却反倒要去拆北京城？一气之下，梁思成再次找到了周总理。可是这次他没那么幸运。当梁思成指着牌楼，对周总理感慨地说：“你看，在夕阳西下的时候，通过这个庙看过去，是非常非常美的景致。”总理笑了一笑，没有正面回答他的问题，只是淡淡地回了句：“夕阳无限好，只是近黄昏。”梁思成哪里知道，此时的周恩来也已经没有办法了。因为毛主席已经定下调子：“古董不可不好，也不可太好。北京拆牌楼，城门打洞，也哭鼻子。这是政治问题。”无奈之下，梁思成只好留下了滚滚热泪。
山雨欲来风满楼。1955年，《文艺报》发表了一篇题为《梁思成在民族形式问题的错误》的文章：“梁思成口口声声是‘对人的关怀’，但他的‘理论’和他的所作所为，都彻底地证明了他根本缺乏‘对人的关怀’。如果有，那只是出于反动阶级的立场，他才把建筑艺术看做是没有阶级性的，才产生了他这一套资产阶级、封建阶级的复古主义论调，才要我国现代新建的一切建筑物都纹丝不动地向古代反动的宫殿、庙宇、衙署和住宅看齐。”在这之后，中宣部部长陆定一给北京市市长彭真写了一个条子，让彭真组织人开展对梁思成建筑思想的批判。彭真在颐和园畅观楼组织了一个写作班子，先后炮制了十余篇批判文章，如《评梁思成对建筑问题的若干问题》、《论梁思成对建筑问题的若干错误见解》。在强大的攻势前，梁思成低下了头。
1955年5月27日，梁思成这样反思检讨自己：“我的烦恼是‘党什么都好，就是可惜不懂建筑’。‘人之患在好为人师’，我开始犯错误了。我一个人单枪匹马到想搞一个在建筑领域中的反党活动。我写文章、做报告，系统地做学术演讲，并且以我的理论教育清华大学建筑系的教师和学生。为了反对美国式的玻璃方匣子，我有意识地搬用了毛主席的话‘矫枉必须过正’，所以为了矫方匣子之枉，必须过正地去搞复古主义。我想搞成一个学派，以群众的压力来‘教育’党的领导同志。我的错误理论在全国范围内影响了不少建筑师，造成巨大浪费。正如一位领导同志后来告诉我说：连许多共产党员都被我‘俘虏’了。正在我暗暗高兴的时候，我发现自己突然成了全国性的批判对象。这使我大吃一惊。我心情非常深重。”1959年，梁思成在《中国青年》杂志上发表了一篇长文《一个知识分子的十年》，文章开头就说：“1949-1959：多么令人心花怒放的十年！多么幸福的十年。”接下来他写了一首诗：“十年教诲沫春风，东风红日暖融融。旧皮还须层层剥，身心才会真透红。”
往后就不用说了。——梁思成已被打断了“脊梁”。