1949年后，任中共皖北区委书记，中共安徽省委第一书记、安徽省人民政府主席。1958年冬，曾希圣盲目兴修水利，计划8亿土石方，最后上报数字是64亿土石方。1959年4月份，毛泽东出于对刘少奇、邓小平以及一些省市领导搞浮夸的担忧，在《党内通讯》发表文章，要求生长队长抵制过高的生产指标。但是曾希圣扣发文件不往下传达。曾希圣还将反浮夸风的副省长张凯帆打成反党集团。曾希圣在‘大跃进’期间积极推行极左路线，导致数以百万计的农民被饿死。官方出版的《安徽省志.人口志》承认为407万。
1960年9月成立华东局，兼任华东局第二书记。1960年11月，又兼任山东省委第一书记，把家搬到济南，把主要精力放在山东，以扭转山东局面。1961年，华东局第一书记柯庆施到安徽，批评了安徽省的饥荒。曾希圣给中共中央和毛泽东写信，要求辞去山东省第一书记，回安徽克服困难，战胜饥荒。中央批准了曾希圣的请求。曾希圣在安徽大搞“责任田”——包产到队、定产到田、责任到人。
1962年七千人大会，定的四个重灾省没有安徽。七千人大会的最后一天，安徽某市委副书记写信：“安徽问题没有得到解决”。中央与毛泽东很重视，责成会议延期，刘少奇与安徽代表开座谈会。2月3日，刘少奇在北京友谊宾馆再次参加安徽大组会议，经过三天半讨论。会上，安徽党政主要领导先后做了检讨。2月7日七千人大会结束，安徽代表留下来继续开会。[1]2月9日晚上，刘少奇第三次与会，对安徽问题下了定论，曾希圣被免去安徽省委第一书记职务，调离安徽，专任华东局第二书记，实际上为虚职。他从此失去实权，开始淡出政治舞台。对曾希圣七千人大会后被免职的原因现在大致有两种说法：一种说法是由于1961年他在安徽农村推行“包产到户”，被中共领导人视为“复辟资本主义”，“犯了方向性错误”；[2]另一种说法认为主要是因为“他在‘大跃进’期间积极推行极左路线，导致数以百万计的农民被饿死”。[3]
1965年8月，经毛泽东的批准，曾希圣转赴成都出任西南局书记处书记。[4]。“文化大革命”中，曾希圣因为当年扣押毛泽东反浮夸风的文件不向下传达，遭到群众批判，1968年7月15日在北京遭批斗致死。1978年邓小平为其恢复名誉。
曾希圣是邓小平与卓琳结婚的介绍人。