新中国成立后，黄炎培破“不为官吏”的立身准则，欣然从政。1949年9月出席中国人民政治协商会议。中华人民共和国成立后﹐历任中央人民政府委员﹑政务院副总理兼轻工业部部长﹑全国人大副委员长﹑全国政协副主席﹐中国民主建国会中央委员会主任委员等职。1965年12月21日病逝于北京。骨灰安放于北京西郊八宝山革命公墓，夫人姚维钧的骨灰也安放于此。
他曾参加同盟会，并在各地创办学校，成为我国著名的教育家。他曾创办的“浦东中学”在当是社会中有着很大的影响，就连蒋介石都将自己的儿子蒋经国、蒋纬国送到里面接受学习。而在他的学生中竟然有毛主席的老师徐特立，张闻天，华罗庚等，因此毛主席叫他一声老师也不为过。
而黄炎培老先生一生从不肯做官，当年袁世凯曾两次邀请他担任教育总长他都没答应，以至于袁世凯送给他一句话：“与官不做，遇事生风”。
1949年，黄炎培老先生在周总理的安排下脱离了国民党特务的监视，并成功到达北京，当时的他已经72岁。为了劝说黄老先生担任国家政务院副总理的职务，周总理亲自到黄老先生的住处拜访。不过黄炎培先生依旧是拒绝为官，并说道自己年纪大了，不适合当官。
但周总理并没有放弃，他告诉黄炎培先生，这与旧社会当官不同，现在的政府是人民的政府，现在做官便是为人民服务。听完此话，黄炎培老先生才欣然同意。
1965年，已有87岁高龄的黄炎培先生在北京去世，而周总理也亲自来到他的追悼会上参加吊唁。
