不一定，结合具体情节综合考量。
《中华人民共和国公职人员政务处分法》（以下简称《政务处分法》）第十四条规定，因过失犯罪被判处管制、拘役或者三年以下有期徒刑的，一般应当予以开除；案件情况特殊，予以撤职更为适当的，可以不予开除，但是应当报请上一级机关批准。
其中需要注意的有三点：
一、必须是过失犯罪。相对故意犯罪，过失犯罪的主观恶性较小，且不少过失犯罪系缺乏专业知识和工作经验造成，具有一定的偶然性，特别是对有受害人的过失犯罪来说，在犯罪人员认罪悔罪、赔偿损失后，也易取得受害人的谅解，有效减轻社会危害性。
二、必须被判处管制、拘役或者三年以下有期徒刑。与被判处三年以上有期徒刑等刑罚相比，此类刑罚属传统观念中的“轻刑”，其社会危害性相对较小，有条件保留公职可以释放较好的执法效果。
三、要从严把握“案件情况特殊”情形。一般情况下，以开除为原则，不开除为例外。只有具备“案件情况特殊，予以撤职更为适当的”条件，才可以不予开除。建议以下情形可考虑保留公职：一是政治素养较好，业绩突出或者曾作出重大贡献，保留公职有利于地区、行业事业发展；二是专业技术水平高，在本地区、本行业或者本领域内具有较高知名度的专家型人才，成果丰硕，保留公职有利于继续作出贡献、服务群众的；三是具有家庭困难、身体不好、临近退休等特殊情况，开除公职可能严重影响生活的；四是涉及国防、外交、民族、宗教等极个别特殊案件，需要保留公职；五是保留公职可以充分体现执纪执法综合效果的其他情形。