1939年3月，时任中共中央政治局委员、中共中央中原局书记的刘少奇，接到中共中央通知，要他回延安出席政治局会议。刘少奇遂于3月18日离开有“小延安”之称的河南确山县竹沟镇，经西安返回延安。
同年7月3日，中共中央政治局会议召开，讨论时局和中共下一步的行动方针。这次会议开得比较长，直到8月25日才结束。在这期间，刘少奇在延安，除参加政治局会议，继续负责指导中原地区党的工作和抗日斗争，还做了一些很重要的事情，那就是应邀到几个学校作报告。5月，他向延安工人学校的学员作了《中国职工运动简史》的报告。6月1日，他又到抗日军政大学讲演。一天，中共中央书记处书记兼中共中央马列学院院长的张闻天找到刘少奇，约请他到马列学院为学员们作一次关于思想修养方面的讲演。刘少奇爽快地答应后，便开始着手准备。
张闻天作此提议，是有的放矢的。抗战以来，全国各地的大批青年学生和知识分子冲破国民党的封锁，跋山涉水，涌向延安和各抗日根据地，并且纷纷要求参加共产党。在中共领导的陕甘宁边区和其它根据地，包括国民党统治区的中共秘密组织，都相继发展了大批的新党员。这虽然壮大了共产党的革命力量，但同时也使革命队伍的成份和思想意识复杂起来，在这种情况下，加强党的思想建设，使每一个共产党员自觉地为完成党的任务而奋斗，就成为中共面临的一个迫切问题。
中共中央马列学院当年设在延安的兰家坪。1937年7月8日，马列学院上大课。窑洞外面的场地上，坐满了前来听刘少奇作演讲的师生。马列学院没有礼堂，平时上课的窑洞又太小，坐不了那么多人，所以大课经常搬到露天场地上。
“同志们！我要讲的是共产党员的修养”，刘少奇就这样开始了他的讲演，“现在我想，在建设与巩固党的基本任务面前，来讲这个问题，或许不是没有益处的吧！我并想分作几次来讲，今天讲一部分，其余只好留待下次”。这一天，刘少奇讲了共产党员为什么要有修养、修养的内容、修养的方法、思想意识修养同学习马列主义理论和革命实践的关系等问题，提出了做一个模范共产党员的具体标准。他说，同志们，我们要作马克思、恩格斯、列宁、斯大林最忠实最好的学生之一，我们就需要在无产阶级与一切群众的长期而伟大的革命斗争中去进行各方面的修养。首先要有马列主义理论的修养，以及在实践中运用这种理论的修养；要有思想意识与道德品质上的修养；要有党内团结、党内斗争与纪律上的修养；要有艰苦奋斗与工作作风上的修养；要有战略、战术、工作方法上的修养；要有善于对待各种人们、处理各种问题，以及各种科学知识与某些专门技术上的修养……由于内容太多，这天的内容刘少奇没有讲完。7月12日，刘少奇又去讲了一次。第二次讲的主要内容是共产党员在组织纪律方面的自我修养。这两次讲演在学员中间引起了不小轰动，大家怀着浓厚的兴趣学习、讨论共产党员的修养问题。
张闻天对刘少奇的讲演给予了高度的评价，认为这正是当前广大共产党员尤其是新党员迫切需要学习的问题。他立即请刘少奇把讲演的稿子整理出来，以便在《解放》周刊上发表。当时，《解放》周刊是中共中央的机关刊物，张闻天担任杂志的主编。可是那段时间刘少奇很忙，他除了参加中共中央政治局会议外，还要抓紧时间为返回中原前线作各种准备，因此只能断断续续挤时间修改他的讲稿。为此，他先把7月8日的讲稿整理出来，交给了张闻天。
张闻天看过稿子，便交给了《解放》周刊编辑吴黎平，请他处理。当时，中共中央有个内部规定，凡党政军重要领导干部、中央委员以上的干部要在《解放》周刊上发表文章，事前必须将稿子送给毛泽东审阅。吴黎平按照规定把《论共产党员的修养》一稿呈送毛泽东审阅。
毛泽东接到稿子当夜就看完了。他给吴黎平回了一封短信说：少奇同志的文章我看了，写得很好，这篇文章提倡正气，反对邪气，是一篇很重要的文章，应当快登。稿子在毛泽东那里的时间总共不到三天，就转回到吴黎平手里，速度之快，连吴黎平都觉得有点意外。
1939年8月20日，《论共产党员的修养》刊登在《解放》周刊第81-84期上，以连载的方式发表。中共中央机关和边区的党政机关随即组织党员进行学习和讨论。“共产党员修养”这一命题第一次在党的建设的历史上被提出来，而且论述新颖，切中时弊，针对性强，使延安的共产党员们和理论工作者为之一振。马克思、恩格斯、列宁、斯大林这些国际共产主义运动的革命导师对党的建设虽然有不少论述，但他们都是着重讲党的路线、方针、政策，很少专门论述应该怎样做一个合格的共产党员。刘少奇在讲演中总结了中国共产党在这方面的丰富经验，透彻精辟地论述了每个共产党员应该加强自己的思想意识修养、理论修养和党性锻炼，以便更有效地为党的事业而奋斗。
《论共产党员的修养》发表后，读者纷纷给《解放》周刊写信，希望出版单行本。中共中央宣传部应广大共产党员和读者的要求，很快安排延安新华书店出书。当年11月．，新华书店就把单行本印了出来。随后，敌后各抗日根据地的报刊也都纷纷转载，有的还翻印了单行本。没有多久，《论共产党员的修养》这本小书就在中国共产党领导的各抗日根据地广为传播开来。在抗日战争时期，《论共产党员的修养》就已出过多种版本。在1942年延安整风运动和各解放区整风运动中，《论共产党员的修养》被规定为整风必读的文件之一。
1949年8月，解放社根据作者的修订，出修订第一版。1962年，经作者第二次修订，曾在《红旗》杂志1962年第十五期、第十六期上发表，以后又经作者校补，于同年9月由人民出版社出修订第二版。
《论共产党员的修养》自发表之后，便在中国共产党内产生强大的教育作用和深远的影响。新中国成立后，《论共产党员的修养》被列为全国的共产党员必读的党课教材，教育了几代中国共产党人，为我党的自身建设发挥了重要的作用。县委书记的好榜样焦裕禄病逝时，人们在他病床的枕头旁发现有两部书，一部是《毛泽东选集》，另一部就是《论共产党员的修养》。
“文革”中，《论共产党员的修养》因为作者刘少奇的蒙难也遭受蒙尘。它被林彪、“四人帮”一伙恶毒地诬蔑为是“腰斩无产阶级专政”的“黑修养”。随着浩劫的结束和刘少奇被彻底平反，《论共产党员的修养》这本马克思主义经典著作，终被拂去历史的尘埃而重放光芒。