胡志明在广州举办越南青年训练班，是主要讲课人，中共领导人刘少奇、彭湃、陈延年等也为他们讲过课。他创立越南青年同志会，其领导核心是共产团，出版机关报《青年周刊》。他还参加成立东亚被压迫民族联合会，包括越南分会。他在广州各个训练班的讲稿集成《革命之路》一书由东亚被压迫民族联合会宣传部出版，影响甚大。1930年2月他在香港亲手创建了越南共产党。
胡志明与周恩来
二战爆发后，胡志明又化名胡光，到中国南方桂林等地同越党中央取得联系，准备条件回国活动。1940年6月法国沦亡后，日本于9月占领印度支那北部，越南局势发生急剧变化。此年12月底，胡来到中越边境举办干部训练班，以《解放之路》作为教材。1941年2月他回到高平省北坡，取名秋翁，召集党中央会议，培养干部，并直接指导在高平省成立救国会的试点工作。
1942年8月胡志明正式采用今名，准备返回中国同越南抗日革命力量联系。他刚到广西靖西（一说德保）境内就被蒋介石地方政府逮捕。此后他在广西各地13个县的18个监狱里监禁了13个月，受尽摧残和折磨，不得温饱，牙齿脱落，头发灰白，面容憔悴。他写了133首诗，后来以《狱中日记》发表（其中有“恨彼好人离我俩，长教你我各凄凉”之句）。
1943年9月胡志明在柳州监狱获释，随即同当地越南各民族主义救国组织取得联系。同时，他恢复了与党的联系，很快便起程回国继续领导革命。
1945年5月德国败降后，日本法西斯侵略势力奄奄一息，越盟已控制全国大部分地区。胡志明及时指出，总起义的条件已经成熟。根据他的建议，8月中旬党的全国会议在宣光省新潮举行，决定立即发动全国总起义。胡主持召开了国民大会。出席会议的有越南各政治党派、人民团体，民族、宗教的代表和归国越侨代表。大会同意共产党和越盟总部关于总起义的主张，决心在盟军进入印度支那以前夺取独立。大会选举以胡为主席的越南民族解放委员会作为临时政府。胡发表《总起义号召书》，号召全国同胞立即行动起来，“以我们的力量解放我们自己。”
