但是没过多久，一切都变了，随着蒋介石的北伐成功，开始着手大肆的扑杀共产党人，进而引发了着名的“中山舰事件”，蒋先云与蒋介石的缘分也由此画上了句号。
蒋先云在“中山舰事件”不久，就公开退出国名党，与蒋介石彻底决裂。
但是，蒋介石不准备放弃如此优秀的人才，仍然数次派人邀请蒋先云，并且许诺师长职位，但是蒋先云并没有被高官厚禄给收买，反而怒斥蒋介石背叛革命。
而蒋介石还是有所不甘，在报纸上公布了二人会谈的报纸，妄图借助共产党党内的不理解逼着蒋先云跟着自己。
时任中共负责人的张国焘对蒋先云产生猜疑与主观上的排斥，这让蒋先云万分的失望。
1927年5月28日，蒋先云率部在河南临颖与数倍自己由张学良所部激战，不幸命丧临颖城下，这么一颗冉冉升起的军界新星，可惜壮志未酬就陨落了！
1927年6月8日，周恩来在武昌中央军事政治学校主持蒋先云追悼会上号召“同志们，踏着蒋先云的道路前进！”
1984年，蒋先云黄浦同期同学，徐向前回忆道“蒋先云是我的良师益友，他斗争坚决，作战勇敢，头脑敏捷，堪为青年军人的模范”
推荐阅读：长征时对张国焘的批判为什么没有向全党公布？
