文天祥表现出的无畏气概，使得伯颜对他不得不另眼相待。如果文天祥能够投降，元军可以利用他的声望去进一步收拾南方的残局。于是，伯颜派人劝降文天祥：“大元将兴学校、立科举，丞相在大宋为状元宰相，今为大元宰相无疑。”文天祥听后，却当场痛哭。
事后，文天祥还赋诗一首以明志：“虎牌毡笠号公卿，不直人间一唾轻。但愿扶桑红日上，江南匹士死犹荣。”虎头金牌和毡帽是元朝公卿的服饰，“扶桑红日上”象征南宋政权重新崛起。
孤臣雨泪
伯颜见文天祥不肯屈服，便将他扣留在军营中，其他大臣签订降书后于次日返回临安。之后，文天祥被押往大都，所幸于途中趁机逃脱。历尽艰险之后，文天祥泛海南下温州，辗转来到宋端宗赵昰的行朝驻地福州。
不料，文天祥依然受到掌政者的排挤，只以同都督军马的身份先后在南剑州（今福建南平）和汀州（今福建长汀）开府，重新组织军民抗元。文天祥到汀州后不久，福州失陷，小朝廷逃往广东。他随之转战漳州、梅州一带。景炎二年（公元1277年）五月，文天祥率兵进入江西，在雩都县（今江西于都）大败元军，收复兴国、吉州等地，一时声威颇盛。但元军旋即大举反攻，文天祥的妻儿和幕僚被俘，他因有义士替身受捕才幸免于难。
祥兴元年（公元1278年），文天祥带领残部，转战广东南岭一带。六月，为摆脱元兵的围追，他要求赴援崖山行朝，遭到当政者拒绝。十二月，文天祥在广东海丰五坡岭不幸被俘。他吞药自尽未成，被押往崖山战场。
祥兴二年（公元1279年）正月，屯驻在崖山的南宋流亡政权准备与元军决一死战。元军统帅张弘范命文天祥写信劝降。文天祥却赋诗道：“辛苦遭逢起一经，干戈寥落四周星。山河破碎风飘絮，身世浮沉雨打萍。惶恐滩头说惶恐，零丁洋里叹零丁。人生自古谁无死，留取丹心照汗青。”这就是千古流传的《过零丁洋》。
崖山海战是南宋亡国的最后一战，宰相陆秀夫背负皇帝蹈海自尽，后宫诸臣随之纷纷投海，“死溺者数万人”。文天祥在元军海船上亲眼目睹南宋政权的彻底覆灭，写诗恸哭“正气扫地山河羞”“惟有孤臣雨泪垂”。
