金秉准生于水原，1976年毕业于韩国岭南大学政治和外交学专业，1979年硕士毕业于韩国外国语大学政治学专业，1984年毕业于美国特拉华州立大学，获政治学博士学位。
回国后，金任职于江原大学。1986年，转任韩国国民大学教授至今。1998年开始从政，2002年12月，出任当选总统卢武铉影子内阁的政治秘书。2006年7月，出任韩国副总理兼教育部长。
韩国《朝鲜日报》报道，在韩国副总理传出论文造假丑闻后，韩明淑总理在1日国会教育委员会会议结束后，打电话给金秉准教育副总理表示“相信(有关论文的)疑惑相当部分得以弄清，但(去留问题)已政治问题化”，实际上规劝他自行辞职。昨天，金秉准在就任第13天的2日宣布辞职。
