玄胜钟1919年出生于平安南道开川,1943年毕业于当时的京城帝国大学法学专业。1946年至1974年在高丽大学法学系担任教授。1960年韩国“4·19革命”暴发当时,玄胜钟以学生处长身份参加了教授游行。1974年至1980年期间,玄胜钟担任成均馆大学校长职务,此后还曾在翰林大学担任校长。
玄胜钟担任国务总理之前一直从事教育相关工作。1992年10月(卢泰愚政府后期),他以73岁高龄被任命为总理,目前仍是韩国史上年龄最大的总理,1994年1月1日任联合国儿童基金会韩国委员会会长,成为了3年连任制的总裁一直到2010年6月。