元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
胜之家本公侯贵，弱冠英才已惊世。
雒阳多士谁敢伦，千古比肩唯贾谊。
昔遭绛灌深切齿，奔走十年为五吏。
近主抆拭出泥涂，稍学和光匿锋锐。
会计之官岂足为，黾勉簿书聊自庇。
王城九衢腊月尾，风雪数朝穷恣睢。
枥间款段疲且病，借马於人亦披曳。
所鞭掣辔趋省廷，刺蹙不前泥没鼻。
慨然遂有劳者歌，满纸雄文欻轩轾。
人生荣遇有早晚，视此锱铢勿关意。
况君卓荦高出群，异日青云终自致。
鲜车大盖拥骅骝，莫忘今朝乘小驷。