元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
我客古上谷，君侨辽之阳。翁翁者何心，造此离别场。
离别徂二岁，忽焉来帝乡。我昨得君书，昼夜以徬徨。
轻骑入军都，期君金台旁。君笑为我言，人为天所忙。
省亲返南国，觅举来北方。得马复失马，亡羊更寻羊。
六月不得息，萍梗随风飏。且喜见故人，一饫饥渴肠。
闻言感累欷，对饮倾百觞。姑作十日留，不妨次公狂。
或话陶公田，或抚毛生囊。时事或恸哭，旧学或商量。
诗或寻旗亭，曲或听教坊。或邀徐孺子，或款张思光。
名宰进姚合，懒仙招吴刚。肝肠热如火，嚼冰不得凉。
鴳雀处蓬蒿，乃思为凤凰。志意郁不遂，不敢偷太仓。
素心四三人，晨夕歌慨慷。嘤嘤求声鸟，萃集旋飞翔。
戢戢聚头鱼，堂策呼分行。我续出塞曲，君歌适馆章。
握手送登车，黯然同神伤。亦知终有别，胡竟聚难常。
亦知别不久，不久犹觉长。岂无寄书邮，不如觌面详。
岂无抚尘交，不如知心良。翁翁者何心，造此离别场。
愿言互鞭策，努力沛腾骧。更为语黄九，倔强母暂忘。
不自弃驽骀，犹堪报君王。彭彭冀野马，会看联镳扬。