元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
昔陪张外史，蹑云上崔嵬。前登风篁岭，酌泉苍藓堆。
后度麦冈重，荒坟际蒿莱。陵谷嗟变迁，览兹良悲哉。
维时莫春初，鸟乳声喧豗。行循灵石涧，坐觅翻经台。
万竹森玉立，云扉绝纤埃。杨氏椒房亲，葬母此山隈。
想当全盛日，轩盖如云来。至今清壑亭，金铺照莓苔。
行觞藉草饮，蔬果杂樱梅。赖彼二三子，促席相延陪。
醉题素壁间，辞翰粲琼瑰。掩映房山咏，光怪烛九垓。
骑鲸上天去，化鹤何年回。二妙不可作，抚卷心孔哀。