元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
只耳兽啮环，长唇鹅擘喙。
三趾下锐春蒲短，两柱高张秋菌细。
君看翻覆俯仰间，覆成三角翻两髻。
古书虽满腹，（古有篆五字不可识）。
苟有用我亦随世。
嗟君一见呼作鼎，才注升合已漂逝。
不如学鸱夷，尽日盛酒真良计。
徐孺陈蕃塞上从，侯谁在矣张仲同。君横长菜除丑虏，我有玄言问老龙。
山向至尊齐拱极，水因剑折必朝宗。如今不卖卢龙塞，万国车书四海瀜。