元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
伏波铸铜柱，归车得谗构。马殷无功德，天以湘潭授。
酬勋在千年，毋乃是华胄。士愁一角蛮，岂如徵侧富。
不为锦溪长，甘作辰澧寇。盗用盘瓠兵，敢与九龙斗。
僣伪当盛时，材力每雄厚。梯栈破溪塞，焚林缚猿狖。
五姓跪饮血，求誓仅自救。王曰与尔盟，鬼神质诅咒。
伏波文学博，四羊印曾奏。当年若勒铭，定能正苍籀。
天策十八人，无出宏皋右。雄文与功称，所学亦不陋。
赤堇丈二尺，凿字硬且瘦。惜哉猳掉尾，蛮烟蚀银镂。
前年有苗格，露布出云岫。拓本来军中，南昌辨其读。
史校薛欧阙，跋订吴朱谬。吾祖昔征苗，午夜挥兵走。
十战九洞中，碧血染袍袖。此柱当战垒，刀镮或亲扣。
挟册三摩挲，仰视日中昼。