元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
平生杨诚斋，可仰不可见。
去年尺一书，老韩忽同传。
道山故仙伯，再上右文殿。
蓬莱几清浅，笔力愈雄健。
独挟风雅辀，孰敢当白战。
一官定一集，流传殆千卷。
拙工见大匠，有技不敢献。
谁持斫鬃篇，径彻岩下电。
诵之百寮上，慙汗几被面。
公今欲何之，江左去乘传。
鼻閒长栩栩，仕已忘欣怨。
英英日暮云，荐绅极追恋。
挽公不得留，觞豆纷祖饯。
惟应三山高，须公和江练。
君王念畴昔，临遣尤缱绻。
公乎遂来归，密侍清閒燕。
坐寝淮南谋，如彼雪见晛。
从容处筹帷，侵疆归古汴。
浩荡去乡县，飘飖瞻节旄。扬鞭发武威，落日至临洮。
主人未相识，客子心忉忉。顾见征战归，始知士马豪。
戈鋋耀崖谷，声气如风涛。隐轸戎旅间，功业竞相褒。
献状陈首级，飨军烹太牢。俘囚驱面缚，长幼随颠毛。
毡裘何蒙茸，血食本膻臊。汉将乃儿戏，秦人空自劳。
立马眺洪河，惊风吹白蒿。云屯寒色苦，雪合群山高。
远戍际天末，边烽连贼壕。我本江海游，逝将心利逃。
一朝感推荐，万里从英髦。飞鸣盖殊伦，俯仰忝诸曹。
燕颔知有待，龙泉惟所操。相士惭入幕，怀贤愿同袍。
清抡挥麈尾，乘酣持蟹螯。此行岂易酬，深意方郁陶。
微效傥不遂，终然辞佩刀。