元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
渺渺中流㴑小舠，露华初冷碧天高。一痕落镜秋宜月，万籁无风夜自涛。
消尽霸图犹说蠡，传流饷道不通漕。浮樽自适东南兴，何必淋漓污锦袍。
君家寓城市，乃有山林观。高高复下下，卜筑殊未阑。
昨夜三尺雪，闭门学袁安。且欣麦陇足，未怕红梅残。
谁怜属国苏，取毡卧自餐。欲寻鸟道往，反畏屐齿难。
凛凛溪边竹，倚空争岁寒。俨如十九夫，玉山方总干。
悲风动骚屑，伴我长铗弹。布衾冷如水，敢效无鱼叹。
儿昔望云云在天，儿今望云云在泉。云在天边见有日，云在泉下归何年。
儿心一寸春晖草，阿母倚门儿在道。太学三年归有程，当时恨不还家早。
白杨日日多悲风，儿归却扫坟上松。千驷万钟儿不愿，但愿名书忠孝传。