元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
従君觅数珠，老境仗消遣。
未敢转千佛，且従千佛转。
儒生推变化，乾策数大衍。
道士守玄牝，龙虎看舒卷。
我老安能为，万劫付一喘。
默坐阅尘界，往来八十反。
区区我所寄，蹙缩蚕在茧。
适従海上回，蓬莱又清浅。
六州胡儿六蕃语，十岁骑羊逐沙鼠。沙头牧马孤雁飞，
汉军游骑貂锦衣。云中征戍三千里，今日征行何岁归。
无定河边数株柳，共送行人一杯酒。胡儿起作和蕃歌，
齐唱呜呜尽垂手。心知旧国西州远，西向胡天望乡久。
回头忽作异方声，一声回尽征人首。蕃音虏曲一难分，
似说边情向塞云。故国关山无限路，风沙满眼堪断魂。
不见天边青作冢，古来愁杀汉昭君。