元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
故乡未可归，异县难久留。
海深蛟鱷怒，安得乘桴游。
贫贱岂天意，自不曲如钩。
吾道未全穷，三岁依贤侯。
小鸡随孔鸾，顾影良可羞。
所喜臭味同，洁已从清修。
迩来苦多病，颇厌淮南州。
援琴操土风，大类南冠囚。
今辰天气佳，和气吹敝裘。
桃李竞颜色，谁能分劣优。
空搅游予心，浩荡生春愁。
新诗忽到手，盛意知难酬。
材生天地间，小大固不侔。
词锋未易当，如以楚伐邹。
玉季更多文，情义还相投。
他年内集时，尚记野人不。