元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
天地有肃杀，好生本无伤。阳施待秋成，相济如宫商。
芸芸共欣荣，众叶薿薿光。回头失故林，萧条弄微阳。
独有岁寒姿，掀髯尚低昂。流膏亦归根，晬如养中黄。
大哉一气中，人心自炎凉。安知晞春露，不异腓草霜。
谢公晨策花崖登，杜陵早起开前林。
徽之朝挹西山爽，退之晓望南山棱。
古人看山自有候，个中意味谁探寻。
林霏夕敛群动息，泽气宵上英云蒸。
不於此际毓神秀，安得向曙岚光凝。
平生苦不识夜气，见山忽得邹人心。
卷书默坐会有得，此岂文字能摹临。
斯亭题扁有咀嚼，慎勿只遣供閒吟。
直须齩破第一义，庶几山鬼逢知音。