元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
春芳凋兮瘖杜宇，留得鸣鸠呼渴雨。
谁能使我病斯愈，矻矻深思诵诗许。
朝来剥啄有扣户，亟起褰裾犯尘土。
三王诗就俱送与，律应节疏如会鼓。
我家与君同郑圃。流落殊方繇丙午。
岂惟交友叹云翻，亦有弟兄悲豆煮。
羡君聚首共文书，怜我离形屡寒暑。
江南丰歉未可知，安得书来相告语。
已过有力健如犊，莫待无须行似妪。
我归当事力田科，君行宁后公车举。
会当过我南山南，门有修篁风屡舞。