元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
灵隐天竺山，清流漱奇石。草木郁青葱，岩洞耀丹碧。
有时闲联骑，尽日为散策。萧条怀古心，髣髴问遗迹。
胜士多去来，流年几今昔。寺记喜逢陆，泉碑尚馀白。
因知幽绝处，得之乃无斁。所以千载后，山名转辉赫。
二子有逸韵，烟霞本其癖。想当落笔时，无地著清适。
嗟我复何人，长歌想英魄。