元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
晋运既中否，林间起高贤。会稽谢安石，秀彻闻当年。
瞻彼栋铉人，锁小不足肩。卷怀放丘壑，慨想唐虞前。
镜水吕尚钓，东山伯牙弦。王许风并远，支公论俱玄。
援翰写鸿抱，持杯挹兰川。妙妓倚红妆，玉馔挥金钱。
匪曰纵翱游，求以庖丁全。苍生竟不释，凤凰终飞骞。
一朝济时去，肖貌登凌烟。