元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
雨气天末来，暝色江皋起。
层林蔽楼观，黯淡水云里。
匹马何所从，翩翩五公子。
异时天一方，相遇忽在此。
温言各慰惜，道旧半悲喜。
熠熠萤度帏，泫泫础流泚。
他乡念羇旅，况复饯行李。
一笑未易阑，相望迹千里。
秋江冒后土，余潦满沟浍。
行人泥没輈，腐黍乱荒荟。
结客山中游，风雨在颠沛。
峥嵘栋宇下，磊落宜我辈。
还同竹溪逸，笑傲盼庭桧。
繁阴阻杖履。曀曀几弦晦。
谁能决顽云，共此明月对。