元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
古洞根石壁，嵌空隐崔嵬。
闻昔有异人，拄杖曾一来。
灵迹已缅邈，洞门闭青苔。
枯木寒未花，千年待谁开。
属兹休明运，百里纡良才。
德星丽中天，移影照苍厓。
鸾凰讵栖枳，览辉谩徘徊。
早见丹穴雏，志欲凌九垓。
定省方缱绻，归期忽相催。
还辕过湖口，驿路随萦回。
吾知青云兴，却绕莲花台。
风高坠落木，岁晏舒寒梅。
明登会稽顶，想像游天台。
临期重回首，两地心悠哉。