元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
峨峨高山东，迢迢青溪曲。采蘅撷薜荔，结搆蜗牛屋。
中有读书堂，堂外万脩竹。错出泉石间，翛然隔尘俗。
劲刚逢干节，空洞夷齐腹。长钓横江鲸，翠立摩天鹄。
借问主人谁，彼美清如玉。瓶罂空四壁，简册富万轴。
小篆揭新扁，高步踵前躅。箨龙忽变化，遗歌焉忍续。
岁晚坐相向，此君幸予辱。荣悴纷变态，风雨寒旸燠。
春来枝叶蕃，苍璆森在目。势且干青云，肯顾凡草木。
怜渠痛洒扫，日哦三四幅。吾诗试评品，千古配淇澳。