元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
去年鼠齧涪翁文，今年火攻少陵诗。
虽云成毁有定数，天意于此可逆知。
我之所嗜何足计，上有先墨颜之姿。
况渠诗本贯忠义，在处神物宜护持。
向来一字且莫补，脱此千百何繇追。
我诗不工空自欺，天意岂欲警戒之。
不然身当贫到骨，俱应蓄此瑰玮词。
又疑风来劝勤读，邂逅俾之遭祸奇。
平生学易未有得，损益二卦须湛思。
诗成书以示我友，不惟自讼仍求规。