元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
谁将游侠侣，化作力田俦。器已看销剑，耕还重佩牛。
雄风三尺杳，细雨一犁收。弹去馀空铗，售来控短鞦。
春山新路索，秋水旧纯钩。镰锷飞霜失，鞭丝带月浮。
锋无驰马试，刍并牧羊求。扣合长吟角，鸣终不羡韝。
乌犍忙竞逐，紫电懒重抽。顿弃青萍质，时开白石讴。
宝光沉远塞，笛韵绕平畴。渤海传良吏，心深保聚谋。