元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
君不见燕然易水波桑乾，东连鸭绿西贺兰。
古来战地骨成土，赤棘白草沙漫漫。
汉筑朔方置上郡，晚岁欵塞惟呼韩。
贞观文皇力驯制，诸蕃君长充王官。
玉门不关障无候，驿道入参天可汗，
蛮夷邸中诸国使，旃裘椎髻游长安。
我恨不为典属国，望古遥集真可叹。
今观此图写职贡，要荒种落蒙衣冠。
兽蹄鸟喙或鬼色，想见膜拜皆盘跚。
圣朝贤良谢夫子，劲气烈烈霜风寒。
目眵唇焦万卷烂，笔头成冢墨成滩。
南阳劝驾一封传，入对三道朝金銮。
万言阶对万乘喜，声名一日青云端。
行当遨游庙堂上，坐令四国相交欢。
羽书不驰烽火冷，鸣鸡吠犬何敢干。
借令跳梁出巢穴，当用斧斤摧髀髋。
戎亭喋血无噍类，藁街县首如狐貛。
君当自画凌烟阁，纵有此图何必观。
同僚华原贵公子，求公此画公无难。
乃知功名丈夫志，不惑玩好劳肺肝。
怜渠孜孜画成癖，心欲速得如羽翰。
不如遣佐箧中品，犹胜弃捐终不看。