元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
石城诸峰入天关，曾随骑吹经行遍。
梅花换岁初不惊，惊报行春再出城。
官甑晨炊云子玉，兵厨夜压秦淮绿。
尚书亲饷老农夫，塞道夫须兼独速。
劝农文字不怪奇，知道尚书愁我饥。
有如山农出南溪，老穉随观韩退之。
叟携群穉穉扶叟，一生只识茅柴酒。
尚书赐酒谁得尝，瓦盆满引无升斗。
今年好风来自东，五风十雨尧日同。
尚书归取作相公，当寄丰年书一封。