元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
我家殊未有秋色，君家先得秋消息。
西风夜入小池塘，木犀漏泄月中香。
一粒粟中香万斛，君看一梢几金粟。
门前双桂更作门，路人知是幽人屋。
数枝寄我开愁眉，欲状黄香无好诗。
君到广寒折一枝，香无雨舨君自知。
奇石斓横道，兹山信多姿。
江湖酾两股，一泓乃孤危。
相传龙所家，或恐神护持。
腥风转湛对，阴岩立淋漓。
惜无纬萧勇，探此抱宝痴。
山僧作屋意，惨澹生幽思。
胡为金缪影，颠倒眩俗儿。
坐来百念失，苍官导前驰。
招提果深登，屐痕恍前期。
咄哉少肉山，著此高颧师。
端能致遨头，绝唱相娱嬉。
过溪亦何事，相送了不疑。
渠能缚禅律，因来数须眉。
我爱秦郎记，字压头陀碑。
月林只夜夜，人物自一时。
贤愚尽蚁封，来者吾得知。