元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
我在黄楼上，欲作黄楼诗。
忽得故人书，中有黄楼词。
黄楼高十丈，下建五丈旗。
楚山以为城，泗水以为池。
我诗无杰句，万景骄莫随。
夫子独何妙，雨雹散雷椎。
雄辞杂今古，中有屈宋姿。
南山多磬石，清滑如流脂。
朱蜡为摹刻，细妙分毫厘。
佳处未易识，当有来者知。
烧色回青，冰痕绽白，娇云先酿酥雨。纵寒不压葭尘，应时已鞭黛土。东君入夜，怕预恼、诗边心绪。意转新，无奈吟魂，醉里已题春句。香梦醒、几花暗吐。绿睡起、几丝偷舞。酒醅清惜重斟，菜甲嫩怜细缕。玉纤彩胜，愿岁岁、春风相遇。要等得、明日新晴，第一待寻芳去。