元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
江南砚工巧无比，深洞镌斲黑蛟尾。
当心隐隐骨节圆，暗淡又若帖寒朏。
样传孔子留庙堂，用称右军书棐几。
皇皇御史从东来，役徒四万如屯螘。
春风摆撼桃杏醉，野亭置酒话亹亹。
是时复有蔡中郎，笔法纵横字瑰玮。
入门下马索纸书，虬腾虎攫惊神鬼。
主人得书不惜砚，赠予觅句题花卉。
醉携惟恐失手坠，包以弋绨藏以篚。
明朝聊记一时事，驰骋文章诚不韪。