元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
门有车马客，金鞍曜朱轮。谓从丹霄落，乃是故乡亲。
呼儿埽中堂，坐客论悲辛。对酒两不饮，停觞泪盈巾。
叹我万里游，飘飖三十春。空谈霸王略，紫绶不挂身。
雄剑藏玉匣，阴符生素尘。廓落无所合，流离湘水滨。
借问宗党间，多为泉下人。生苦百战役，死托万鬼邻。
北风扬胡沙，埋翳周与秦。大运且如此，苍穹宁匪仁。
恻怆竟何道？存亡任大钧。