元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
南州乱无家，寇盗纵横驰。白骨蔽原野，火炎城与池。
千里何萧条，四顾令人悲。倬哉皖公城，当此江之湄。
崇墉上峨峨，阵列纷鱼丽。明公秉高节，德泽被华滋。
而蒙天子恩，慰尔长渴饥。大田既多稼，王师良有仪。
君行利攸往，乐土寔在兹。嘉宾复来集，兼遂平生知。
春兰丽芳渚，鸣凤翔高枝。裴回歧路侧，未忍言别离。
别离何以赠，载咏南山诗。