元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
复道通长乐，青门临上路。遥闻凤吹喧，闇识龙舆度。
褰旒明四目，伏槛纡三顾。小苑接侯家，飞甍映宫树。
商山原上碧，浐水林端素。银汉下天章，琼筵承湛露。
将非富人宠，信以平戎故。从来简帝心，讵得回天步。
白云去不还，空留白云额。至今飞山颜，片片尽秋色。
萧萧事盘纡，刳石转攲仄。觚棱骞古殿，粉墨昏绝壁。
有客倦归艎，潇洒寄一适。松萝青鸟哢，江影卷馀白。
始时开山人，真意非无得。百年惊一吷，节物变今昔。
谁是云无心，翛然彼禅伯。