元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
当时五丈桑，墙头摇羽葆。草木尚有情，人心不如草。
缅怀车盖翁，三顾隆中老。乾坤一草庐，鼎足事已了。
艰危奉命际，流涕出师表。一时会风云，千古事蘋藻。
野农复何知，尚说官家好。筳卜传神语，瓦釜荐行潦。
泸水耕馀村，范阳行处道。天留西日迟，地狭东风早。
风霜惨燕雁，岁月愁蜀鸟。亦复梁父吟，尘埃惊潦倒。