元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
长啸白云峰，声清方夜永。海月忽飞来，光照千岩静。
松林奏瑶琴，山泉漱金井。下与人世违，上接星辰近。
凉露洗心源，天风吹鬓影。使我凡陋躯，泠然发深省。
愿言生羽翰，直上青云顶。
未赴虢太守，暂归吴兴家。
吴兴近洞庭，橘林正吹花。
君当橘柚时，摘包带霜华。
清甘不楚齿，若酒倾残霞。
鸡山小女儿，姹姹两发丫。
褭褭上氍毹，嘈嘈弄琵琶。
是时与之醉，何似走尘沙。