元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
号寒啼饥自聒耳，火中莲花那著水。
超然不复顾尘寰，空色两冥舍利子。
冠巾贾岛齿平人，当时仅免退之嗔。
何如伯升云水去，万劫不磨一点真。
公今更恐情难绝，泛作飞蓬谋未拙。
挽袖牵裳浩不回，当知若人是真铁。
去年元夕，飘零书剑大梁城。春风九市花灯。尚忆东楼行乐，谈笑故人情。对一尊芳酒，满意歌声。断人行。梅花归梦，正一笑、柴门稚子迎。庭树鹊、何苦频惊。