元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
山人抱绿绮，遗世栖青岑。岂无孤鸾操，解囊披青衿。
一鼓桐山高，再鼓桐水深。终焉鼓元气，列圣来森森。
赵生赏其妙，佐以猿鹤吟。馀者多假寐，莫辨机浮沈。
刘子何方来，远自芝川浔。缓体不胜衣，意态殊钦钦。
有如琼树枝，清标出乔林。就我托信宿，愿闻太古音。
善听不在耳，伊人若可寻。石莲幽且阻，春服随登临。
咏归适未厌，北征促持任。希声入明堂，钟吕谐璆琳。
凤凰时一哕，啁啾罢春禽。试以鸣百里，弦歌南浦阴。
阳春易生物，其感乐以湛。清静资化理，乱绳当巨镡。
咸惊出爨下，玉轸徽黄金。上以协解愠，可代丹扆箴。
下以宣八风，万类无慆淫。眷言勤拂拭，尘土岁月侵。
谣俗苦更张，寡和匪直今。大雅不常遇，能令群喙瘖。
下指勿激烈，激烈伤人心。吾衰甚矣奚足问，欲奏清商思不禁。