元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
衲僧一口剑，莫问何年铸。既有杀人威，亦有活人句。
说梦老瞿昙，至今未曾悟。为之子孙者，果以何为据。
聚头化城中，自谓得安住。抛却金刚王，记持死汉语。
腊月三十日，一字不堪睹。若惊吾剑在，便解子与午。
忽挂忽为轮，可见不可取。提出长桥蛟，却是南山虎。
风雨非天质，清宁讵可溢。况复骤与飘，何以能终日。
人心良亦然，失者同于失。馀食苟相矜，赘行难自黜。
惟圣法天，天与道匹。孔德之容，既安且密。有物混成，其中窈谧。
四大群游，众甫胥昵。行绝马车，止非宫室。开无关键，解无绳繂。
知三守三，去三抱一。吾不知其名，自然之道毕。奈何叔季人，强为蜮中虱。
始执躁轻心，究归奢泰术。神器走虚空，强为遭呵叱。
安知天下毋，已先天地出。