元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
衰杨夹高防，北风暮飕飕。随逢长老问，会言是邗沟。
相传开凿初，民劳天为愁。至今浊河底，时见白髑髅。
陆通梁宋郊，水漕荆吴舟。渠成万世利，虑始难为谋。
至今南北交，此土为名州。飞阁跨通波，张幄如云浮。
忆昨少年日，宝马珊瑚钩。经过剧辛辈，结托金张俦。
醉月琼花观，征歌明月楼。罗绮朝还暮，笙竽春复秋。
繁华逐逝水，一往不可留。向来歌舞地，茫然狐兔丘。
家老无儿孙，杖棰驱羊牛。少小心尚尔，不知今白头。
欲从乱离说，恐子增离忧。长揖分袂去，零泪如丝流。