元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
昔从郡丞游，余寒春未回。
玄云蔽冷日，朔风卷黄霾。
枯榛拥残雪，疏篱横野梅。
季夏方溽暑，後乘复与偕。
青秧舞白水，赤日飞红埃。
牛马暍俱喘，蜩螗嘒相哀。
值此寒暑变，感予羁旅怀。
行行江湖去，举棹向天台。
老妇脍鲂鲤，丁男涤尊罍。
霜橙荐紫蟹，水藕浮琼醅。
念公复行县，秋光当独来。
予时定相望，持酒上高台。