元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
鹧鸪山人金石心，鹧鸪山人冰檗吟。九十年前甬江上，曾顾日影弹清琴。
广陵散幸不终绝，残喘踉跄虎口寻。忧患以来饶著述，三易六书何森森。
化安哀瀑存声响，犹疑剑出重泉深。妄人之口不足信，附会谬语诬旷林。
谁言奇哥行不得，我应一洗萁豆音。朅来江村索遗集，二老阁前寒芒临。
白云千重封四库，但闻骤雨声淫淫。登楼乂手空咄咄，书带萧寥苦雾侵。