元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
我本名山人，屡作名山兴。
天台一住三十年，尽日扪萝陟云磴。
上揽四万八千太之高秋，参差明河两肩并。
下瞰三百六十度之朝暾，灭没飞烟八荒净。
或随仙气得丹床，双阙夜深看斗柄。
今年积雨天地晴，一策快作西南征。
沃洲最佳天姥胜，连山直下秋峥嵘。
竹萌修纤会稽箭，芝茎菌蠢商山英。
秋阳不碎空翠影，绝壑倒泻银河声。
山腰细路如丝直，三两渔樵行落日。
炊烟暝色小茅屋，松子秋声断崖石。
溪流饭屑胡麻香，土软春膏霜朮白。
送书松际有猿公，问酒磵阴多木客。
青冥楼阁仙人家，郁蓝流光泻晴碧。
霓旌队下鹤万群，绛节朝回云五色。
人间但有桃花源，桃花春香流水浑。
三生凡骨不得到，两耳夜半空听猿。
李白寻真不得返，支遁卜筑远费钱。
至今山灵护光怪，石萝山薜余秋妍。
陈郎故宅更深閟，鸡犬林塘隔尘世。
清秋著屐一登之，路僻夕阴门半閟。
盘陀石在长楠阴，脱略尘缨换秋意。
晴窗示我两山图，老眼摩挲观一二。
便挥健笔写我诗，惜哉赏音今绝稀。
谪仙一去五百载，人间山水无清辉。
旧时仙人白云唱，怪我白首归何时。
我生白首历浩劫，眼中亿万虫沙春梦非。
陈郎挽我十日住，掉头不顾自有南山期。
餐霞绝粒炼精魄，长生之学非荒嬉。
三千年前有宿约，来已不早归不迟。
长揖群仙谢儿辈，倒挟万里冥鸿飞。