元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
楚人问晋勇，答曰好以暇。
后人或疑之，针也其税驾。
吾意政之馀，观此得用舍。
晋士傥不然，安能一战霸。
韩君令安成，不待期月化。
始如逆走丸，卒若快啖蔗。
为政行辟人，修梁插飞架。
异时常病涉，举邑佥矜诧。
王子吐琳琅，文章助光价。
缘波凝暮朝，皓月迷清夜。
谁云困后革，不可事耕稼。
聊书以记之，来者可凭藉。