元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
好诗不在多，自足传不朽。池塘生春草，馀句世无取。
诗家黄州潘，苏黄逮师友。六义极渊源，一贯相授受。
秋风有奇思，箪瓢忘巷陋。奈何催租人，败之不使就。
我谓此七字，已敌三千首。政使无败者，意尽终难又。
纵令葺成章，未免加饤饾。衣锦欲尚絅，何尝炫文绣。
一洗凡马空，浪说充天厩。重阳晴则已，雨必风在口。
今兹季月来，阴雨变时候。愔愔爵罗门，寂寂鸟噪牖。
黄花冷未芳，黄叶扫复有。颇将写吾怀，渠在那出手。
并想东篱人，瞻前忽焉后。