元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
我不识赵子，见此便得之。
谈笑出丘壑，粲然备四时。
似闻月旦评，气压渊明诗。
马卿宰白下，惯作烟云嬉。
归来九衢尘，旧好不少移。
殷勤著怀袖，亦足慰梦思。
我本家北阜，一官老京师。
颇怀月下松，披图觅幽姿。
正恐林间鹤，怨我归无期。
那知此心在，衡宇终栖迟。
谁怜阿堵中，几有一斛泥。
愿分溪上山，供我笏拄颐。