元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
端谿石砚天下奇，紫光夜半吐虹霓。
不同凡石追时好，要与日月争光辉。
韬藏久矣不敢用，惟恐翰墨污染之。
樊子文章有余地，汪汪万顷谁敢窥。
赠君此砚勿轻弃，经史妙处其发挥。
飞流溅沫满天下，要使咳唾皆珠玑。
五代乏真主，奸雄纷僭伪。
横磨阔刀剑，白弱相篡弑。
我宋有神宜，潜德动天意。
故天意若曰，往为我之嗣。
神祖拜稽首，乃即皇帝位。
不惠兆民乐，不怒诸侯畏。
颠倒执玉帛，奔走恐后至。
天子赫斯怒，大警巡澶卫。
射杀右贤王，遂斩匈奴臂。
狼心贴然服，结好同昆弟。
自此雨河间，寂寂无戎备。
卒闲喜夜歌，将老贪春睡。
自此为太平，恍逾三十岁。
戎昊乘我间，南驰贺兰骑。
阳关久夜开，枢朽不可闭。
阵云起秦雍，杀气横泾渭。
使臣股栗奏，宰相瞋目议。
佥曰亟发兵，竖子坑甚易。
仓皇筑边垒，未战力先瘁。
遇迫开库兵，士蚀锋芒脆。
防秋采旧屯，推毂谋新寄。
旧屯老且死，少者无实艺。
良由不训练，手足迷击刺。
新寄将家子，从小生富贵。
六韬未曾读，口但知肉味。
师复从中御，进退由阍寺。
权轻号令冗，雨战无遗类。
曹公弃七军，晋人获三师。
吾兵自此丧，有诏新其制。
此器不预设，良田不训练。
手足迷击刺。新寄将家子。
从小生富贵，六韬未曾读。
口但知肉味，石复从总御。
进截会稽空，铁烹董山碎。
供亿稍后期，鞭朴异他罪。
愁氛壅太虚，霁景昼冥晦。
我闻郭汾阳，料敌多奇异。
单箠论突厥，蕃酋双膝坠。
又闻李西平，临戎有英气。
身著工锦袍，怀光肝胆碎。
是知用兵术，在人不在器。
君耳舜高听，君目舜明视。
愿采谋略长，勿倚干戈锐。