古时作战多用马。战马奔驰沙场，冲锋陷阵，每战都要出许多汗。战斗次数越多，战况越猛烈，出汗当然也越多。因此，形容有战功，就叫“汗马”。
　　
　　《韩非子·五蠹》就有“汗马之劳”的说法。《战国策·魏策》也有：“张仪说楚曰：‘不费汗马之劳，不费十日。而拒扞关’。”（扞，扞关，地名。）
　　
　　《史记·晋世家》叙述春秋时晋文公的一段故事时，也说过“汗马之劳”的话。晋文公，名重耳，是晋献公的儿子，所以又称公子重耳。他曾流亡外洋达十九年之久，之后返国做了国君，而且称霸一