Počátky historie šermu jako takového je možné spojit s výskytem člověka, kdy se lidé poměřovali v soubojích různými zbraněmi.
Modernější podobu dostává šerm v 16. a 17. století n.l., kdy se v soubojích využívá rapírů, kordů a následně i fleretů, který vznikl jako cvičná zbraň ke kordu. Vzhled sportovního šermu takového, jak ho známe dnes, pochází z přelomu 19. a 20. století.
Sportovní šerm je jeden ze 4 sportů, ve kterém se soutěžilo na všech novodobých letních olympijských hrách. Největšího úspěchu dosáhl český šerm v roce 1908 v Londýně, kdy Vilém Goppold von Lobsdorf získal bronzovou medaili v šermu šavlí jednotlivců. Stejnou medaili získalo na tehdejších hrách i družstvo šavlistů. Z brněnských závodníků se olympijských her zúčastnil Jindřich Chmela v šavli a Alexander Choupenitch ve fleretu.