大元帅是全军之最高统帅。汉语元帅一词最早出现在公元前633年的春秋时期，其名源于《左传·僖公二十七年》（前633年）所载晋文公的“（晋）作三军，谋元帅”（即考虑中军主帅人选），晋国名将先轸在城濮之战与崤之战中屡立战功，成为了我国历史上第一位有元帅头衔并有着元帅战绩的军事统帅。当时元帅意为军中主将，只是表示对“将帅之长”的称呼，还不是官职名称。
从南北朝起，元帅逐渐成为战时统军征战的官职名称，如北周宣政元年（公元578年），宣帝宇文赟任命其叔父宇文盛和宇文招为“行军元帅”，率军作战。
唐朝李渊入关后，设有左右元帅。唐太宗李世民在继承皇位以前曾担任过“西讨元帅”。后又置天下兵马元帅、副元帅与行军元帅等，为战时最高统帅，元帅常以皇子或亲王担任，副元帅常以有威望的大臣担任，文武官任统帅则称总管。
北宋靖康时以康王赵构为天下兵马大元帅以拒金兵；金侵宋时亦设都元帅、左右副元帅，多由亲王任职，权位极重，非定职。
金军之中，设都元帅府，置都元帅、左右副元帅、元帅。大元帅高于元帅、低于作为全军总司令的都元帅。《辽朝官制》中，有：天下兵马大元帅府，设天下兵马大元帅、副元帅。由太子、亲王总领军政。大元帅府，设大元帅、副元帅，由大臣总军马之政。都元帅府，设兵马都元帅、副元帅、同知元帅府事诸官，由大将总领军马之事。东、西都省，分设东、西都省太师，掌军马之政。大将军府，设大将军、上将军、将军、小将军。各统领所治军伍之政令。
元朝外省和边疆常设有都元帅、元帅府或分元帅府及置达鲁花赤、元帅等，以元帅为地区军事长官。元末地主武装首领多称元帅。
明朝在枢密院之下设诸翼元帅府，任命元帅、同知元帅等官职，统军征战。元、明两朝的元帅职权较前减轻，仅为二、三品官职。
清朝以皇帝为海陆军大元帅，如光绪皇帝。
