其实问题出在早年苏式军衔体系的设置上，苏军经过不断的调整，最终在苏联元帅和军兵种元帅（可以理解为大将）之间，还有一个特殊的“军兵种主帅”军衔。也就是说，在高级将领的军衔体系中，即便不计入苏联大元帅衔，他们也存在有苏联元帅、军兵种主帅、军兵种元帅、上将、中将和少将共两档六级，却又没有西式的准将衔。
（国防部发言人吴谦大校）
我军当年肯定是仿苏的，所以1952年我军在军衔体系最初的设计时，高级军官也拟设置为大元帅、国家元帅、兵种元帅、上将、准上将、中将、少将两档七级。但是经过慎重考虑以及为了突出自己的特色，在1953年发布的《中国人民解放军军衔条例草案》中对前述方案作了修改，最终放弃了兵种主帅这一级别，只有元帅、大将（类同于兵种元帅）、上将、中将和少将两档五级。
结果就是比苏式军衔正好少了一级，虽然简化了级别体系，但同样也带来了新问题，那就是大批正师职军官的军衔不好安排了，如果全部授少将衔，则将军的群体过于庞大，将官泛滥肯定是不严肃的；如果都授予上校军衔呢？又明显偏低了，因为在世界主流军衔体系中，上校是团级军事军官的普遍军衔。
于是在1953年发布的条例中，特别在少将与上校之间，增设了“大校”这一档军衔，以正师职军官为基准对象，也包括了一些资历较浅的副军职、准军职干部和资历较深的副师职干部，属于具体情况具体分析和解决的措施。首批授衔的大校共1266名(包括1955年授予的712名大校、以及后来志愿军的补授)，1961年—1964年期间又晋升554名（其中1961年晋升218名，1962年晋升12名，63年晋升3名，64年晋升321名）。
苏联军衔是当时东方式军衔的代表，而作为西式军衔的代表，美军的高级军衔虽然没有元帅，却有等同于元帅的“五星上将”，并且增加了“准将”军衔，所以也达到了五级。那一定有人问，既然美军五级军衔能够满足需求，为什么我们五级就不够呢？你别忘记了，中苏军队同时存在着“军政双主官制度”，有师长就有师政委、副政委，甚至一些师政治部主任也达到了副师级，所以数量大大超过美军。
（戴旭空军大校）
注意55年授衔文件的标准措辞：“正、副、准军级多数可评为少将， 正师级多数可评为大校，副师、准师级多数可评为上校”。这里面都采用“多数”而非全部的用语，也就是说，副军级、准军级、副师级、准师级甚至个别正军级干部，都有评为大校的可能，这个过渡性军衔的设置，就解决了相当数量的干部问题，避免出现将官数量太多的情况。
同时在55年授衔前，总政还听取了苏联顾问的建议，即大部分中高级军官，在首次授衔应压低一到两级，这样也好为以后晋升留出余地，这个建议也要求迈入将军的门槛要高一些、数量要少一些（只不过因为历史原因，没有出现大规模晋升情况，1965年还取消了军衔制）。1955年正式授衔时，共授予了10位元帅、10位大将、55位上将、175位中将、802名少将，共计1052名开国将帅，如果不设大校衔，那就将官总数会达到了2000名以上，不合适了。
（房兵大校）
并且大校军衔的授予也是严格把关的，根据当时的规定，授予大校军衔者多数为1952年在“军队级别”评定中被评为正师级的干部，也有少数抗日战争时期参加革命的的准军级和个别副军级干部，还有少部分红军时期入伍的副师级干部。因此，全军首次被授予大校的人数只占准尉以上军官人数的0.2%，仅为少将人数的1.6倍，可见大校的授衔条件也很苛刻。
再比如当时设置的“大尉”军衔，也主要是为了解决副营级干部的军衔等级问题，所以我军55式军衔既有仿苏的一面，也保持着有自己的特色，而不是千篇一律的照搬。而到了1988年恢复军衔制时，为贯彻和平时期体系从简的原则，从55式军衔的军官四等14级调整为三等11级，即取消了大元帅、元帅，大将和大尉军衔，最终因为“一级上将”也未实际授予，等于变成了三等10级，而大校军衔更有理由保留了下来。
（武警部队大校）
根据1988年授衔时的文件规定，三个军种以及武警部队的大校军衔，为正师职军官的主要军衔，同时还是副军职和副师职（正旅职）军官的辅助军衔，注意区分这里面“主要军衔”和“辅助军衔”的区别，所以军衔的衔级对应不是100%的，而是其中大多数的标准。大校军衔在如今已经是军队高级干部，尽管中校升上校、上校升大校的时间都为四年，但大校以上军衔晋级为选升，须以军官所任职务、德才表现和对国防建设的贡献为依据。
最后要说明的是，认为大校军衔是我军独有也是不正确的，尽管苏军没有设置大校衔，但是同属东方式军衔的朝鲜军队、越南军队，也都有大校军衔的设置，这是必须要弄清楚的。
（开国大校的照片）