20世纪初，清朝新军最先引入军衔制。此后，中华民国南京临时政府、北洋政府和国民党政府几个时期实行的军衔制，基本上都是在清末军衔制基础上的发展和沿革。 中华人民共和国成立后，中国人民解放军曾先后两次实行军衔制，并进行了多次修改。
清代晚期
清朝在灭亡前，用了六年的时间（1901~1905）形成了一个完整的新式军衔体系。
当时，清王朝的腐败无能和清军战斗力的脆弱，在面对列强的战争中已暴露无遗。一些大臣、督抚纷纷上书，条陈时务，要求清廷迅速建立一支新式武装。清朝皇室也痛感中国兵制过于陈旧，已不合时宜。为了维持自己摇摇欲坠的统治，必须改革兵制。于是采纳众议，决定效法西洋，训练一支新式陆军，以取代旧式绿营军队。1901年（光绪二十七年），清政府任命袁世凯为直隶总督兼北洋大臣，负责编练新军。