所谓“总”，大概其就是“总领”的意思，总兵这个职务最早出现在明朝，其本意大概其就是“总领兵马”之意。这里有必要说一说，小说《封神演义》里的那个“陈塘关总兵”完全是作者杜撰出来的，商代根本没有总兵这个职务，连这个词儿都没有！
明朝的总兵最初只是一个临时差遣，没有具体品级、也没有正式“编制”。遇到战事，统兵将领率军出征，称之为“总兵”。战事结束，总兵交出兵权的同时也交出总兵这个职务，原来干嘛的还干嘛去。这一点与清朝的抚远大将军颇为相似，就是康熙帝的哥哥福泉和年羹尧干过的那个活儿。后来，明朝的总兵逐渐固化，由临时差遣变成了一个常设职务，但依然无品无级，是一个“相对固定的临时差遣”。明朝的总兵数量非常有限，大多设置于边疆和军事重镇，如蓟辽总兵、宣大总兵等等。终明王朝二百余年，总兵一直都是独当一面的角色，差不多有些类似于我国后来的大军区、战区司令。而且，明朝总兵不受驻地的都指挥使（相当于后来清朝的驻省绿营提督）管辖，这一点也是明清两朝总兵最大的区别之一。
清朝入关之后，对军队进行了区别对待，由旗人组成的八旗是一条线，由汉人组成的绿营又是一条线，互不统属。在地方上，驻防八旗归驻防将军统辖，直接对皇帝负责；驻省绿营则归各省提督统辖、受驻地总督和巡抚共同节制。那么，总兵是做什么的呢？提督的下属，各省提督一般下辖数镇不等的兵力，每镇设置总兵一员，下辖数百至一万余绿营兵不等。在形成定制之后，清王朝共计有八十三位总兵，陆路总兵七十、水路总兵十三。当然，除了这些总兵之外，晚清时期北洋水师也有总兵或加总兵衔的武职。如刘步蟾就曾经担任北洋水师右翼总兵，邓世昌也曾经以副将加总兵衔。
至于品级嘛，明朝的总兵没有明确品级，原来是什么品级，担任总兵后还是什么品级；而清朝的总兵为武职正二品。在职权范围上，明朝的总兵至少不会低于清朝的提督，有时甚至涵盖清朝数省提督和驻防八旗将军、都统的职权范围，要远比清朝的总兵位高权重得多！
到了晚清时期，新军中也出现了“镇”这个编制，虽然源自于早年间总兵统辖的那个“镇”，但二者已经不是一回事了。新军的镇大致相等于后来的师，北洋政府建立之后，索性直接把原来的镇直接改为了师、镇统制直接改为了师长。虽然不是一回事，但多少还是有些联系的，如果硬要生搬硬套，清朝的总兵大概其也就相当于后来的师长吧，远不及明朝相当于“大军区、战区司令”的那个总兵。如果是麾下兵力较少的总兵，实际权力恐怕还不及后来的一个团长……
