古医书《外台秘要》曾说，用杨枝将一头咬软，蘸了药物揩牙，可使牙“香而光洁”， 咀嚼嫩树枝用以洁牙的效果似乎也不错，李时珍也说，用嫩柳枝“削为牙枝，涤齿甚妙”。
在还没发明牙膏和牙刷的古代，中国人用树枝、盐、药物等工具来清洁牙齿，希望能达到清洁、消炎抑菌，并带来些微清香的效果。牙膏问世前，西方人发明了牙粉。它是碳酸钙和肥皂粉的混合物，其功能是保持牙齿清洁，除却污渍。但牙粉pH值高，会引起口腔组织发炎。今天，人们对牙膏的期望早已超出了清洁，而是希望牙膏能起到更多口腔保健的作用。
牙膏的组成
牙膏是由摩擦剂、保湿剂、增稠剂、发泡剂、芳香剂、水和其他添加剂（含用于改善口腔健康状况的功效成份）组成的。不管什么牙膏，其中主打成分都是摩擦剂，清洁作用主要由摩擦剂完成。其他添加剂还包括防腐剂、着色剂等等。
1、增稠剂
增稠剂常见为CMC（羧甲基纤维素钠），目的是将牙膏中多种原料成分有机地粘合在一起制成膏状，不过新国标已经取消了对稠度的要求。
2、香料
牙膏用香料主要是薄荷，它能给刷牙带来凉爽感。此外，还可使用水果类香料和绿茶味等，但作为牙膏香料来说是有严格限制的，也不要求一定含有。
3、摩擦剂
牙膏中常用的摩擦剂有： 碳酸钙、磷酸氢钙（摩擦力较强，因此在特制除烟迹的牙膏中，可在二水盐中混入5%-10%无水盐）、焦磷酸钙（由于它不和含氟化合物发生反应，可用作含氟牙膏的基料。 ）
4、保湿剂
湿润剂可防止牙膏在软管中固化变硬，并使膏体具有光泽等效能。用于牙膏中的湿润剂有甘油、山梨醇、聚乙二醇等。山梨醇还能赋予牙膏适度的甜味。
二甘醇作为一种保湿剂也曾用在牙膏中，但被发现有低毒性，并在2007年被美国、日本、加拿大等国家先后禁止，我国国家质检总局也随后发出了禁止使用的公告，并在在2009年公布的牙膏新国标（GB8372-2008）中明确禁止添加。如作为杂质带入，在牙膏中的含量不得超过0.1%。
5、表面活性剂
表面活性剂有洁净、发泡能力，使牙膏在口腔迅速扩散，并使香气易于透发。配方中用量一般为2～3%，普遍使用的是月桂醇硫酸钠。
6、防腐剂
牙膏生产过程中时常会受到微生物污染的威胁，因此有必要在牙膏配方体系中添加一定的防腐剂。牙膏中的防腐剂有苯甲酸和对羟基苯甲酸酯类。至于媒体所说的会致癌的三氯生，在2009年的新国标中，已被列入到允许添加的防腐剂中，但明确不得超过0.3%。
