原子力显微镜AFM是利用检测样品表面与细微的探针针尖之间的相互作用力（原子力）测出表面的形貌。探针尖尖在小的轫性的悬臂上，当探针接触到样品表面时，产生的相互作用，以悬臂偏转形式检测。样品表面与探针之间的距离小于3-4nm，以及在它们之间检测到的作用力，小于10-8N。激光二级管的光线聚焦在悬臂的背面上。当悬臂在力的作用下弯曲时，反射光产生偏转，使用位敏光电检测器偏转角。然后通过计算机对采集到的数据进行处理，从而得到样品表面的三维图象。
完整的悬臂探针，置放于在受压电扫描器控制的样品表面，在三个方向上以精度水平0.1nm或更小的步宽进行扫描。一般，当在样品表面详细扫绘（XY轴）时，悬臂的位移反馈控制的Z轴作用下保存固定不变。以对扫描反应是反馈的Z轴值被输入计算机处理，得出样品表面的观察图象（3D图象）。
对原子力显微镜我们应了解一些基本的术语：
①卡西米尔效应
金属导体或介电材料的存在改变了真空二次量子化后电磁场能量的期望值。这个值与导体和介电材料的形状及位置相关，因此卡西米尔效应表现就成了与这些属性相关的力。
②接触模式（Contact Mode）
原子力显微镜AFM直接的成像模式。在整个扫描成像过程之中，探针针尖始终与样品表面保持接触，而相互作用力是排斥力。扫描时，悬臂施加在针尖上的力有可能破坏试样的表面结构，因此力的大小范围在10-10-10-6N。若样品表面柔嫩而不能承受这样的力，则不宜选用接触模式对样品表面进行成像。
③非接触模式（non-contact mode）
非接触模式探测试样表面时悬臂在距离试样表面上方5-10nm的距离处振荡。样品与针尖之间的相互作用由范德华力控制，通常为10-12N，样品不会被破坏，而且针尖也不会被污染，特别适合于研究柔嫩物体的表面。
④轻敲模式（Tapping Mode）
轻敲模式介于接触模式和非接触模式之间，是一个杂化的概念。悬臂在试样表面上方以其共振频率振荡，针尖仅仅是周期性地短暂性地敲击样品表面。这就意味着针尖接触样品时所产生的侧向力被明显地减小了，因此当检测柔嫩的样品时，AFM的敲击模式是好的选择之一。