早期研制的为接触式原子力显微镜，它包括恒力模式和恒高模式。前者利用反射光位移引起的光电二极管输出电压的变化构成反馈回路控制压电陶瓷管伸缩，从而调节固定于扫描器上样品的位置，保持样品和探针间作用力(悬臂弯曲度)不变，测量每一点高度的变化。后者保持样品和探针间的距离不变，测量每一点作用力的大小。这种模式在调节探针与样品距离前即可直接观测悬臂弯曲度的改变。
除传统的接触式之外，1993年又研制出轻敲式AFM原子力显微镜。该显微镜在扫描过程中探针与样品表面轻轻接触，悬臂受存在于两者间的排斥力作用随样品表面起伏发生高频振颤。由于探针与样品的接触短暂，因此它更适用于质地脆或固定不牢的样品。
扫描样品时，利用传感器检测这些变化，就可获得作用力分布信息，从而以纳米级分辨率获得表面结构信息。它主要由带针尖的微悬臂、微悬臂运动检测装置、监控其运动的反馈回路、使样品进行扫描的压电陶瓷扫描器件、计算机控制的图像采集、显示及处理系统组成。微悬臂运动可用如隧道电流检测等电学方法或光束偏转法、干涉法等光学方法检测，当针尖与样品充分接近相互之间存在短程相互斥力时，检测该斥力可获得表面原子级分辨图像，一般情况下分辨率也在纳米级水平。原子力显微镜测量对样品无特殊要求，可测量固体表面、吸附体系等。