原子力顯微鏡利用微懸臂感受和放大懸臂上尖細探針與受測樣品原子之間的作用力，從而達到檢測的目的，具有原子級的分辨率。由于原子力顯微鏡既可以觀察導體，也可以觀察非導體，從而彌補了掃描隧道顯微鏡的不足。
根據吸引力和排斥力發展出兩種操作模式，即接觸模式和非接觸模式。然后，在非接觸模式之上改良，就有了第三種模式輕敲模式。
原子力顯微鏡工作模式：接觸模式
利用探針的針尖與待測物表面之原子力交互作用，探針與樣品表面緊密接觸并在表面上滑動。使非常軟的探針臂產生偏折，此時用特殊微小的鐳射光照射探針臂背面，被探針臂反射的雷射光以二相的鐳射光相位偵檢器來記錄鐳射光被探針臂偏移的變化。接觸模式的優點是掃描速度快，分辨率高，是AFM技術中可得到原子級分辨率的圖像的模式，并且對于一些表面上垂直變化較大的樣品，比較容易掃描。但由于針尖在樣品表面上滑動及樣品表面與針尖的粘附力，可能使得針尖受到損害，樣品產生變形，故對不易變形的低彈性樣品存在缺點，并且其應切力會使圖像產生扭曲。
特點：掃描速度快，是接觸模式、非接觸模式、輕敲模式三種模式中能獲得原子級分辨率的模式。
操作要點：過大的作用力會損壞樣品表面，但較大的的作用力通常可得到較佳的解析度。因此選擇適當的的作用力，接觸式的操作模式是十分重要的。
原子力顯微鏡工作模式：非接觸模式
非接觸模式是探針針尖始終不與樣品表面接觸，在樣品表面上方5～20nm距離內掃描。針尖與樣品之間的距離是通過保持微懸臂共振頻率或振幅恒定來控制的。在這種模式中，樣品與針尖之間的相互作用力是吸引力——范德華力。非接觸模式AFM的工作原理就是，以略大于微懸臂自由共振頻率的頻率驅動微懸臂，當針尖接近樣品表面時，微懸臂的振幅顯著減小。振幅的變化量對應于作用在微懸臂上的力梯度，因此對應于針尖-樣品間距，反饋系統通過調整針尖-樣品間距使得微懸臂的振動幅度在掃描過程中保持不變，就可以得到樣品的表面形貌像。樣品不會被破壞，而且針尖也不會被污染，特別適合于研究柔嫩物體的表面。
特點：針尖不與樣品接觸，所以對樣品沒有損傷，且由于吸引力小于排斥力，針尖-樣品作用力比接觸式的小幾個數量級，故靈敏度比接觸模式高。
操作要點：在大氣中操作時，試片表面常會吸附一層水，所以在討論探針和試片交互作用時，必須考慮探針與試片表面水膜間的毛細孔現象。
原子力顯微鏡工作模式：輕敲模式
將非接觸式加以改良，其原理是將探針與樣品距離加近，然后增大振幅，使探針在振蕩至波谷時接觸樣品，由于樣品的表面高低起伏，使得振幅改變，再利用類似非接觸式的迴饋控制方式來獲得圖像。輕敲模式的優點是對大多數樣品有比較高的側向分標率(1-5nm)，并且由于微懸臂的高頻振動，使得針尖與樣品之間頻繁接觸的時間相當短，針尖與樣品可以接觸，也可以不接觸，且有足夠的振幅來克服樣品與針尖之間的粘附力。因此對樣品的損害很小，適用于柔軟、易脆和粘附性較強的樣品，且不對它們產生破壞。這種模式在高分子聚合物的結構研究和生物大分子的結構研究中應用廣泛。其缺點是掃描速度比接觸模式要慢。
特點：很好地消除了橫向力的影響，降低了由吸附液層引起的力，圖像分辨率高，適于觀測軟、易碎或膠黏性樣品，不會損傷其表面。
