AFM利用針尖與樣品表面原子間的范德華力(VanDerWaalsForce)作為反饋信號,維持針尖樣品間作用力恒定,同時針尖在樣品表面掃描,從而得知樣品表面的高低起伏。AFM的基本結構與STM相似,原子間作用力的檢測主要由光杠桿技術來實現。如果探針和樣品之間有力的作用,懸臂將會彎曲。為檢測懸臂的微小彎曲量(位移),采用激光照射懸臂的尖端,探測器就可檢測出懸臂的偏轉。在掃描的同時,通過記錄反饋信號即可獲得樣品表面的形貌。由于AFM可以在蛋白質母液中進行掃描,因此是研究蛋白質晶體形核、生長、及晶體缺陷的有力手段。

晶體質量越高,最終通過X射線衍射解析獲得的結構信息也越詳盡、豐富,意義和價值越大。而高質量的晶體就意味著更少的內部缺陷,所以對缺陷進行研究,并減少各種缺陷尤為重要。AFM對生物大分子晶體的研究發現了大多類似無機物的缺陷,包括零維缺陷(點缺陷),如空位缺陷和替代缺陷;一維缺陷(線缺陷),如位錯;二維缺陷(面缺陷)如堆垛層錯和孿晶;三維缺陷(體積缺陷),常見的包括微粒的包埋、沉淀和組合。生物大分子晶體對雜質很寬容,允許其結合。生物大分子晶體缺陷的數量和密度較大,數量級約為小分子晶體的2～4倍,這可能導致晶體的破裂和多晶的形成,進而降低晶體質量及衍射數據的可靠性,甚至阻止晶體生長。生長液的純度是影響蛋白質晶體生長重要因素之一。母液中可能有百分之幾的雜質,這些雜質顯著影響晶體的溶解性、生長速度和形態,甚至直接導致晶體的破裂。雜質的結合有助于異質形核。在生長過程的早期,蛋白質溶液的過飽和度和生長速度都很大,如果雜質此階段結合,很可能不脫離晶體表面。而隨著晶體的生長,生長速度降低,雜質的結合也降低。

應用AFM研究雜質結合和晶體質量之間的關系,均得出雜質可降低晶體質量的結論。Yoshizaki等發現當加入5%的雜質,溶菌酶晶體(101)面變得粗糙,B因子顯著降低;當加入10%的雜質,生長臺階消失。對比商業用和再提純后的溶菌酶晶體的(101)面,發現前者出現了大量由共價溶菌酶二聚物才能形成的小顆粒,后者表面平滑,從而得到商業用晶體質量低于再提純晶體的結論。Plomp等把雜質密度較高的母液換為凈化后的母液,發現生長臺階極度粗糙的刀豆球蛋白晶體的表面雜質密度降低,而且螺旋位錯附近的螺旋生長臺階變成帶直邊的多邊形,X衍射分辨率從大于2.8üA提高到2.0ü雜質阻止臺階生長,進而導致晶體生長的停止。對一些大分子和病毒晶體的AFM研究表明,此機制導致了大分子晶體不可挽回的生長停止。若停止生長的小晶體接種到“新鮮”的過飽和溶液,通常不會長大;然而,如果在接種之前把晶體切片,新鮮表面就會繼續生長。AFM觀察結果表明雜質結合的出現是籽晶播種到“新鮮”溶液時常失敗的主要原因。這種機制如何使大分子晶體生長停止呢?當一開始,在溶液中形成(3D)形核,過飽和度很大,不穩定的生長速度很高。只要雜質結合時間比生長層暴露時間長,少數結合的雜質就會埋入到生長層中。長大的晶體逐漸消耗大分子濃度,溶液的過飽和度降低,生長層的暴露時間增加,那么,雜質的覆蓋面積也就會增加。

隨著低溫AFM,高速AFM,碳納米管探針等技術的發展,AFM的分辨率和動力學性能將進一步提高,未來的研究可能集中在以下幾個方面:(1)繼續晶體生長機制研究,包括分子間相互作用機制研究,如蛋白質和DNA、蛋白質之間、蛋白質和固體襯底間的相互作用,以及在各種襯底上生物大分子納米結構的吸附,而這正是生物材料、生物加工、生物薄膜研究的基礎;(2)缺陷的深入研究及相關理論的發展,為提高晶體質量提供理論指導;(3)對X射線衍射解析晶體結構的輔助作用,例如可以觀察到單個分子,其精細結構有助于結構模型的構建,而單層生長臺階的高度,則提供給我們分子尺寸的精確信息。