因為顯微硬度測試力小，壓痕小，容易出現誤差。影響顯微硬度值準確性的因素很多，主要因素有以下幾方面：
　　(1)試樣制備。顯微試樣制備過程中，會因磨削使表面塑性變形引起加工硬化，這會對顯微硬度值產生很大的影響(有時誤差可達50%)，低載荷下更為明顯。因此試樣在制備過程中，要盡量減少表面變形層，特別對軟材料，盡量采用電解拋光。
　　(2)加載的部位。壓痕在被測晶粒上的部位及被測晶粒的厚度對顯微硬度值均有影響。在選擇測量對象時應選取較大截面的晶粒，因為較小截面的晶粒厚度可能較薄，測量結果可能會受晶界或相鄰二相的影響。
　　(3)載荷。根據試樣的實際情況，選擇適當的荷載，在試樣條件允許的情況下，盡量選擇較大的載荷，以得到盡可能大的壓痕，并且壓痕大小要與晶粒大小成比例，尤其是在軟基體上測硬質點時，被測硬質點的截面直徑需要是壓痕對角線長度的4倍，否則將可能得到不準確的測量數據。此外，測定脆性相時，髙載荷可能出現“壓碎”現象，角上有裂紋的壓痕表明載荷已超過材料的斷裂強度，因而獲得的硬度值是不準確的。
　　(4)壓頭。壓頭的幾何形狀會對硬度值準確性有影響。壓頭的四個三角形工作面應光滑、平整并有一定的粗糙度。在使用過程中壓頭受到損壞，如頂角磨損、表面出現裂紋、凹陷或壓頭上粘有某些其他物質，都會使壓痕邊緣粗糙和不規則，變大測量誤差，影響測量結果。
　　(5)加載速度和保載時間。硬度定義中的載荷是指靜態的含義，但實際上一切硬度試樣中載荷都是動態的，是以一定的速度施加在試樣上的，由于慣性的作用，加載機構會產生一個附加載荷，因此加載速度過快，會變大壓痕，使顯微硬度值降低。為了消除這個附加載荷的影響，在施加載荷時應盡可能以平穩、緩慢的速度進行。一般載荷越小，加載速度的影響越大，當載荷小于100g時，加載速度應為l-ZOjim/s。