Hallo simar,
ein 25,9 Teiler (0,259 mm vom Mittelpunkt) würde ja bedeuten, dass das System in der Lage wäre in einem Bereich von 0,001 mm aufzulösen.
Ich komme beruflich aus der Messtechnik. Nicht mal gängige Koordinatenmessmaschinen sind in der Lage auf 0,001 mm genau zu messen.
Da müssten ganz viele Bedingungen erfüllt sein (Temperatur, Schmutz, Erschütterungen von außen, etc..) um diese Genauigkeit zu erreichen.
Aus diesen Gründen behaupte ich, dass eine Auswertung auf eine oder zwei Nachkommastellen völlig sinnlos ist. Da könnte ich genauso gut würfeln.
Um auf deine Frage einzugehen, würde ich behaupten, dass es sich um Rundungsfehler bei der Berechnung handelt. Bei Meyton besteht das Thema genauso. Auch dort ist ein 25,6 Teiler eine 10,9.