Вот писал для rav133, но у тебя похоже аналогичная ситуация.
Обновил прошивку, она все
там же.
В меню появилось два дополнительных дебаговых пункта.
Set R - принудительно устанавливает резистор, с которым будет сравниваться.
Errors% - показывает среднеквадратичную ошибку в I/V каналах.
Мне пунктом меню Set R не пришлось пользоваться, но тебе теоретически придется. Чтобы установить R0 100 Ом при измерении очень малых сопротивлений и R3 100 КОм для измерения обень больших.
Вот какие результаты получились:
В пределах 10 Ом - 100 КОм среднеквадратическая ошибка I/V порядка 0.03% на моем варианте прибора. На очень больших и очень малых сопротивлениях ошибка постепенно увеличивается.
Для Open варианта на частоте 1 КГц:
I% 30-40 (т.е. ошибка очень большая)
V% 0.02 (т.е. ошибка очень маленькая)
Для Short варианта на частоте 1 КГц:
I% 0.02 (т.е. ошибка очень маленькая)
V% 60-150 (т.е. ошибка очень большая)
Результаты вполне объяснимые. На большей части диапазона шумы сильно меньше сигнала, и поэтому среднеквадратическое отклонение от синусоиды крайне мало. К краям диапазона шумы уже становятся сравнивыми с уровнем сигнала. В Open случае - очень маленький ток, поэтому в I канале большая ошибка. В Sort случае очень маленькое напряжение, поэтому V канал практически из шума состоит.
Интересует какие у тебя получились результаты для 100 Ом и 100 КОм. И в том и в другом случае должны получится цифры порядка 0.02-0.05% для I%,V% (на моем приборе так и получается). Если получатся очень большие значения (больше 1%) это уже фатально для точности прибора.