Попарился с диапазоном 1 МОм - 10 МОм. Рассказываю о результатах.
Но сначала график
:
Измеряем резистор 10 МОм. 1.55 pF это паразитная емкость щупов.
Красная линия - измеренная реальная часть сопротивления.
Синяя линия - измеренная мнимая часть сопротивления.
Зеленая линия - скорректированная реальная часть сопротивления на величину паразитной емкости щупов.
Максимум синего графика - это место где емкостное сопротивление становится равным 10 МОм и сравнивается с сопротивлением резистора.
Пытался воспльзоваться формулой Zx = Zstd*(1/Zstdm-1/Zom)*Zxm/(1-Zxm/Zom) из перевода статьи HP_AN_346.doc
И нашел таки границы ее применения. В случае когда емкостное сопротивление начинает превалировать над вещественным, результат становится неустойчивым. То есть если мы берем в качестве референсноно сопротивление Zstd=10 MOm, то эта формула выдаст абсолютно точное значене при измерении резистора 10 МОм. Но вот если мы возмем резистор 8 МОм, то результат окажется печальным. Дело в том, что после того как емкостное сопротивление начинает превалировать над резистивным - формула начинает "усиливать" ошибки связанные с неточным определением емкости и шумами.
Чтож, придется смириться, что диапазон сопротивлений 1-10 МОм работает только на частотах 1 КГц и ниже.
В конце концов пришел к тому, что для точности лучше 1% достаточно учесть:
- последовательное сопротивление щупов
- последовательную индуктивность щупов
- сопротивление щупов
- откалибровать сопротивления резисторов
Все параметры
не зависят от частоты, что приятно!
В калибровочный коэффициэнт для резисторов входят заодно и другие неточности связанные с разным коэффициентом усиления в канале тока и напряжения.
Ошибки связанные с неточностью усиления MCP6S21 учитывать не стал. По измерениям они меньше 0.1% и явно выходят за границы точности нашего прибора.
Теоретически исходя из частоты возбуждения и емкости конденсатора надо искать резистор порядка 1 КОм с которым оно резонирует.
