balmer писал(а):Впрочем пожалуй последний вариант калибровки меня более-менее устраивает. Вот например как выглядит измерение сопротивления 1.016 МОм в зависимовти от частоты
Ты покажи график реактивной составляющей сигнала, чтобы было видно насколько все плохо. Колебания измеренной величины на графике это вовсе не систематическая погрешность, это влияние помех и наводок в твоей схеме, видно разводка плохая, причем если такой график получается каждый раз при измерении, то помехи создает сама схема. Попробуй измерь выходной сигнал одного из каналов при отключеном тестовом сигнале, будет видно почему именно так.
balmer писал(а):А плохое измерение на 190 КГц - это уже проблеммы с I/V конвертором. Дальше - хуже, поэтому более высокие частоты и не измеряю.
У тебя эта идея, что во всем виноват IV преобразователь , с самого начала темы. По большому секрету тебе скажу, что его влияние ограничено только емкостью проводов двух щупов, которые к нему подсоединены. Если он работает как надо, то эта емкость компенсируется и не влияет на измерения, если нет - то влияет. А в твоем случае все косяки из за дифусилителя, который действительно не работает, IU можешь закоротить и убрать из схемы, ты разницу в измерениях все равно не увидишь из за того что я написал абзацем выше.
. Ну во первых 1%, это все-таки не более 1%, приду домой гляну на точные цифры. Во вторых у меня размах сигнала всего 1600 LSB. Уменьшаем в 2 раза получается 800 LSB. 1% от 800 LSB это получается 8 LSB. Ну и к тому-же при 3 MSPS сигнала. На 1 MSPS получается уже получше. Так что да по ощущениям примерно 4-8 LSB ошибки.
.
