lDrakon писал(а):но из-за этого порой, при прочих равных, на 100к показывает больше погрешность и выходит порой что 50к
нет, не из-за этого у всех компонентов есть свои реальные параметры, отличные от идеальных. У оперов есть скорость нарастания сигнала и она является фиксированной величиной. Если вы делаете больше усиление - получаете меньше максимальную рабочую частоту. Поэтому нет ничего удивительного, что на КУ 50 усилитель и в целом схема будет работать лучше, чем на КУ 100 .
Помимо теории усиление ограничивалось по результатам сравнений практических результатов.
Хотя в теории на 200К малые индуктивности и кондеры должны измеряться точнее, чем на 10КГц, на практике это может быть не так.
lDrakon писал(а):я лоханулся, надо сначала экран от шильда отрывать и потом шлейф отпаивать, а вышло что экранчик сильно нагрелся по центру, аж цветной след остался, но пашет
ну вот и вся разгадка, матрица ОЛЕД выгорает при нагреве. я испортил один экран, когда менял стаб рядом с оледом паяльным феном и на экране уголок , что больше всего нагревался испортился.
lDrakon писал(а):это хорошо, а то что то у меня на 1ом и 50к/100к не получается толком ..
как бы банально это не звучало, но нужно учить матчасть

. Я где-то уже писал об паразитных параметрах и давал ссылки, которых сейчас нет под рукой. Все ваши проблемы уже давно рассмотрены, разжёваны и переварены в практические решения в огромной теме по далекому праотцу этого прибора RLC2 -где-то в недрах форума по тому прибору выкладывался обстоятельный мануал об измерении, учете и компенсации паразитных параметров резисторов при калибровке. Там всех блох уже изловили и пересчитали
Там огромный форум, но кто-то делал сгруппированный репозиторий по всем важным моментам.
Вот одна из страниц на эту тему, но мне встречалось получше
https://pro-radio.ru/measure/6875-21
Даже при 10кГц эти паразитные параметры будут ощутимо уводить результаты. о чем писалось там на 100К они будут на порядок сильнее воздействовать.
К примеру вы калибруете прибор резистором 1,000 Ом на частоте 100к, но не учитываете его паразитную индуктивность в 10 нГн
как результат получаете + 6мОм реактивного сопротивления, но говорите прибору, что индуктивности нет, а общее сопротивление все равно 1,000 Ом. В результате сдвигаете фазу и получаете ошибку в пересчете как активного, так и реактивного сопротивления. И это я еще не упомянул, что параллельно индуктивности и резистору включен паразитный конденсатор.
А при измерении пинцетом параллельно добавляется еще "подстроечный конденсатор", образованный вашими сведенными губками щупов- сильнее прижали- больше емкость, слабее- меньше. 0,2-0,3пФ при сведении щупов легко получить, но они нигде не учитываются и они плавают.
Для учета этих параметров есть в режиме калибровки ввод паразитных параметров. Но там они введены в виде неких средних значений, удаленных от вашего конкретного резистора.
lDrakon писал(а): MS - 2,5ом, наш аппарат - 3,5ом -- это на 100к,
Кто такая МС-ка?
кто-то с погрешностью отделяет реактивное сопротивление от активного, скорее всего разница обусловлена условиями калибровки.
lDrakon писал(а): на новых и размерами 12 и 08, еще как то похоже ( пусть и опять же накидывает 8-10, не выходит у меня в 0 выставить никак
скорее всего дело опять же в калибровке по паразитным параметрам как описано выше +
шорт нужно калибровать правильно, лучше не тупо зажимая щупы, а тонкую откусить лапку
детали и сжимать ее пинцетом кончиками, в том месте, где должен быть хват СМД детали при реальном измерении. Тогда
максимально точно учитывается индуктивность губок пинцета и за счет малой площади контакта продавливается окисел.
Сами по себе губки имеют индуктивность до десятков нГн и даже по разному хватая деталюшку будете получать разное значение ее индуктивности при прочих равных .
Чем дальше в ловле блох, тем больше нюансов.
PS нашел репозитарий -
https://www.dropbox.com/sh/y16hnkoba6ah ... ejY3Q1rkBa
а конкретно о калибровке тут
https://www.dropbox.com/sh/y16hnkoba6ah ... tracking=1
и тут
https://www.dropbox.com/sh/y16hnkoba6ah ... tracking=1