Все верно, у Вас коэффициент усиления получился по моим рассчетам 36 (на самом деле немного другой, я разницу в нижней точке взял 10 градусов). Смысл в том, что сигнал на входе АЦП достиг уровня опорного напряжения, умножился на 0.36 (очень приблизительно, на деле там все сложнее) и дальше рос, но для АЦП это уже было все-равно. Так это дело простояло 10сек и сработала защита. Это защита не от перебора температуры (она срабатывает мгновенно), а от того что в течении 10сек температура не растет (или не падает) как раз для таких случаев, когда АЦП "слепнет".Постояла около 10 секунд.
Перепрошивать ничего не нужно, замените резистор, а в режим калибровки зайдите не коротким, а длинным нажатием на энкодер, при этом результаты предидущей калибровки сбросятся.
upd:
Vladislav&K, по-моему я ошибся, когда советовал Вам увеличить сопротивление резистора в ООС, его уменьшить нужно.
