Форум РадиоКот

Доброго времени суток уважаемые Коты. Обращаюсь к знатокам МК и Proteus.
Имеем вот такой расчет:
a=400000000
b=(a*4294967296)/1250000000=1374389534.72
Это мне посчитал маткад. Проверил на калькуляторе - сходится.

Теперь вот такой код в IAR для AtMega:

long unsigned int a=0;
long unsigned int b=0;
a=400000000;
b=(long int)(((long float)(a*4294967296))/1250000000);

запускаем Proteus 8.0 и смотрим переменную:

1374389504

Куда делась дробная часть понятно, как позже сделать нормальное округление тоже в курсе. Но куда делась тройка? Почему там 0? Это глюк протеуса?
Если бы я накосячил в коде, то результат бы отличался радикально, а не на один знак в середине числа.

Проверил на другом числе - концовка существенно отличается. Похоже что первый случай совпадение. Подскажите как правильно посчитать такие числа на AVRке.

изучайте неявное приведение типов операндов в Си.

Ярослав555 писал(а):b=(long int)(((long float)(a*4294967296))/1250000000);

произведение a*4294967296 у вас будет иметь тип long, а потом будет преобразовано в long float (а такое вообще есть?) соответственно, если вы умножаете два long числа и получаете в итоге long-результат, вы сильно теряете в точности. чтобы не потерять в точности надо чтобы хотя бы одно число было long long

ок. ошибку кажись понял, заработало, спасибо. но как быть с округлением? без float я теряю дробную часть сразу, floor уже не применить.

Ярослав555 писал(а): как быть

я не знаю... если дам совет "думать" - поможет?
не знаю, что именно вы там вычисляете, но сначала умножать на 400000000, а потом делить на 1250000000 - это вызывает вопросы... почему не умножать на 40 и делить на 125?

400000000 - это переменная, задается юзером.
1250000000 - это тактовая частота.
4294967296 - это 2^32, константа, емкость счетчика.

AD9850 запускаю. пробовал сразу делить переменную на 0.873114913702. но тоже неочень

b=(a*4294967296ULL)/1250000000ULL;
if((((a*4294967296ULL)/125000000ULL)%10)>5){
b++;
}

как-то так, вроде работает, округляет.

Ярослав555 писал(а):400000000 - это переменная, задается юзером

Интересно... Не кнопками "+" и "-" случайно ?
В любом случае, почему бы юзеру не задавать более меньшее число ? Арифметика попроще будет.

неее кнопками выбираю разряд, валкодером из шаговика устанавливаю число - от десятых герца до десятков мегагерц. Генератору пару лет, все работало, но захотелось пересобрать, косяки убрать, фильтрацию улучшить.

Понятно

Тут :

Ярослав555 писал(а):b=(a*4294967296ULL)/1250000000ULL;
if((((a*4294967296ULL)/125000000ULL)%10)>5){
b++;
}

, в условии, можно было бы "b" применить. Для чего повторно высчитывать такие громозкие выражения ?

Alex, невнимательность тебя погубит)
там не b, a 10b.

упс...

Alex посчитайте нолики до if и в самом if. тонкость в том что сначала делю условно на 125000, и получаю допустим 456,78. результат целочисленный, 0,78 отбросили и оно пропало бы. Но в if я делю на 12500, тогда получаю 4567,8. Это МК мне выдает 4567, остаток от деления на 10 будет 7, сравниваем, если больше 5, то инкремент. вот и все

а если сразу делить с запасом, то результат не помещается в UL, а если я создаю переменные UUL то МК в протеусе с ума сходит. Я вчера уже и JTAG откопал, и МК нашел, в конце концов осталось только понять что мне там IAR ругается (где-то не настроено). но потом оно в протеусе заработало, и ладно уж

для округления перед делением на 10 надо всего-навсего прибавить 5, и никаких лишних if не надо.

ibiza11 писал(а):Alex, невнимательность тебя погубит)
там не b, a 10b.

Да, лохонулся, ссори...

Тогда так : Собственно, тоже самое и предложил ARV.