AndreyV
Junior Member / Новичок
Участник № / Member № 1542
отправлено / posted
Канал ПУСТОЙ, поддитп FastR/W, данные возвращает процедура из DLL'ки. Согласно описанию, значение канала возвращаются в переменной (float) v.
В языке "C" тип float представлен 4 байтами и поддерживает 7 значащих цифр. Мне этого не хватает (читаются 8-10 значный нарастающий итог из счетчика электроэнергии). Проверял в самом "C", при преобразовании 8-значного числа к типу (float) 8-я цифра начинает врать: 60320786 = 60320784.000000