This is topic Точность канала in forum Общие вопросы / Common questions at Форум TRACE MODE: техническая поддержка.


To visit this topic, use this URL:
http://forum.adastra.ru/ultimatebb.php/ubb/get_topic/f/26/t/000236.html

Posted by AndreyV (Участник № / Member № 1542) on :
 
Канал ПУСТОЙ, поддитп FastR/W, данные возвращает процедура из DLL'ки. Согласно описанию, значение канала возвращаются в переменной (float) v.

В языке "C" тип float представлен 4 байтами и поддерживает 7 значащих цифр. Мне этого не хватает (читаются 8-10 значный нарастающий итог из счетчика электроэнергии). Проверял в самом "C", при преобразовании 8-значного числа к типу (float) 8-я цифра начинает врать: 60320786 = 60320784.000000

Есть какие-то пути решения такой задачи ???
Как засунуть в TM 8-10 значное число?
 
Posted by AdAstra Technical Support (Участник № / Member № 4) on :
 
В рамках 5-й версии - никак! Только в 6-й.
 


Новости АСУ ТП / News | SCADA / HMI | Обучение / Trainings | Свяжитесь с нами / Contact Us



Powered by Infopop Corporation
UBB.classic™ 6.7.2