отправлено / posted
Не могу разобраться с математикой. В базе каналов при эмуляции я вижу 6 цифр. В МРВ - 10 цифр. Но ведь в ТМ5 математика одинарной точности, почему я вижу 10 цифр (1401564.2250)?
IP / IP: IP адрес / IP address |
отправлено / posted
А при чем здесь одинарная точность? Все дело в формате вывода количества знаков после запятой. В РПД количеством выводимых знаков после запятой можно управлять задавая формат вывода. В РБК он фиксирован.
Сообщения / Posts 17317 | Из / From: Россия
| IP / IP: IP адрес / IP address |
Putincev
unregistered
отправлено / posted
Вы меня не поняли. При одинарной точности после расчетов возможно получить максимум 8 значащих цифр, но ни как не 10. По идее, приведенное выше число не возможно получить при одинарной точности. Поэтому я и недоумеваю, а мне это очень важно знать!
IP / IP: IP адрес / IP address |
отправлено / posted
У Float формата мантисса может быть максимум 7 значащих знаков, но это ведь только после точки - при чем здесь все знаки? Вы можете привести оба значения, как Вы их видите в РБК и в РПД?
Сообщения / Posts 17317 | Из / From: Россия
| IP / IP: IP адрес / IP address |
Putincev
unregistered
отправлено / posted
В том то и дело, что может быть максимум 7 значащих знаков. А до или после запятой уже не имеет значения, это вы меняете форму представления чисел на экране. Просто все остальные знаки должны быть равны 0, например 2456357000. Вот пример числа, которое получилось в проекте после расчета объемного расхода газа: В РБК - 315747: в РПД - 315746,6563.
Как видите, в РПД выводится 10 значащих цифр. Так с какой точностью можно вести расчет в РПД? Смогу ли я, после суммирования по всем каналам, получить число 9999999999?
IP / IP: IP адрес / IP address |
отправлено / posted
У нас используется стандартный формат FLOAT - со всеми вытекающими отсюда последствиями. То, что Вы видите на экране - это действительно может быть просто отформатированная форма числа. Можно на Ваш проект взглянуть?
Сообщения / Posts 17317 | Из / From: Россия
| IP / IP: IP адрес / IP address |
Putincev
unregistered
отправлено / posted
Кое как разобрались. Дело точно в формате FLOAT. С его помощью получают приближенное число. Просто нас смутило то, что вы выводите на экран больше 7 цифр. Однако наш программист пояснил, что это вечный спор программистов - сколько цифр выводить на экран при той или иной точности и насколько это корректно. Одним словом, все понятно, Вам большое спасибо, а мы будем ориентироваться на то, что ТМ5 - одинарная точность, а ТМ6 - двойная.
IP / IP: IP адрес / IP address |
Printer-friendly view of this topic
![[duno / незнайка]](graemlins/duno.gif)
Не могу разобраться с математикой. В базе каналов при эмуляции я вижу 6 цифр. В МРВ - 10 цифр. Но ведь в ТМ5 математика одинарной точности, почему я вижу 10 цифр (1401564.2250)?
![[attention / внимание]](graemlins/att.gif)
![[Недоумение / Confused]](confused.gif)
![[clever / умный]](graemlins/clev.gif)
