Самсонов А.Н.
Junior Member / Новичок
Участник № / Member № 1792
отправлено / posted
В блоке NDGT замечена ошибка при округлении отрицательных чисел. Возможно, алгоритм округления реализован следующим образом: результат = целая_часть(источник*(10^NDG) + 0,5)/(10^NDG), где NDG - точность округления. Это справедливо только для положительных чисел. Для отрицательных нужен знак "-". Т.е. для любых чисел результат = (знак_источника)*целая_часть(|источник|*(10^NDG) + 0,5)/(10^NDG). Алгоритм может быть и другим, но подход такой же, как и в данном примере.
Сообщения / Posts 12 | Из / From: Россия
| IP / IP: IP адрес / IP address |
Printer-friendly view of this topic
