Тема
:
Неверный результат операции с участием вещественных чисел
Показать сообщение отдельно
#
5
14.08.2011, 13:43
NIch
Продвинутый
Регистрация: 02.06.2008
Адрес: Бендеры ПМР
Сообщения: 754
Репутация:
2446
Непонятно, то ты округляешь до 0,04 (3-го знака), то до 0.111979824 (9-го знака). Тогда уж или 0.039999999 или 0.112.
Напиши свою функцию округления и не парься.
__________________
В начале был Бит, потом Байт и только потом появилось Слово...
NIch
Посмотреть профиль
Отправить персональное сообщение для NIch
Найти все сообщения от NIch