О точности

Программная точность измерений определяется тем, насколько отличается измеренная величина от истинной. Точность вывода на экран зависит от установленного количества выводимых знаков.

Не следует путать программную точность с точностью вывода.

Программная точность измерений и вычислений зависит от вычислительных возможностей компьютера. Сначала программная точность составляет примерно 15 значащих цифр. Например, квадратный корень из двух хранится в памяти в виде 1.41421356237310. При большом объеме вычислений точность может упасть из-за накопления ошибок.

Точность вывода определяется заданием ее командой Настройки | Единицы. Программа округляет вычисленные значения до заданной точности.

См. также
Внутренняя математика программы Живая Математика
Настройки | Единицы
Меню Измерения
Вычисления
Как используются числовые значения