Введение в численные методы. Дулов Е.Н. - 6 стр.

использованием полиномов высоких степеней для некоторого класса функций
окажется хуже линейной интерполяции.
    Вычислительная                 погрешность   определяется   точностью   представления
вещественных чисел. При численном решении задачи на компьютере вещественные
числа всегда задаются с конечным числом знаком после запятой, равно как и при
вычислениях ручкой на бумаге. Связано это с тем, что под представление
вещественного числа отводится конечное число байт, которое, в свою очередь,
может иметь конечное число различимых комбинаций битов. Таким образом,
бесконечное множество вещественных чисел подменяется дискретным множеством.
В качестве примера рассмотрим представление числа с плавающей точкой в
формате IEEE-754 single precision (международный стандарт, впервые принятый в
1985 году). Запись числа выполняется с помощью 4 байт, как показано на рисунке 1.


 знак S , 1 бит             порядок E , 8 бит              мантисса M , 23 бита
 старший разряд                                                        младший разряд
    Рисунок 1. Представление вещественного числа в стандарте IEEE-754


    Мантисса записывается в виде числа m в диапазоне 1 ≤ m < 2 , используется
формат записи с фиксированной точкой. Целая часть мантиссы m всегда
подразумевается равной 1, т.е. 23 бита M содержат только её дробную часть.
Старший (левый на рис.1) бит имеет вес 1/2 , следующие 1/4, 1/8 и т.д. Таким
образом, если представить себе число M как целое 23-битное число, значение
мантиссы будет m = 1 + M / 2 23 . Порядок величины E в двоичной системе счисления
записан в виде целого числа, смещенного на 127. Бит знака выбирается равным 0
для положительных вещественных чисел и 1 для отрицательных. Таким образом,
вещественное число R можно записать через целочисленные S , E , M :
    R = ( −1 ) S ⋅ 2 E −127 ⋅ ( 1 + M / 2 23 )                                  (1.1)
    Выражение (1.1) охватывает диапазон вещественных чисел примерно от –
3.4×1038 до 3.4×1038. Внимательный читатель может заметить, что (1.1) должно
описывать вдвое большие вещественные числа, т.е. динамический диапазон должен
быть –3.4×1038 до 6.8×1038. Дело в том, что числа с E = 255 рассматриваются как

                                                    6