СОВРЕМЕННЫЕ СРЕДСТВА ПОВЫШЕНИЯ ТОЧНОСТИ РЕЗУЛЬТАТОВ МАТЕМАТИЧЕСКОГО МОДЕЛИРОВАНИЯ
Keywords:
число с плавающей запятой, стандарт IEEE 754, формат представления, граничные значения, абсолютная погрешность вычисленияAbstract
Повышение точности арифметических операций за счет увеличения разрядности чисел является основным средством выполнения расчетов, критичных к округлениям. Проведенное исследование показывает возможности современных процессоров общего назначения и компиляторов языков высокого уровня поддерживать форматы повышенной точности для повышения эффективности математического моделирования в целом.
Downloads
Published
2020-05-04
Issue
Section
Статьи









