СОВРЕМЕННЫЕ СРЕДСТВА ПОВЫШЕНИЯ ТОЧНОСТИ РЕЗУЛЬТАТОВ МАТЕМАТИЧЕСКОГО МОДЕЛИРОВАНИЯ
Ключові слова:
число с плавающей запятой, стандарт IEEE 754, формат представления, граничные значения, абсолютная погрешность вычисленияАнотація
Повышение точности арифметических операций за счет увеличения разрядности чисел является основным средством выполнения расчетов, критичных к округлениям. Проведенное исследование показывает возможности современных процессоров общего назначения и компиляторов языков высокого уровня поддерживать форматы повышенной точности для повышения эффективности математического моделирования в целом.
Завантаження
Опубліковано
2020-05-04
Номер
Розділ
Статьи









