СОВРЕМЕННЫЕ СРЕДСТВА ПОВЫШЕНИЯ ТОЧНОСТИ РЕЗУЛЬТАТОВ МАТЕМАТИЧЕСКОГО МОДЕЛИРОВАНИЯ

Authors

  • И. Жульковская
  • О. Жульковский

Keywords:

число с плавающей запятой, стандарт IEEE 754, формат представления, граничные значения, абсолютная погрешность вычисления

Abstract

Повышение точности арифметических операций за счет увеличения разрядности чисел является основным средством выполнения расчетов, критичных к округлениям. Проведенное исследование показывает возможности современных процессоров общего назначения и компиляторов языков высокого уровня поддерживать форматы повышенной точности для повышения эффективности математического моделирования в целом.

Downloads

Published

2020-05-04