СОВРЕМЕННЫЕ СРЕДСТВА ПОВЫШЕНИЯ ТОЧНОСТИ РЕЗУЛЬТАТОВ МАТЕМАТИЧЕСКОГО МОДЕЛИРОВАНИЯ

Автор(и)

  • И. Жульковская
  • О. Жульковский

Ключові слова:

число с плавающей запятой, стандарт IEEE 754, формат представления, граничные значения, абсолютная погрешность вычисления

Анотація

Повышение точности арифметических операций за счет увеличения разрядности чисел является основным средством выполнения расчетов, критичных к округлениям. Проведенное исследование показывает возможности современных процессоров общего назначения и компиляторов языков высокого уровня поддерживать форматы повышенной точности для повышения эффективности математического моделирования в целом.

Завантаження

Опубліковано

2020-05-04