Все статьи подряд / Математика / Хабр's Journal
 
[Most Recent Entries] [Calendar View]

Tuesday, December 20th, 2016

    Time Event
    8:12a
    Рекуррентные формулы для расчета ошибок итерационного суммирования двоичных чисел ограниченной длины
    В настоящей статье мы продолжим рассмотрение проблемы компьютерных вычислений десятичных чисел с помощью двоичной арифметики, которая была затронута в предыдущем топике [1]. В статье речь пойдет об ошибках, которые в литературе принято называть ошибками округления. И, в частности, ошибок, которые порождаются в результате итерационного суммирования большого числа одинаковых десятичных чисел, представленных в двоичном виде ограниченным разрядным пространством. В результате исследований были получены простые рекуррентные соотношения, позволяющие точно определить ошибку компьютерных итерационных вычислений частичных сумм любого количества одинаковых слагаемых, на любом шаге итерации.
    Читать дальше →

    << Previous Day 2016/12/20
    [Calendar]
    Next Day >>

Все статьи подряд / Математика / Хабр   About LJ.Rossia.org