Уменьшение погрешности вычисления (округления)

Стремясь обеспечить наивыгоднейшее количество значащих цифр числа, результаты промежуточных вычислений обычно округляют до наименьшего необходимого количества значащих цифр. При округлениях возникает определенная погрешность, и для уменьшения накопления этой погрешности при громоздких расчетах целесообразно сохранять в промежуточных результатах до двух-трех сомнительных значащих цифр. [c.93]

Уменьшение погрешности вычисления (округления) [c.140]

Учитывая, что О < tXj < 1, полагаем jii = 0,5. Если после выполнения пункта 5 вышеприведенного алгоритма окажется, что > 0,5, то положим = 0,75 если же окажется, что p,i < 0,5, то положим = 0,25. Допустим для определенности, что реализовался первый случай, т. е. ni = 0,75. Осуществляя новый цикл с этим значением найдем fil . Если окажется, что ni < 0,75, то положим ni = 0,625 в противном случае положим ni = 0,875. Таким образом, каждый цикл приводит к уменьшению интервала возможных значений в два раза следовательно, погрешность вычисления j-i после г циклов будет не больше, чем 2 . Для достижения заданной точности е достаточно зафиксировать число циклов г (положив его равным абсолютной величине двоичного логарифма е, округленной до целого в большую сторону). [c.140]

В момент f = О (рис. 4.1, б). Отсюда, разностным аналогом точечного источника является единичный импульс, действующий на протяжении одного временного шага. Естественно, что по мере уменьшения Дт температурные отклики уменьшаются по величине, стремясь к нулю. Можно представить ситуацию, когда погрешности, связанные с усечением бесконечных рядов при вычислении коэффициентов матрицы Ад и правой части f, а также ошибки округления при счете на [c.70]

Скорость сходимости данной задачи до искомого решения была увеличена при уменьшении приращения р по мере того, как приближались к корректированным значениям. Как правило, р < Ю" применять не следует из-за погрешности вычисления (округления). Была найдена последовательность чисел р, которая дает удовлетворительные результаты. На основе этого значения Elp, остальных ЁЧ и проводится новое приближение но колонне, дающее значения функций 9 и /j, /j,. . ., fЗатем [c.329]

Величина Ла, не должна быть слишком большой, так как дФ да должна характеризовать скорость изменения функции в точке а Если же Aai выбрана очень малой, то из-за ошибок округления и приближенного характера вычислений на ЦВМ функции Ф погрешность определения dOjdai по формуле (IX. 27) может оказаться значительной. Обычно пробный шаг подбирается эмпирическим способом из условий, чтобы двукратное увеличение или уменьшение Aai не существенно изменяло величину (ЗФ(а )/(За,-, вычисляемую по формуле (IX.27) . Неправильный выбор Aai часто приводит к появлению ложных движений изображающей точки a t) или прекращению итерационного процесса из-за обращения в нуль gradФ(а). [c.226]

Справочник химика 21

Химия и химическая технология