Точность определений. Округление при вычислениях

ТОЧНОСТЬ ОПРЕДЕЛЕНИЙ. ОКРУГЛЕНИЕ ПРИ ВЫЧИСЛЕНИЯХ [c.30]

Рассмотренное правило округлений надо широко внедрять. Как упоминалось, излишняя точность анализов и вычислений, во-первых, связана, с непроизводительными материальными затратами и, во-вто-рых, создает ложное представление о высокой точности итоговых определений, достижение которой подчас и не нужно. [c.31]

При обработке экспериментальных данных интерполяционные формулы не всегда удобны. Во-первых, при большом числе точек аппроксимирующие полиномы имеют высокую степень, поэтому при вычислениях с ними из-за большой величины отдельных слагаемых полинома могут возникнуть ошибки округления, обусловленные конечной точностью представления чисел в машине. Во-вторых, экспериментальные данные, как правило, имеют значительный разброс но точности измерения, особенно на концах отрезка определения функции. Поэтому вряд ли разумно всегда строить интерполяционный полином исходя из условия совпадения значений во всех узловых точках. Иногда целесообразнее воспользоваться некоторой функциональной зависимостью, вид которой заранее известен. В таких случаях параметры этой зависимости определяются из условия минимума отклонений расчетных и экспериментальных значений. [c.314]

При расчетах окончательный результат обычно округляют. Округление следует проводить с соблюдением определенных правил, так как излишнее округление может ухудшить результаты анализа, а вычисления с неоправданно большим числом десятичных знаков без округления, требуют больших, но напрасных затрат труда, поскольку не улучшают реальной точности результата. Указание пяти-шести значащих цифр в результатах анализа обычно свидетельствует о некритическом отношении к погрешности числа. Необходимо напомнить, что нули, предшествующие первой цифре, отличной от нуля, значащими не являются. [c.132]

Учитывая, что О < tXj < 1, полагаем jii = 0,5. Если после выполнения пункта 5 вышеприведенного алгоритма окажется, что > 0,5, то положим = 0,75 если же окажется, что p,i < 0,5, то положим = 0,25. Допустим для определенности, что реализовался первый случай, т. е. ni = 0,75. Осуществляя новый цикл с этим значением найдем fil . Если окажется, что ni < 0,75, то положим ni = 0,625 в противном случае положим ni = 0,875. Таким образом, каждый цикл приводит к уменьшению интервала возможных значений в два раза следовательно, погрешность вычисления j-i после г циклов будет не больше, чем 2 . Для достижения заданной точности е достаточно зафиксировать число циклов г (положив его равным абсолютной величине двоичного логарифма е, округленной до целого в большую сторону). [c.140]

Важность правильного определения значащих цифр и проведения расчетов с необходимым округлением величин сейчас возрастает в связи с распространением и доступностью электронных вычислительных машин, работа на которых весьма способствует мнимому "повышению точности" вычислений. Установлено, что каждая лишняя значащая цифра в числах при умножении и делении снижает производительность труда на 15—30%. Еще более важным для исследователей является то, что правильная запись чисел при вычислениях непосредственно отражает важную информацию о точности и возможных погрешностях. [c.9]

При применении метода модифицированного сопряженного процесса также возникают определенные трудности, связанные с выбором шагов приращений, и обусловленные ими неточности счета. Однако в данном случае вычисления частных производных разностным методом ограничены отдельными блоками схемы, поэтому шаги приращений можно проанализировать заранее, до решения задачи оптимизации. Кроме того, так как математические зависимости, которые описывают блоки схемы, существенно более просты, чем зависимости, характеризующие всю схему в целом, погрешности округления окажутся меньшими, чем в методе приращений. Согласно изложенному, можно ожидать, что в методе модифицированного сопряженного процесса в целом будет достигнута большая точность в определении частных производных критерия по незаввГсимым переменным, чем в разностном методе. [c.165]

Я пользуюсь для определения такого удельного (или вернее объемного) веса толстостенной круглой препаративной склянкой, у которой отрезана верхняя часть или каким-либо другим легко изготовляемым сосудом, объем которого посредством шлифовки подгоняется по возможности точно к 100 мл. Указанный объем сосуда, конечно, не является обязательным условием, он может быть 95 или 100 мл, но с целью упрощения вычислений, емкость сосуда должна варьировать от 99,5 до 100,5, чтобы ее без ущерба можно было принять округленно за 100.2 Перед первым пользованием сосудом определяют его объем, который измеряют обычным способом с точностью до 0,1 мл. Кроме того взвешивают сосуд с точностью до 0,1 г и наносят оба числа на сосуде для пользования ими при последующих опытах. [c.324]

Нам осталось убедиться в том, что указанный выше набор параметров обладает также качествами, весьма ценными с вычислительной точки зрения. Речь пойдет о возможности округления результатов промежуточных вычисленпй в л1етоде наимевьшмх квадратов. Сравним два способа расчета 1) вычисление у ж Ъ и затем определение дисперсии 8 (У) по уравнению (3) 2) расчет неносредственно коэффициентов а и Ь и затем соответствующее этому способу определение дисперсии S Y). В чем преимущества первого способа перед вторым Коэффициенты у тя. Ъ независимы (см., например, [2]), поэтому их можно округлять независимо друг то друга, исходя из их погрешности (см. приложение 3). Коэффициенты а я Ъ коррелированы, и их нельзя округлять независимо друг от друга. Кроме того, непосредственно из уравнения (3) видно, что оно содержит только положительно определенные величины, следовательно, каждую из них можно округлять, например, до трех значащих цифр, чтобы с той же точностью вычислить S (Y). Это свойство основано на том, что S iY) представляет собой сумму квадратов [c.162]

В многоконфигурационных расчетах, таких, как расчет Бендера и Давидсона, встречаются большие чисто технические трудности, если при этих расчетах делаются попытки локализовать в одной и той же области пространства все орбитали. Понятно, что построить такие одновременно и ортогональные, и локализованные в определенной области функции из набора неортогональных базисных функций — задача довольно тонкая. Так как ортогональность некоторых из построенных орбиталей может быть очень ненадежной из-за ошибок округления числовых значений коэффициентов, определяющих эти орбитали, то и использование таких орбиталей может привести к накопляющимся ошибкам и в конечном счете просто к неправильным результатам. Эти трудности можно в принципе обойти, если постоянно проверять точность расчетов, но такая работа сильно замедляет расчет и значительно увеличивает объем используемой машинной памяти. Бендер и Давидсон просто отбрасывали те орбитали, которые нельзя было ортогонализовать с заданной точностью за один цикл. Трудности такого рода могут возникнуть в любых вычислениях, где используются строго локализованные волновые функции. И именно эти трудности больше всего препятствуют прогрессу таких расчетов. [c.318]

Справочник химика 21

Химия и химическая технология