Значащие цифры и правила округления

Значащие цифры и правила округления [c.55]

При оформлении окончательного резу.чьтата придерживаются следующего правила погрешность должна иметь одну-две значащие цифры, а число, выражающее среднее значение результата (измерения), должно оканчиваться разрядом, которым начинается погрещность, т. е. значения среднего результата и границ доверительного интервала должны быть выражены числами с одинаковым числом знаков после запятой их положено округлять в одинаковой степени. Правило округления чисел см. п. 2.7. [c.69]

Выражение получено при условии Пф = min = /г с учетом известного соотношения 5 ( ) = 5 (г/)/V - Множитель 4, / обычно не превышает 4—5. Поэтому погрешность в оценке предела обнаружения не менее 20 %. Отсюда вытекает, что значение предела обнаружения следует приводить с точностью до одной, максимум двух значащих цифр. При этом можно придерживаться следующего правила если первая значащая цифра не превосходит 3, допустимо указание цифр следующего десятичного раздела с округлением их до О или 5. Если первая значащая цифра больше 3, результат следует округлить до ближайшего целого числа и представить одной значащей цифрой с указанием десятичного разряда. [c.115]

Очень важным является правило округления в химических задачах. При округлении необходимо оставлять не менее трех значащих цифр. Чтобы пояснить, что такое значащая цифра, рассмотрим простой пример. Найдем количество вещества в 1,1 г нитрата цинка 7п(МОз)2 [c.455]

Значащие цифры и правила округления. Точные и приближенные вычисления Обшие указания [c.89]

При расчетах окончательный результат обычно округляют. Округление следует проводить с соблюдением определенных правил, так как излишнее округление может ухудшить результаты анализа, а вычисления с неоправданно большим числом десятичных знаков без округления, требуют больших, но напрасных затрат труда, поскольку не улучшают реальной точности результата. Указание пяти-шести значащих цифр в результатах анализа обычно свидетельствует о некритическом отношении к погрешности числа. Необходимо напомнить, что нули, предшествующие первой цифре, отличной от нуля, значащими не являются. [c.132]

Большие трудности бывают обусловлены причинами, совершенно неожиданными для неопытного исследователя. Речь идет об ошибке, связанной с округлением величин. Для большинства нестатистических задач, проводя расчеты, можно брать величины, содержащие на одну или две значащие цифры больше, чем мы хотим получить в окончательном ответе. Однако в статистических расчетах этого, как правило, бывает недостаточно, потому что на том или ином их этапе непременно приходится определять разность двух близких величин, что всегда ведет к потере нескольких значащих цифр. Рассмотрим, например, разность 1,38204—1,38195 = 0,00009. Каждое из исходных чисел содержит шесть значащих цифр, а в разности мы имеем только одну. Полезно проделать расчет Км при помощи уравнения (10.29) для серии данных, приведенных в табл. 10.1. Так как численные значе- [c.256]

При округлении уменьшают число значащих цифр. Это всегда связано с введением некоторой погрешности от округления. Округление с поправкой предусматривает отбрасывание последней цифры, если она is 4, и увеличение на одну единицу предпоследней цифры, если последняя цифра >5. При округлении чисел с последней цифрой 5 выгоднее применять правило четной цифры, ибо результат округления всегда четный. Округление в этом случае всегда сводится к отбрасыванию единственной цифры 5, если предпоследняя цифра четная, и увеличение ее на единицу, если она нечетная. В результате округления вносится погрешность не более половины единицы последнего разряда. Например, округление чисел 217,5 и 218,5 дает цифру 218. Погрешность в обоих случаях равна половине цифры последнего разряда. [c.177]

Десятичными знаками называются все цифры числа, стоящие правее запятой, отделяющей его дробную часть. Значащими цифрами называются все цифры числа, кроме нулей, стоящих слева, и нулей, стоящих справа и заменяющих неизвестные или отброшенные при округлении цифры. Нули в середине числа всегда являются значащими цифрами. [c.17]

Если решить эту систему на ЭВМ, которая выполняет арифметические операции с точностью до 8 значащих цифр, и подставить в приведенную выше систему уравнений w = 1Е — 10, то в результате получится X = 1, у = 1. Этот результат не вызывает никаких возражений. Если же уравнения поменять местами, то по программе Г—Ж получится х = О, > = 1. Ясно, что этот результат ошибочный. Если в исходной системе уравнения поменять местами и разделить оба уравнения на w, то при решении полученной системы по программе Г—Ж получится х = 4,671875, = 1. Таким образом, операции, которые не должны были бы отражаться на решении системы уравнений, приводят к различным и, следовательно, ошибочным результатам. Появление ложных корней связано с тем, что ЭВМ производит арифметические действия с конечной точностью и в процессе вычисления накапливаются ошибки округления. Системы уравнений, которые ведут себя так же, как рассмотренная в этом примере, назьшают плохо обусловленными. Для систем уравнений с числом неизвестных больше двух, как правило, невозможно сразу установить, является ли эта система плохо обусловленной. Поэтому надо обязательно проверять, удовлетворяют ли в действительности найденные значения неизвестных исходной системе уравнений. [c.185]

В этом случае число 24 имеет две значащие цифры и в соответствии с этим округлен результат. К сожалению, данное правило не всегда применимо. Предположим, что погрешность числа 24 может быть малой, например 0,5, или большой, например 5. Погрешность частного для этих двух пределов определяется так [c.95]

Например, в результате измерения объема с помощью бюретки было получено 25,3 мл. Необходимо этот объем разделить на два. В результате деления получается 12,65 мл. Бюретка измеряет объем с точностью до 0,1 мл, значит второй знак не достоверен. Результат деления необходимо округлить до десятых долей 12,7 мл. Правило округления состоит в следующем если первая из отбрасываемых цифр 5 или более 5, то последнюю из оставляемых цифр надо увеличить на единицу. Когда первая из отбрасываемых цифр меньше 5, то увеличения не делают. Если исходные данные имеют различную величину относительных ошибок, то ошибка конечного результата вычислений определяется ошибкой наименее точного из исходных данных. Окончательный результат вычислений следует давать с тем числом значащих цифр, которое содержит его ошибка. [c.5]

В заключение отметим, что константы равновесия, сложных процессов и реакций, которые требуют для своего определения данных о равновесных концентрациях ряда компонентов, всегда вычисляются с существенно большими ошибками, чем сами концентрации. Поэтому лишены разумных оснований попытки определения констант с точностью до процентов. Необходимо ясно сознавать, что меры точности в определении аналитических концентраций и констант многокомпонентных реакций существенно различны. Константы, приводимые с тремя значащими цифрами, например 3,62-или 1,44-10 , как правило, претендуют на неоправданно завышенную точность определения. При оценке констант в лучших случаях погрешности достигают десятков, в ху1д-ших — сотен процентов. Поэтому значения констант следует приводить с заведомым округлением до одной, двух значащих цифр или, используя логарифмическую шкалу рК, lgP (отрицательный логарифм константы диссоциации, логарифм константы образр-вания комплекса), округлять до 0,05—0,1 единиц p (lgP). [c.131]

Справочник химика 21

Химия и химическая технология