Стандартное отклонение проверка

При выполнении серии параллельных измерений может оказаться, что один (или более) из результатов значительно отличается от остальных. Естественно, в первую очередь необходимо выяснить, следует или нет исключить такие выпадающие результаты (промахи) из рассмотрения, прежде чем выполнять все последующие операции по обработке данных (вычисление среднего и стандартного отклонения, проверка гипотез и т. д.). Как мы увидим, исключение промахов влечет за собой серьезные практические последствия, особенно если объем выборки мал (весьма распространенная ситуация). Наиболее очевидным решением может служить получение дополнительных данных (если это возможно) для увеличения объема выборки и соответственно мощности любого статистического теста. В этом случае исключение или оставление подозрительного результата в выборке мало скажется на рассчитанных величинах среднего, стандартного отклонения и т. д. Однако существуют статистические тесты, позволяющие выявить промахи. Наиболее распространенный из них — Q-me m Диксона, основанный на предположении о нормальном распределении генеральной совокупности данных. Для единичного промаха тестовая статистика вычисляется как [c.448]

По значению V вычисляют концентрацию стандартизируемого раствора. Расчет стандартного отклонения ведут с учетом случайных отклонений, имеющих место при проверке объема пипетки, вычислении концентрации стандартного раствора и проведении титрования. Следовательно, по сравнению с методом отдельных навесок здесь существуют дополнительные источники случайных отклонений. Это измерения объемов применяемой пипетки и мерной колбы, в которой готовят стандартный раствор. Наличие таких дополнительных источников — недостаток метода пипетирования. Однако стандартизация по методу отдельных навесок более длительна и трудоемка, поэтому на практике чаще всего пользуются методом пипетирования. [c.169]

Для приготовления титранта ампулу фиксанала разбивают над специальной воронкой с пробивным устройством и прополаскиванием применяемым растворителем вещество количественно переводят в мерную колбу. Полученный раствор потом разбавляют до метки. Здесь при проверке объема мерной колбы также следует соблюдать рассмотренные требования по отношению к величине стандартных отклонений. [c.161]

Условие такого использования критерия — достаточно большое число (п > 50) дискретных измерений. Если это условие не выполняется, проверку можно провести с помощью непараметрического критерия Колмогорова — Смирнова. Для этого из данных, полученных экспериментальным путем, вычисляют частоты сумм (см. пример [3.1]) и наносят их в виде ломаной линии на вероятностную бумагу. Далее по этим данным находят среднее х [уравнение (2.1)] и стандартное отклонение [уравнение (2.5)] в качестве параметров предполагаемого нормального (гауссова) распределения. На вероятностной бумаге получается прямая (см. рис. 3.6). Находят максимальную ра-зность ординат ах между этой прямой и ломаной линией и сравнивают, как обычно, с d(P,n) (табл. 7.5). Гипотеза о нормальном распределении отбрасывается, если max > d(P, п). [c.134]

Сравнение стандартных отклонений (проверка Р). Приходится иногда решать и задачи другого рода. Одна и та же проба анализировалась двумя аналитиками или двумя различными методами, или же с применением двух различных приборов. Были получены две серии результатов определений, для которых были рассчитаны значения стандартных отклонений 51 и 5г. Желательно выяснить, получилось ли несовпадение этих стандартных отклонений потому, что одна серия результатов анализа более рассеяна, чем другая (следовательно, один аналитик работает точнее другого или один прибор лучше другого и т. д.), или же различие величин и объясняется обычными случайными ошибками. Предположим, что два аналитика провели определение углерода в одной и той же пробе стали совершенно одинаковым методом и получили следующие результаты [c.254]

Если массу находят как разность результатов двух взвешиваний, 5т=0,0003 г (см. пример на с. 139). При т= г получают относительное стандартное отклонение (0,0003/1) 100 = 0,03%. Объем мерной колбы должен быть проверен с таким же относительным стандартным отклонением 0,0003. Следовательно, при проверке объема 100 мл колбы 0,0003 100 = 0,03 мл, при проверке объема 500 мл мерной колбы 5 0,0003 500 = 0,15 мл и т. д. [c.161]

Если анализ повторно проводится одним и тем же лаборантом, на одном и том же приборе и с одними и теми же вспомогательными материалами, это называют условиями воспроизведения . Условия сопоставления имеют место, когда разные лаборанты в разных лабораториях на разных приборах и с разными вспомогательными материалами получают соответственно одинаковый результат при одном и том же методе проверки одинаковой пробы. Для расчета стандартного отклонения всегда пользуются неокругленными результатами анализа с неточным последним десятичным знаком. Преждевременное округление в большую или меньшую сторону может исказить ошибку метода анализа. [c.93]

Проверка с ничего не изменила в первоначальном результате между четырьмя стандартными отклонениями существует какое-то значимое различие. Возникает подозрение, что это различие вызвано типом легирования пробы ферромарганца (проба 3) с более высоким стандартным отклонением з = О, 010%С. Поэтому снова повторяем проверку, но уже без стандартного отклонения зз. При этом получается х = 5,63 при Х (Р = 0,95 / = 2) = 5,99. Теперь между тремя стандартными отклонениями 1, Зг и Я4 не обнаруживается никакого различия . [c.121]

Пусть даны два средних Хх и Х2, которые получены из двух независимых друг от друга серий с Пх и пг измерениями. Средние слегка различаются. Надо проверить, можно ли объяснить это различие только случайной ошибкой, т. е. принадлежат ли оба средних нормально распределенной генеральной совокупности с одним и тем же средним р. Значит, проверяется гипотеза для данного параметрического критерия р = рз = Р- Перед ее проверкой надо выяснить, нет ли разницы между стандартными отклонениями обеих серий 1 и г (по Г-критерию, см. разд. 7.2). Если значимое различие между 1 и 2 не обнаруживается, то сначала по закону сложения ошибок находят стандартное отклонение для разности двух средних из пх и П2 измерений. Уравнения (4.3а) и (3.4) дают [c.121]

Пусть дан ряд из п измерений. В дополнение к графическим методам из гл. 3 важно установить, можно ли описать эти п значений с помош.ью принятой теоретической модели. Наиболее часто прибегают к моделям гауссова распределения или распределения Пуассона. Для проверки тогда выдвигают нулевую гипотезу о том, что между эмпирическим распределением и теоретической моделью нет никакого различия. Из п значений (п > 50) вычисляют среднее р и стандартное отклонение (Т, а затем разбивают п значений на т г у/п классов. Для каждого полученного класса определяют абсолютную частоту /г попавших в него значений и сопоставляют ее с частотой ht, теоретически ожидаемой в соответствии с моделью. Для разных теоретических распределений частоты протабулированы при (У = 1. Поэтому прежде всего для их расчета стандартизуют классы по формуле и = (х — Для таких нормированных значений в соответствующей таблице [c.132]

Если теоретические значения /г, для отдельных классов достаточно велики (/г > 5, см., однако, подход Кохрена [И]), то найденное выражение будет следовать хи-квадрат-распределению с / = т — к степенями свободы. При этом к представляет число параметров, необходимых для описания выборки. Для нормального (гауссова) распределения < = 3 (среднее х, стандартное отклонение и объем выборки п), для распределения Пуассона к — 2 (среднее х и объем выборки п). Требуемое для отдельных классов значение > Ь можно получить, объединяя несколько соседних классов. Если при проверке получается, [c.132]

Эти пределы называют верхней и нижней границами допуска. Для их определения целесообразно брать в таких случаях Р — 0,95. Текущая проверка условия, заданного выражением (12.32), ведется графически. Показатели качества, полученные на основе выборок, наносят на график, контрольную карту, в том порядке, в каком они возникают во времени. Таким образом получают последовательность точек, на основании которой можно сделать выводы о стабильности производственного процесса, а также об обоснованности выборочного контроля. Пока точки беспорядочно рассеиваются внутри контрольных границ (см. рис. 12.1), выполняется условие (12.32) и можно продолжать выборочный контроль. Один-единственный выход за контрольную границу означает, что полученный результат с вероятностью Р больше не принадлежит генеральной совокупности со средним (ЛТ и стандартным отклонением <тт- Исчезает основание для проведения выборочного контроля, поэтому нужно переходить на 100%-ную проверку и искать причину появления результата, выходящего за контрольную границу. Этот 100%-ный контроль проводится до тех пор, пока отдельные точки не будут рассеиваться в течение длительного времени внутри контрольных границ. [c.235]

Примером использования контрольной диаграммы является рис. 68, на котором сравниваются два метода взвешивания. Метод единичного качания сравнивался с методом многократных качаний. Ежедневно проводились четыре отдельных сравнения для двух гирь массой 1 г и для двух гирь массой 100 г. Только четыре отдельных наблюдения оказались вне контрольных пределов и только одно стандартное отклонение или одна ежедневная вариация оказалась не на линии. Хотя не были найдены определенные причины, объясняющие случайный выход за контрольные пределы, можно с уверенностью сказать, что никакого явного преимущества у более длительного метода многократных качаний над методом единичного качания нет. Естественно, этот вывод имеет силу только для данных весов, но такая же проверка может быть легко выполнена для любых весов. [c.606]

Пример 2-5. Фирма изготовляет радиальные покрышки с металлическим кордом. Проверка, проведенная фирмой, показала, что средняя ходимость покрышки ц=50 ООО миль н стандартное отклонение ах=4300 миль. Еслн допустить, что доля возвращаемых по рекламации покрышек составляет 1%, то какова минимальная ходимость, гарантируемая фирмой [c.35]

Теорию, разработанную для линейного случая, можно использовать для вычисления оценки дисперсии стандартного отклонения и проверки гипотез по В- и /-критериям, однако вычисления будут приближенными. Степень приближения зависит от степени нелинейности функции, но часто это правило не слишком строго соблюдается в области минимума [10]. Даже при нормальном распределении экспериментальных ошибок для нелинейной модели X уже не подчиняется закону нормаль- [c.86]

НЫХ смесей. Результаты проверки показывают, что парафиновые, сумма нафтеновых и алкилбензолы определяются с относительным стандартным отклонением [c.301]

Для проверки гипотезы Но критерий Т сравнивают с квантилем /-распределения t P,f), где / — степень свободы (/ = = т—2). Значение t(P,f) берут из таблицы пределов интегрирования/-распределения (см. табл. УП.5). Если 1<<И(Р, ), нет оснований отклонять гипотезу Но и можно рассматривать х и 5 как величины, не зависящие друг от друга. Затем вычисляют приближенное стандартное отклонение 5 [c.58]

Для проверки работы нового фотометра выполнили 50 параллельных измерений пропускания некоторого раствора. Стандартное отклонение этих данных равно 0,15% Т. Сколько раз следовало бы снимать показания прибора для каждого измерения, если инструментальная ошибка среднего может быть ниже [c.100]

Для проверки качества работы заводской лаборатории предложили выполнить два параллельных анализа чистой бензойной кислоты (% С=68,74 % Н = 4,953). Допускается, что отосительное стандартное отклонение использованного метода составляет 5г—>-аг=0,4% для углерода и 0,6% для водорода. Средние полученных результатов были равны % С=68,5 и % Н=4,88. Указывают ли полученные данные на наличие систематической ошибки в любом из определений при доверительной вероятности 95% [c.101]

Межлабораторный эксперимент по проверке данной методики был проведен в 1993 г. в Германии с участием 9 лабораторий. При 36 определениях холостой пробы было получено стандартное отклонение воспроизводимости 0,8 мкг/л и стандартное отклонение сходимости 0,4 мкг/л. При 36 определениях синтетических проб, содержащих 35 и 150 мкг/л алюминия соответственно, были получены средние значения 31,3 и 141 мкг/л алюминия. [c.182]

Межлабораторный эксперимент по проверке данной методики был проведен в 1993 г. в Германии с участием 6 лабораторий. При анализе 13 проб речной воды и 13 проб промышленной сточной воды были получены стандартные отклонения воспроизводимости 0,93 и 4,15 мкг/л и вариационный коэффициент воспроизводимости 8,3 и 8,1% соответственно. [c.187]

Если 5 меняется приблизительно пропорционально числу измерений, то общепринятым параметром сравнения является коэффициент ва-риации, или относительное стандартное отклонение, равное хДистинное значение). Для иллюстрации в табл. 6.4 (а) представлена статистическая обработка результатов измерений полосы поглощения твердого вещества двумя операторами в двухмесячный период. Из этих результатов можно оценить вероятные ошибки измерения, в том числе и инструментальные, каждого из операторов и сравнить их (другой проверкой), чтобы увидеть, действительно ли имеется значительная разница. Повторяя измерения с растворенными образцами, можно добавить стадии взвешивания и растворения, как в табл. 6.4 (б). Аналогично обрабатываются другие аналитические измерения. Отсюда можно сделать заключения относительно погрешности каждой стадии анализа. [c.264]

Имеющаяся между обоими методами анализа разница в воспроизводимости вначале не была признана из-за малого числа измерений. Только при увеличении числа степеней свободы для меньшего стандартного йтклонения ее удалось установить, так как в этом случае метод проверки работает с большей четкостью. На это обстоятельство надо обращать особое внимание, когда отношение двух стандартных отклонений 51/ 2 получается неблагоприятным, как это было в первой серии опытов. [c.117]

При этом Ср > 1( 0, 05) означает, что между 1 и 82, видимо, существует различие. В пределах 3 < / < 20 такую оценку можно получить без обращения к таблицам. На практике эту проверку можно провести и графически, когда оба стандартных отклонения имеют одинаковые числа степеней свободы, т.е. когда Д = /2 = /. Соответствующая номограмма приведена на рис. 7.2. На N-oбpaзнyю шкалу наносят отношение 1/52 = Ур, а затем отыскивают на сетке графика точку с координатами ] [(/, УР). По положению этой точки относительно двух кривых можно судить о проверяемом различии. На рис. 7.2 Показана такая графическая проверка для значений 1 и 2> взятых из примера [7.1]. [c.118]

Из рис. 7.2 хорошо видно, сколь большим должно быть отношение й1/й2) чтобы вообще можно было взять на себя смелость утверждать, что различие между двуйя стандартными отклонениями существует (1% < 100а < 5%). При двух сериях измерений с Д = Д = 3 степенями свободы такая возможность появляется только после того, что одно из стандартных отклонений становится в три раза больше другого, и даже при / = Д = 12 степенях свободы для этого метода проверки все еще требуется отношение 1/52 1/З/1. Для разницы, значимой в смысле правила трех сигм (100а < 1%), в первом случае (Д = Д = / = 3 степени свободы) достаточно, чтобы одно из стандартных отношений было в пять раз больше другого, во втором случае (Д = Д = / = 12 степеням свободы) — примерно в два раза. Случайные ошибки методов анализа можно оценить с достаточной точностью из больших серий измерений. Значимость различия в значительной степени зависит от Д. Поэтому при подобных сравнениях для [c.118]

Иногда план Плаккетта — Бермана применяется для исследования влияния одних и тех же факторов на несколько откликов (например, на различные элементы). В этом случае можно объединить стандартные отклонения, полученные для различных п, фиктивных переменных. Благодаря увеличению числа степеней свободы повышается селективность проверки. [c.191]

Для составления контрольной диаграммы на график в последовательном порядке наносят отдельные наблюдения, а затем сравнивают с контрольными пределами, полученными на основании более ранних опытных данных. Например, если практически постоянная средняя х и стандартное отклонение 5 получены, скажем, из 20 наблюдений, то эти величины можно считать обоснованными оценками р, и о для совокупности. Соответствующие 95%-иой доверительной вероятности пределы, равные 1,96сг, могут быть взяты в качестве контрольных пределов. Вероятность того, что последующее наблюдение случайно окажется вне этих пределов, равна 1/20. Если рассеяние будет превышать эту величину, то это будет указывать на неслучайное распределение, т. е. на систематическую ошибку. Если контрольные пределы установлены, исходя из ограниченной выборки, например из 20 объектов, как в приведенном выше примере, то существует некоторая вероятность, что чрезмерное рассеивание вызывается слишком жесткими первоначальными контрольными пределами из-за несоразмерных оценок 1 и а. Для проверки этой вероятности нужно провести новый расчет с большим числом наблюдений. В промышленной практике внутренние контрольные пределы, или предупредительные пределы, обычно равны 1,96а, а внешние контрольные пределы 3,09а. Внешние контрольные пределы соответствуют 99,8%-ной доверительной вероятности, или вероятности, равной 0,002, что точка окажется вне пределов. Половина вероятности соответствует высшему результату и половина — низшему. Следует уделить особое внимание одностороннему отклонению от контрольных пределов, так как систематические ошибки чаще вызывают отклонение в одном направлении. Две систематические ошибки противоположного знака, несомненно, вызывали бы рассеивание, но маловероятно, что они действовали бы в одно и то же время. Необязательно, чтобы контрольная диаграмма составлялась во временной последовательности. [c.604]

Таким образом, лаборатории, производственные агрегаты, методы проверки или аналитики могут быть произвольно представлены в виде горизонтальной последовательности. Лучше наносить на график средние небольших групп наблюдений, чем отдельные наблюдения. Случайное рассеяние средних значений пар наблюдений, так же как и случайное рассеяние единичных наблюдений, равно 1/У 2 = 0,71, а вероятность того, что два диких наблюдения будут иметь одно и то же направление, является исчезаюше малой. Группа из 2—5 наблюдений должна подбираться таким образом, чтобы внутри групп происходили только случайные вариации, а для вариаций между группами отыскивались вызываюшие их причины. Если каждый день проводится по два параллельных анализа, то эти пары образуют логические группы. Кроме того, на график должна быть нанесена некоторая часть дисперсии данных подгруппы в виде параллельной контрольной диаграммы. Наиболее надежной мерой рассеяния является стандартное отклонение. Для небольших групп диапазон значений как мера рассеяния становится все более значимым, и для каждой группы наблюдений несложно изобразить на графике диапазон значений в виде вертикальной линии, а средние значения в виде точек на этой линии. [c.605]

Определение площадей сигналов вручную при наличии в спектре наряду с горбами большого числа узких сигналов занимает много времени. Ёремя обработки спектров можно сократить в несколько раз, если использовать специальную программу, позволяющую вручную корректировать искажения базовой линии (см. рис. 5). Проверка тремя операторами в течении 2 мес. показала, что воспроизводимость результатов при использовании такого способа корректировки базовой линии и при определении площадей планиметрически (по клеткам диаграммной бумаги) одинакова. Суммарная экспериментальная величина стандартного отклонения ог 1,5% при низком уровне шума, причем в процессе проверки получали спектры с различной формой искажения базовой линии. [c.149]

Значения констант в этом уравнении для каждой серии данных вычисляли по методу наименьших квадратов. После этого проводили статистическую проверку, не имеет ли второе выражение лучшей сходимости с экспериментальными данными, чем при средних значениях к это послужило бы доказательством того, что к сильно зависит от степени превращения. Затем вычисляли стандартное отклонение для обоих методов определения к. Если степень превращения оказывает значительное влияние на константу скорости, положительное значение А в уравнении (17) указывает на автоускорение реакции, отрицательное — на автоторможение. [c.72]

Хьюгус И Эль-Авади [52] предложили вычислять стандартное отклонение каждого собственного значения и считать ненулевыми лишь такие собственные значения, величина которых более чем в три раза превьппает их стандартное отклонение. Известны попытки статистичсеской проверки гипотез о числе ненулевых собственных значений с помощью критериев Бартлета и [52, 53]. Все эти подходы требуют значительной вычислительной работы и здесь не рассматриваются. [c.60]

При такой схеме анализа содержание N0 в смеси оксидов азота определяли не по разнице двух измерений, а непосредственно после окисления N0 до N 2 (действием Н2О2) и реакции N02 с бензолом в присутствии концентрированной серной кислоты [54]. Нижняя граница определяемых содержаний оксидов азота около 10-6% при относительном стандартном отклонении 0,32. Результаты проверки правильности анализа приведены в табл. IX. 16. [c.539]

Для экспериментальной проверки рассмотренных уравнений было проведено вымывание с колонки хлорида и бромида как представителей одновалентных ионов и оксалата в качестве примера двухвалентных ионов раствором нитрата натрия с созданием как линейного так и экспоненциального градиентов. В каждом из 35 таких опытов, отвечающих интервалам изменения И от 54 до 222, экспериментальные значения и сравнивали с рассчитанными [8, 22. Среднее отношение расчетных значений к экспериментальным равнялось 1,01 со стандартным отклонением 0,022. Опыт с иодид-ионом, однако, не удался в смысле соответствия с вышеприведенньм уравнением, потому что, как отмечено в разд. В.IV, коз зависит от концентрации нитрат-иона. [c.156]

Очередным примером использования циклов является расчет статистических величин — средних значений и стандартных отклонений. Исходные данные лучше вводить операторами DATA и READ. Преимущество этого способа ввода данных состоит в том, что весь числовой материал записан в программе, и, поскольку программа хранится в памяти ЭВМ, его можно в любое время вывести на экран для проверки или внесения изменений. [c.61]

Наиболее часто химики прибегаютм< таким проверкам, к сравнение средних двух выборок х1 и Хг), среднего анализа Х1 и величины ц, принятой за действительную, стандартных отклонений 1 и 52 или 01 и 02 двух серий измерений, а также стандартного отклонения х малой выборки и стандартного отклонения а большой выборки. В следующих разделах рассматриваются методы проведения таких сравнений. [c.81]

Для проверки спектрофотометрического метода определения бора в тканях животных к образцам печени крыс добавили известное количество В в виде маннитборатного комплекса затем определили увеличение концентрации В. Средний результат из восьми параллельных определений показал, что концентрация В повысилась на 1,490 мкг/г со стандартным отклонением 0,064 мкг/г. Добавлено было 1,60 мкг/г В. Указывают ли полученные данные на отрицательную систематическую ошибку при доверительной вероятности 95% [c.100]

Ацетилацетонат никеля (II) (СНзСОСНСОСНз)2Н1 [58] получен в виде ромбических кристаллов возгонкой при пониженном давлении. Структура состоит из тримерных псевдо-центросимметричных молекул Ы1з(С5Н702)б- Каждые 2 атома никеля связаны тремя атомами кислорода таким образом, что атомы никеля имеют искаженную октаэдрическую координацию (см. рис. 16). Расстояния Ni—Ni в молекуле равны 2,887 и 2,896 А (стандартное отклонение 0,015 А), угол Ni—Ni—Ni 179,2 0,7°. Расстояния Ni—О лежат в пределах от 1,92 до 2,26 А. Ацетилацетонат никеля сохраняет тримерное строение и в растворе в недонорных растворителях [59]. Возможно, что вывод о плоском строении ацетилацетоната никеля в парах [60] нуждается в проверке. Авторы считают, что октаэдрическая модель также хорошо согласуется с экспериментальными данными электронографического исследования [60]. [c.35]

Выделенные жирным шрифтом значения 1у не перекрываются с соответствующими величинами спектра ионных серий неизвестного соединения в пределах 2Sy, а обозначенные звездочками — даже в пределах 3S . Дополнительно следует учесть, что во всех случаях параметры D больше сумм стандартных отклонений для каждого из рядов [не выполняется и вспомогательное условие (5.6)]. Рассматриваемый масс-спектр принадлежит соединению, гомологический ряд которого не зарегистрирован в приложении V, — тетрагидро-4-пирону. Несмотря на отрицательный результат идентификации, информация, полученная при анализе номеров гомологических групп главных пикоа, полезна для установления природы данного вещества. Три из пяти предполагаемых рядов принадлежат азотсодержащим соединениям (случайное совпадение масс-спектрометрических признаков), а два остальных — циклическим эфирам (2 4) и лактонам (2 35). Это позволяет предположить наличие карбонильной группы и эфирного атома кислорода в цикле, однако это предположение требует детальной проверки. [c.93]

Справочник химика 21

Химия и химическая технология