Методика проведения первичной математической обработки экспериментальных данных

Если лаборант впервые работает в Excel, описанная процедура обработки

данных эксперимента может показаться сложной. Но на практике, вводить формулы, с помощью мастера функций, не сложнее, чем обычные арифметические. К тому же, один раз подготовив лист Excel для обработки данных, можно скопировать его, и ввести результаты новой серии опытов в колонку В. Результаты будут тут же рассчитаны автоматически.

 

2. Обработка результатов химического анализа в метрологии

 

Аналитические определения редко бывают прямыми; чаще искомое значение содержания находят косвенно по его зависимости от двух или большего числа величин, найденных прямыми измерениями. Связь между аналитическими сигналами и содержанием компонентов называется градуировочной характеристикой, которая может быть представлена в виде формул (градуировочная функция), графиков или таблиц. Значение первой производной градуировочной функции при данном содержании определяемого компонента называется коэффициентом чувствительности S, или чувствительностью [2, с.94].

Метрологическая характеристики анализа-погрешность (при условно принятой доверительной вероятности), воспроизводимость, правильность, нижняя граница определяемых содержаний и предел обнаружения - имеют смысл только для данной методики, в которой подробно описаны все операции и условия анализа. Область содержаний компонента, в которой применима данная методика, называется диапазоном определяемых содержаний.

Погрешность отдельного результата анализа:

D = С - а,

где С-среднее результатов п параллельных определений, а-истинное содержание или, поскольку оно обычно неизвестно, так называемое действительное содержание, например, аттестованное значение содержания определяемого компонента, приведенное в паспорте стандартного образца. Погрешность можно выражать отношением D/a или D/С (в долях от единицы или в процентах).

Воспроизводимость характеризует случайное рассеяние результатов. Иногда в случае рассеяния результатов, полученных по данной методике в максимально близких условиях, например, при параллельных определениях, когда интервал времени получения результатов соизмерим с длительностью единичного определения, используют термин «сходимость», а для характеристики близости результатов анализа, полученных в разных условиях (различные исполнители, аппаратура, разные периоды времени и т. д.),-термин «воспроизводимость». Рассеяние результатов анализа, полученных в разных лабораториях, характеризуется межлабораторной воспроизводимостью; накопление таких данных позволяет формировать производств. нормы. Количественно воспроизводимость оценивают стандартным (средним квадратичным) отклонением

или дисперсией

V = s2.

Здесь Сi-результаты отдельных определений, п- число этих результатов, С-среднее арифметическое п результатов. Часто пользуются относительным стандартным отклонением sr = s/C (в долях единицы); эта же величина в % называется коэффициентом вариации u. Значение s и sr заметно изменяются при изменении С в широком диапазоне. В области определяемых содержаний, близких к их нижней границе, зависимость s =f(C) удается представить линейным уравнением

s = s0 + b1С

где s0-стандартное отклонение в холостом опыте.

В области больших содержаний - уравнением

lgs = = lg A + В lg С или lgsr = lg A - (1 - B)lg С,

где А и В-константы.

Для хорошо отработанных методик В часто приближается к 0,5, тогда дисперсия

s2 = A2C.

В узком диапазоне определяемых содержаний можно считать s постоянным. В технической документации стандартное отклонение нормируют в зависимости от содержания обычно в виде таблиц, разбивая весь диапазон определяемых содержаний на небольшие интервалы.

В случае косвенных аналитических определений

С = j (х, у,.... z),

где х, у, ..., z- результаты прямых измерений. Если они не зависят друг от друга, за оценку действительного значения содержания принимают

,

где ..., - средние арифметические значения результатов соответствующих прямых измерений. Если разложить нелинейную функцию j(х, у, .... z) в ряд Тейлора и ограничиться членами первого порядка, то получится оценка дисперсии результата анализа:

Это так называемый закон накопления (распространения) погрешностей. В случае зависимых величин при расчете учитывают корреляцию между ними.

Экспериментально найденное стандартное отклонение и знание закона распределения результатов в рассматриваемой совокупности позволяют выражать результат очередного анализа в виде доверительного интервала для условно принимаемой доверит. вероятности Р (обычно Р = 0,95), т. е. интервала, в котором с данной вероятностью находится истинное значение определяемой величины. Распределение результатов количественного анализа обычно аппроксимируют законом нормального распределения плотности вероятности. Для того чтобы установить, что распределение результатов не противоречит нормальному закону, рекомендуют различать статистические критерии согласия. Дифференциальная форма нормального закона распределения в нормированном и центрированном виде:

  ,

где и = (С - m)/s,

m - математическое ожидание случайной величины С.

Интегральная функция распределения табулирована, что позволяет легко рассчитывать доверительный интервал для заданной доверительной вероятности.

Когда обрабатывают ограниченные по объему выборки из нормальной совокупности, используют специальное t-распределение, в котором квантиль

 ,

где -среднее из п параллельных определений,

s -оценка стандартного отклонения, найденная из п параллельных определений.

Пользуясь табулированным t-распределением, оценивают доверительный интервал, который с доверительной вероятностью Р включает неизвестное действительности содержание [4, с.82]

,

где f-число степеней свободы (f= n - 1). Если для оценки s была использована выборка объема т > n, полученная в таких же условиях, то для нахождения табличного значения t принимают f = m - 1, а в знаменателе приведенного выше выражения остается .

Для сопоставления характеристик воспроизводимости результатов анализа, полученных по разным методикам, пользуются F-распределением:

F = s21 /s22,

где s21 и s22-дисперсии результатов двух сравниваемых методик (s1 > s2).

 Если найденное из эксперимента значение F превышает табличное Ff1,f2,p, различие сравниваемых дисперсий считают значимым с доверительной вероятностью Р.

Для химического анализа имеет значение также распределение Пуассона

Рт = mme-m/m!,

где Pm-вероятность появления целочисленного значения т,

m-математическое ожидание и совпадающая с ним по величине дисперсия.

По этому закону распределяются результаты измерений аналитических сигналов в виде целочисленных значений, например, число импульсов в рентгеноспектральном или радиохимическом методе анализа.

Для некоторых методов и условий анализа, например, при определении следов, закон распределения результатов может отличаться от нормального и оставаться невыясненным. В этом случае для оценки значения доверительного интервала используют так называемую непараметрическую статистику. Например, для неизвестного симметричного закона распределения используют неравенство Чебышева в виде

Р{|Сi — а| >= ks} <= <= [2/3k] , где k > 0.

Доверительный интервал (bks) для той же вероятности получается более широким, чем в случае нормального распределения.

В химических методах анализа применяется специфическая характеристика случайного рассеяния результатов - расхождение результатов параллельных определений (чаще всего двух) между собой - размах варьирования

Rn = Cmax - Cmin.

При нормальном распределении результатов средний размах

 = dn,ms,

 где dn,m - табулированный коэффициент,

 

п- число параллельных определений, между которыми наблюдается размах,

т-число образцов в выборке; например, для расхождения двух параллельных определений при т >= 10 = 1,13s. Допустимые расхождения параллельных определений - верхняя граница размаха при фиксированной доверительной вероятности Р:

RВ,n,Р = wn,qs,

где wn,q-табулированный коэффициент.

Правильность характеризует систематическая погрешность – систематическое смещение результатов от действительного значения. Для оценки правильности используют разные способы (анализ образца различными методами, межлабораторный анализ, теоретический расчет и др.). Один из них-анализ стандартных образцов или синтетических образцов сравнения. При этом, поскольку систематические погрешности всегда выявляются на фоне случайных, по существу решают вопрос о незначимости расхождения между найденным и паспортным содержанием а компонента:

 < tP,f,

где tP,f- табличный коэф. Стьюдента для принятой вероятности Р и числа степеней свободы f=т-1, т-число определений, по к-рым найдено s. В этом простейшем способе расчета подразумевается, что погрешностью аттестации или синтеза можно пренебречь. Для заключения о правильности результатов, получаемых по данной методике, т.е. о незначимости суммарной систематической погрешности, предпочтительнее использовать несколько стандартных образцов в пределах диапазона определяемых содержаний. Стандартные образцы с содержанием определяемого компонента Ссо анализируют, строят прямую = А + ВСсо, где А характеризует постоянную, или аддитивную, составляющую систематической погрешности, а величина (В- 1) Ссо-пропорциональную, или мультипликативную, составляющую; оценивают

 

наличие систематической погрешности, проверяя значимость неравенств |A|>0, |B- 1|>0с учетом корреляции А и В между собой.

В другом способе (особенно удобном для методик, связанных с растворением пробы) для нахождения А и В используют вариацию аналитических навесок и добавки. Для двух навесок (например, в соотношении по массе 1:2) можно записать [2, с.108]

 = А + BСист и = А + 2BСист,

где и -усредненные результаты анализа для двух разных навесок одного образца; Сист-истинное содержание определяемого компонента в образце. Тогда . Для оценки В анализируют несколько одинаковых навесок, но в часть из полученных р-ров добавляют определяемый компонент в кол-ве С0 . Тогда = А + BСист, С4 = А + В(Сист+ С0), откуда В ,/С0.

В инструментальных методах анализа твердых проб важный показатель правильности и воспроизводимости - остаточная дисперсия s02 экспериментально найденного аналитического сигнала относительно градуировочной функции у = F (С), то есть s02 = S [Yi - F(Ci)]2/f, где f-число степеней свободы. Во многих случаях причина рассеяния точек относительно градуировочной линии-неучтенный матричный эффект. При этом наблюдается значимое превышение остаточной дисперсии над дисперсией воспроизводимости, что указывает на возможную систематическую погрешность.

Точность - качественная характеристика анализа, отражающая близость результатов к истинным значениям; высокой точности соответствуют малые систематические и случайные погрешности, т.е. правильность и высокая воспроизводимость.

Нижняя граница определяемых содержаний Сн может лимитироваться нормированным уровнем относит. стандартного отклонения sr.

 При этом исходят из экспериментально установленной зависимости sr = j (С), по которой находят Сн для предельного уровня sr. Иногда нормируют не sr, а относительную полуширину доверительного интервала. Например, если для нормального распределения величина tP,fsr/Cн должна быть не более 1/3, тогда

Сн >= 3tP,fsн,

где sн-стандартное отклонение, соответствующее Сн. Для числа степеней свободы f>= 20 и доверительной вероятности Р = 0,95 табличный коэффициент tP,f 2 и, следовательно, Сн >= 6sн. Оценки sн и Сн по экспериментальным зависимостям достаточно просты только для линейных градуировочных функций. В других случаях необходим более сложный расчет погрешностей косвенных измерений.

Потенциальные возможности определения по данной методике минимальных содержаний компонентов характеризуют пределом обнаружения-наименьшей концентрацией Смин (относительный предел обнаружения) или наименьшей массой qмин (абсолютный) компонента, при которой его можно обнаружить с заданной доверительной вероятностью. При определении малых (следовых) количеств всегда приходится учитывать аналитический сигнал для пробы, практически не содержащей искомого компонента (сигнал холостого опыта). Для расчета предела обнаружения важна флуктуация холостого сигнала. По рекомендации ИЮПАК для градуировочной функции y = yхол + SC аналитический сигнал, соответствующий Смин, yмин = ухол + 3sхол, тогда Смин = 3sхол/S, где yхол - усредненный аналитический сигнал холостого опыта, sхол- стандартное отклонение холостого сигнала, 3-условный коэффициент, который при неизвестном законе распределения сигнала соответствует для холостой пробы вероятности Р{|у - хол| > 3sхол}<= <=0,1. Ошибочное наблюдение у - ухол >3sхол, когда должно быть y-yxол = 0, назыывается ошибкой 1-го рода. Если критический уровень укрит = ухол + 3sхол, то весьма высокой будет вероятность ошибки 2-го рода, т.е. ошибочного наблюдения y - yxол < Зsхол для фактического у - уxoл >= 3sхол. Например, для С>=Cмин эта вероятность составит 0,5, т. е. в 50% из большого числа испытаний будет сделано ошибочное заключение об отсутствии компонента [2, с.185].