Правила округления. Обработка и представление результатов измерений. Процедура
Обработка и представление результатов измерений. Процедура
1. Назначение и область применения
1.1. Процедура устанавливает единые требования к обработке и представлению результатов измерений, полученных в лаборатории (центре).
1.2. Представление результатов измерений в лабораторных журналах и в документах, выдаваемых лабораторией, осуществляется согласно методикам измерений и данной процедуре.
1.3. Требования настоящей процедуры распространяются на всех специалистов лаборатории (центра).
2. Нормативные ссылки
2.1. СТ СЭВ 543-77 «Числа. Правила записи и округления» (настоящий стандарт является обязательным в рамках Конвенции о применении стандартов СЭВ);
2.2. ГОСТ 8.736-2011 «Государственная система обеспечения единства измерений (ГСИ). Измерения прямые многократные. Методы обработки результатов измерений. Основные положения»;
2.3. МР 18.1.04-2005 «Система контроля качества результатов анализа проб объектов окружающей среды»;
2.4. ПМГ 96-2009 «Государственная система обеспечения единства измерений (ГСИ). Результаты и характеристики качества измерений. Формы представления» (правила по межгосударственной стандартизации введены в действие для добровольного применения в РФ в качестве рекомендаций по метрологии РФ).
3.1. Значащие цифры числа – это все цифры от первой слева, не равной нулю, до последней записанной цифры справа. При этом нули, следующие из множителя 10 n , не учитываются (согласно СТ СЭВ 543-77).
Примеры
1) Число 12,0 – имеет три значащие цифры;
2) Число 30 – имеет две значащие цифры;
3) Число 120 × 10 3 – имеет три значащие цифры;
4) Число 0,514 × 10 – имеет три значащие цифры;
5) Число 0,0056 × 10 – имеет две значащие цифры;
6) Число 0,704 – имеет три значащие цифры;
7) Число 68 – имеет две значащие цифры.
Таким образом, нули вначале числа всегда незначимы; нули в середине числа между ненулевыми цифрами значимы; нули в конце числа могут быть значимыми и незначимыми.
По количеству значащих цифр осуществляется запись приближенных чисел (согласно СТ СЭВ 543-77).
Пример
Следует различать числа 2,4 и 2,40.
Запись 2,4 означает, что верны только цифры целых и десятых; истинное значение числа может быть, например, 2,43 и 2,38.
Запись 2,40 означает, что верны и сотые доли числа; истинное число может быть, например, 2,403 и 2,398, но не 2,421 и не 2,382.
3.2. Округление числа – это отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда (согласно СТ СЭВ 543-77).
В случае, если первая из отбрасываемых цифр (считая слева направо) меньше 5, то последняя сохраняемая цифра не меняется.
В случае, если первая из отбрасываемых цифр (считая слева направо) равна или больше 5, то последняя сохраняемая цифра увеличивается на единицу.
Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление может привести к ошибкам.
Примеры
1) Если число 12,364 требуется округлить до сотых долей, после округления получаем число 12,36; если число 12,364 требуется округлить до десятых долей, после округления получаем число 12,4.
2) Если число 0,703 требуется округлить до сотых долей, получаем число 0,70; если число 0,703 требуется округлить до десятых долей, после округления получаем число 0,7.
3) Если число 0,703 требуется округлить до двух значащих цифр, после округления получаем число 0,70; если число 0,703 требуется округлить до одной значащей цифры, после округления получаем число 0,7.
4) Если число 0,429 требуется округлить до двух значащих цифр, после округления получаем число 0,43; если число 0,429 требуется округлить до одной значащей цифры, после округления получаем число 0,4.
5) Если число 8,574 требуется округлить до двух значащих цифр, после округления получаем число 8,6; если число 8,574 требуется округлить до одной значащей цифры, после округления получаем число 9.
6) Поэтапное округление результата измерения 227,46 дает на первом этапе 227,5 и на втором этапе 228, в то время как правильный результат округления 227.
3.3. Окончательный результат – это результат измерения с погрешностью, который вносится испытателями в лабораторные журналы. Окончательный результат выдается лабораторией в протоколе испытаний.
3.4. Промежуточные результаты – это вся информация по анализу от показания приборов до окончательного результата (в том числе расчеты результатов единичных определений; расчет результата измерения как среднеарифметическое значение результатов единичных определений, полученных в условиях повторяемости; контроль повторяемости; расчет погрешности). Промежуточные результаты заносятся испытателями в лабораторные журналы, но в протоколах испытаний не выдаются.
4.1. Требования к промежуточному результату
4.1.1. Число значащих цифр в промежуточных вычислениях при обработке результатов измерений должно быть больше, чем в окончательном результате.
4.1.2. Если значение погрешности (неопределенности) результата измерений представлено числом, содержащим две значащие цифры, то для промежуточных результатов расчета сохраняем не менее трех значащих цифр.
4.1.3. Если значение погрешности (неопределенности) результата измерений представлено числом, содержащим одну значащую цифру, то для промежуточных результатов расчета сохраняем не менее двух значащих цифр.
4.1.4. При проведении промежуточных расчетов в рукописных лабораторных журналах в числовых значениях измеряемой величины и погрешности следует оставлять столько значащих цифр, чтобы в окончательном результате не появлялась ошибка, связанная с поэтапным округлением.
| Промежуточные результаты | Окончательные результаты |
| 0,178 ± 0,053 | 0,18 ± 0,05 |
| 0,1784 ± 0,0533 | 0,178 ± 0,053 |
| 1,22 ± 0,18 | 1,2 ± 0,2 |
| 1,224 ± 0,183 | 1,22 ± 0,18 |
| 3,74 ± 0,748 | 3,7 ± 0,7 |
| 3,742 ± 0,748 | 3,74 ± 0,75 |
| 12,83 ± 1,28 | 12,8 ± 1,3 |
| 54,2 ± 5,4 | 54 ± 5 |
| 54,23 ± 5,42 | 54,2 ± 5,4 |
| 177,6 ± 33,7 | 178 ± 34 |
| 2357,4 ± 212,2 | 2357 ± 212 |
| 11624,8 ± 5812,4 | 11624 ± 5812 |
4.2. Требования к окончательному результату
4.2.1. Числовые значения результата измерений и его погрешности (неопределенности) записываются с указанием одной и той же единицы измерения.
Примеры
(5,4 ± 0,5) мг/дм³;
(6,1 ± 0,7) ммоль/ дм³.
4.2.2. Числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и значение его погрешности (неопределенности).
| Правильно | Неправильно |
| 0,043 ± 0,004 | 0,043 ± 0,0043 |
| 0,0428 ± 0,0043 | 0,0428 ± 0,004 |
| 17,0 ± 0,2 | 17,00 ± 0,2 или 17 ± 0,2 |
| 12,13 ± 0,17 или 12,1 ± 0,2 | 12,1 ± 0,17 или 12,13 ± 0,2 |
| 46,40 ± 4,64 или 46,4 ± 4,6 | 46,402 ± 4,64 или 46,4 ± 4,64 |
4.2.3. Значение погрешности (неопределенности) результата измерений представляют числом, содержащим одну или две значащих цифры. Если числовое значение погрешности (неопределенности) в целой части числа содержит три и более цифр, то результат и погрешность округляются до целых чисел без подсчета количества значащих цифр.
| Результаты измерения |
| 0,14 ± 0,05 |
| 0,164 ± 0,051 |
| 1,1 ± 0,1 |
| 1,18 ± 0,11 |
| 3,6 ± 0,6 |
| 3,28 ± 0,54 |
| 12,4 ± 1,2 |
| 44 ± 4 |
| 44,2 ± 4,4 |
| 168 ± 34 |
| 2357 ± 212 |
| 23684 ± 1184 |
4.2.4. Если заказчик требует другие формы представления результатов измерений, лаборатория оставляет за собой право учитывать эти требования.
Ответственность за правильность обработки и представления результатов измерений несут специалисты лаборатории.
Представление результатов измерений на примере определения обобщенных и химических показателей в воде с учетом требований методик измерений
1. Железо общее (ГОСТ 4011-72)
Округлять результат до двух значащих цифр.
| Окончательные результаты, мг/дм³ | Промежуточные результаты, мг/дм³ |
| 0,12 ± 0,03 | 0,116 ± 0,029 |
| 0,18 ± 0,04 | 0,178 ± 0,0445* |
| 0,18 ± 0,05 | 0,183 ± 0,046 |
| 0,31 ± 0,08 | 0,308 ± 0,077 |
| 1,3 ± 0,3 | 1,26 ± 0,32 |
| 1,8 ± 0,3 | 1,77 ± 0,32 |
| 12 ± 2 | 12,4 ± 2,2 |
| 25 ± 5 | 25,3 ± 4,6 |
* — дополнительные цифры в промежуточных результатах оставлены для предотвращения ошибки в окончательных результатах при поэтапном округлении.
2. Хлориды (ПНД Ф 14.1:2:3.96-97)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения характеристики погрешности.
3. Фосфорсодержащие вещества (ГОСТ 18309-2014)
Числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и значение характеристики погрешности, выраженное в мг/дм³ и содержащее не более двух значащих цифр.
4. Взвешенные вещества (ПНД Ф 14.1:2:3.110-97)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения характеристики погрешности.
5. Цветность (ГОСТ 31868-2012)
В протоколе указывают метод определения цветности по настоящему стандарту, результат с указанием единиц измерения (например, градусов цветности по хром-кобальтовой шкале Cr-Co) и температуру пробы анализируемой воды.
Пример
Цветность — 10 градусов цветности (Cr-Co), 18 °С.
При определении цветности при постоянной комнатной температуре (20 ± 5) °С в конкретной лаборатории допускается по согласованию с заказчиком не указывать в протоколе значение температуры.
6. Металлы (ПНД Ф 14.1:2:4.139-98)
Примеры записи числовых значений:
| Диапазон, мг/дм³ | Точность округления, мг/дм³ |
| от 0,004 до 0,01 вкл. | 0,0001 |
| от 0,01 до 0,1 вкл. | 0,001 |
| от 0,1 до 1 вкл. | 0,01 |
| от 1 до 10 вкл. | 0,1 |
| свыше 10 | 1 |
7. Алюминий (ГОСТ 18165-2014)
Числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и абсолютное значение характеристики погрешности измерений, выраженное в мг/дм³. Абсолютное значение характеристики погрешности измерений представляют двумя значащими цифрами, если первая цифра не превышает 3. В остальных случаях оставляют одну значащую цифру.
| Окончательные результаты, мг/дм³ | Промежуточные результаты, мг/дм³ |
| 0,287 ± 0,057 | 0,2872 ± 0,0574 |
| 0,262 ± 0,052 | 0,2623 ± 0,05246* |
| 2,38 ± 0,48 | 2,381 ± 0,476 |
| 13,5 ± 2,7 | 13,47 ± 2,69 |
| 16,6 ± 3,3 | 16,62 ± 3,32 |
| 22 ± 4 | 21,8 ± 4,4 |
| 27 ± 5 | 27,4 ± 5,48* |
| 38 ± 7 | 38,47* ± 7,7 |
| 51 ± 10 | 51,46* ± 10,3 |
* — дополнительные цифры в промежуточных результатах оставлены для предотвращения ошибок при поэтапном округлении.
8. Нефтепродукты (ПНД Ф 14.1:2:4.128-98)
Примеры записи числовых значений, мг/дм³:
| 0,009 ± 0,005 | 0,08 ± 0,03 |
| 0,65 ± 0,16 | 3,5 ± 0,9 |
| 3,5 ± 0,9 | 25 ± 6 |
9. Анионные поверхностно-активные вещества (ПНД Ф 14.1:2:4.158-2000)
| Примеры записи для питьевой воды, мг/дм³ |
Примеры записи для природной и сточной воды, мг/дм³ |
| 0,028 ± 0,010 | 0,080 ± 0,032 |
| 0,44 ± 0,12 | 0,35 ± 0,11 |
| 4,8 ± 1,0 | 71 ± 17 |
10. Щелочность (МП УВК 1.19-2013)
Численные значения результата количественного химического анализа должны оканчиваться цифрой того же разряда, что и численное значение характеристики погрешности. Характеристику погрешности измерения следует выражать числом, содержащим не более двух значащих цифр.
11. Температура, прозрачность, запах (РД 52.24.496-2018)
Численное значение результата измерений должно оканчиваться цифрой того же разряда, что и значение характеристики погрешности.
12. Кальций (РД 52.24.403-2018)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения погрешности; последние не должны содержать более двух значащих цифр.
13. Перманганатная окисляемость (ПНД Ф 14.1:2:4.154-99)
Результаты измерений округляют с точностью:
| Диапазон, мг/дм³ | Точность округления, мг/дм³ |
| от 0,25 до 1,0 вкл. | 0,01 |
| от 1,0 до 10 вкл. | 0,1 |
| свыше 10 | 1 |
14. Фториды (ПНД Ф 14.1:2:4.270-2012)
Результаты измерений концентрации фторид-ионов при занесении в протокол округляют с точностью:
| Диапазон, мг/дм³ | Точность округления, мг/дм³ |
| от 0,15 до 10 вкл. | 0,01 |
| свыше 10 | 0,1 |
15. Растворенный кислород (ПНД Ф 14.1:2:3.101-97)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения характеристики погрешности.
Тема: Обработка результатов многократных измерений
1 Результат обработки многократных измерений мощности W = 350,458 Вт и ∆ = 0,613 Вт после округления примет вид …
| (350,4 ± 0,6) Вт |
| (350 ± 1) Вт |
| (350,46 ± 0,61) Вт |
| (350,5 ± 0,6) Вт |
2 Проведены 11 равноточных измерений напряжения. Результаты следующие: 130,2; 130,3; 130,2; 130,3; 130,2; 129,6; 129,8; 129,9; 130,1; 129,9; 129,3 В. Результаты измерений распределены нормально, дисперсия не известна. Оценить доверительный интервал истинного значения для вероятности 0,95(tР = 2,228).
| (125,00 ± 0,22) В; tР = 2,228 |
| (130,00 ± 0,28) В; Р = 0,95 |
| (135,00 ± 0,24) В; tР = 2,228 |
| (130,00 ± 0,22) В; Р = 0,95 |
3 Среднеквадратическая погрешность (СКП) результатов единичных измерений в ряду измерений вычисляется по формуле …
 |
 |
 |
 |
4 Если при проведении 16-ти измерений электрического сопротивления омметром класса точности 0,5 с диапазоном измерения от 0 до 1000 Ом среднеквадратическая погрешность результата единичных измерений S составила ± 40 Ом, то погрешность измерения для доверительной вероятности 0,95 (tpn = 2,132) будет равна _____ Ом.
| ±40 |
| ±21 |
| ±51 |
| ±22 |
5 Квантиль Лапласа обозначается буквой …
| σ |
| D |
| z |
| χ 2 |
6 Среднеквадратическая погрешность результата измерений среднего арифметического вычисляется по формуле …
 |
 |
 |
 |
7 Функция равномерного закона распределения имеет вид …
 |
 |
 |
 |
8 Если при проведении 8 измерений напряжения получены результаты: 267, 265, 269, 259, 270, 268, 263, 275 В, то среднеквадратическая погрешность результата единичных измерений в ряду измерений будет равна ___ В.
| 2,5 |
| 4,6 |
| 1,5 |
| 3,8 |
9 Если при проведении 9-ти измерений электрического тока амперметром класса точности 1,0 с диапазоном измерения от 0 до 10 А среднеквадратическая погрешность результата единичных измерений S составила ± 0,03А, то погрешность измерения для доверительной вероятности 0,95 (tpn = 2,302) будет равна ___ А.
| ± 0,01 |
| ± 0,03 |
| ± 0,3 |
| ± 0,1 |
10 Определить границы доверительного интервала для выборочного среднего арифметического значения измеряемой величины при нормальном законе распределения результатов измерений и известной дисперсии можно с помощью …
| неравенства Чебышева |
| распределения Стьюдента |
| распределения Лапласа |
распределения Пирсона  |
11 Доверительный интервал для выборочного среднего арифметического значения измеряемой величины при нормальном законе распределения результатов измерения и неизвестной дисперсии можно оценить с помощью …
| распределения Лапласа |
| неравенства Чебышева |
| распределения Стьюдента |
распределения Пирсона  |
12 Функция треугольного закона распределения (Симпсона) имеет вид …
Дисциплина «Метрология, стандартизация и сертификация»
1. Тема: Обработка результатов многократных измерений Результат обработки многократных измерений напряжения U = 170,457 В и ∆ = 0,814 В после округления примет вид …
2. Тема: Погрешности измерений, их классификация Вариация показаний средства измерения относится к ________ погрешности.
3. Тема: Виды и методы измерений Измерения физической величины, принимаемой за неизменную на протяжении времени измерения, являются __________ измерениями.
4. Тема: Физические величины и шкалы измерений Шкала интервалов времени – это характерный пример шкалы …
5. Тема: Международная система единиц SI Наименованием единицы измерения количества вещества является …
6. Тема: Методы стандартизации Математическая закономерность, определяющая характер интервалов между членами ряда в определенном диапазоне, называется _________ параметрического ряда.
7. Тема: Стандартизация в Российской Федерации Типовые технологические процессы – типичный объект стандартов …
8. Тема: Основные принципы и теоретическая база стандартизации Закономерно построенную в определенном диапазоне совокупность числовых значений главного параметра машин (или других изделий) одного функционального назначения и аналогичных по кинематике или рабочему процессу называют _________ рядом.
9. Тема: Обработка результатов многократных измерений Функция треугольного закона распределения (Симпсона) имеет вид …
10. Тема: Выбор средств измерений по точности При измерениях рабочий участок шкалы SI должен выбираться по правилу: относительная погрешность в пределах рабочего участка шкалы SI не должна превышать приведенную погрешность более чем в ___ раз(а).
11. Тема: Обработка результатов однократных измерений Амперметр, имеющий класс точности 1,0 и предел измерения 5 А, измерит ток 3,5 А с относительной погрешностью не более ____ %.
12. Тема: Виды и методы измерений По способу нахождения числового значения физической величины измерения подразделяются на прямые, косвенные …
13. Тема: Общие сведения о средствах измерений (СИ) Техническое средство, предназначенное для измерений, имеющее нормированные метрологические характеристики, воспроизводящее и (или) хранящее единицу физической величины, размер которой принимают неизменным (в пределах установленной погрешности) в течение известного интервала времени, называется …
14. Тема: Физические величины и шкалы измерений Физическая величина, входящая в систему величин и условно принятая в качестве независимой от других величин этой системы, называется …
15. Тема: Международная система единиц SI Наименованием единицы измерения длины является …
Поддержка
i-exam.net © 2013-2021 Помогаем сдать тестирование.
Аккредитация в Росаккредитации
форум для аккредитованных лабораторий
Правила округления при обработке результатов измерений. Часть 1
#1 Правила округления при обработке результатов измерений. Часть 1
Ключевые слова (метрология, оформление протоколов, округление результатов измерения)
1. Правила (или рекомендации) округления в современных лабораториях необходимо принять прежде всего для:
Правильного расчёта конечного результата.
Удобства представления результатов измерений (испытаний) потребителю и другим заинтересованным сторонам.
Соблюдения требований стандартов и нормативных документов.
Единообразия форм оформления протоколов (представления результатов), в рамках лаборатории.
Повышения качества предоставленной услуги.
Повышения компетентности сотрудников.
2. При составлении этих правил следует руководствоваться:
2.1 ГОСТ Р 8.736-2011 Методы обработки результатов измерений. Основные положения.
Приложение Е.
Е.1 Точность результатов измерений и точность вычислений при обработке результатов измерений должны быть согласованы с требуемой точностью получаемой оценки измеряемой величины.
Пояснение: число знаков после запятой в оценке измеряемой величины должно совпадать с числом знаков после запятой в значении погрешности, погрешность выражается в абсолютных величинах.
Правильно:
m= (1,000±0,012) мг
I= (10±5) А
S= (10,22±0,12) м/c
m= (11,12±0,05) гр
I= (10,1±2,9) А
Неправильно:
m= (1±0,012) мг (не согласовано, недостающие цифры заполняют нулями)
I= (10,0±5) А (не согласовано)
S= (10,002±0,12) м/c (не согласовано, нет необходимости указывать в результате измерения большее число знаков после запятой чем у погрешности, т.к измеряемая величина находится в диапазоне 9,88÷10,12, округление 10,002 до 10,00 не внесёт значимую погрешность в результат измерений)
m= (11,12±1,05) гр (погрешность выражена более чем двумя значащими цифрами)
Если число десятичных знаков в результате вычисления оказывается меньше, чем в значении погрешности, то недостающие цифры заменяют нулями.
Если число десятичных знаков в результате вычисления оказывается больше, то используют стандартное правила округления.
-если первая из отбрасываемых цифр (считая слева направо) меньше 5, то последняя сохраняемая цифра не меняется
— если первая из отбрасываемых цифр (считая слева направо) равна 5, то последняя сохраняемая цифра увеличивается на единицу.
Е.2 Погрешность оценки измеряемой величины следует выражать не более чем двумя значащими цифрами.
Две значащие цифры в погрешности оценки измеряемой величины сохраняют:
— при точных измерениях;
— если первая значащая цифра не более трех.
Пояснение: данный пункт описывает с какой точностью следует выражать погрешность измерения. Вычисленная погрешность обладает собственной погрешностью, как правило выше 10-20 процентов, следовательно, нет необходимости описывать её более чем двумя знаками. Например, числа — 0,610 и 0,616 отличаются друг от друга не более чем на 1%.
Причём, чем первая значащая цифра больше, тем результат округления внесёт меньшую погрешность, поэтому, если первая значащая цифра в погрешности больше 3, погрешность округляют до одной значащей цифры.
0,104 при округлении до 0,10 внесённая погрешность 4%
0,354 при округлении до 0,35 внесённая погрешность 1,2 %
0,354 при округлении до 0,4 внесённая погрешность 1,3 %
0,954 при округлении до 1,0 внесённая погрешность 4,6 %
Правильно:
Результат m= (1±0,000127) мг запись в протоколе m=(1,00000±0,00013) мг
Результат m= (1,056±0,000121) мг запись в протоколе m=(1,05600±0,00012) мг
Результат m= (1,056±1,000121) мг запись в протоколе m=(1,1±1,0) мг
Результат m= (1,005±0,00035) мг запись в протоколе m=(1,0050±0,0004) мг
Результат m= (1,005±0,00031) мг запись в протоколе m=(1,0050±0,0003) мг
Е.3 Число цифр в промежуточных вычислениях при обработке результатов измерений должно быть на две больше, чем в окончательном результате.
Е.4 Погрешность при промежуточных вычислениях должна быть выражена не более чем тремя значащими цифрами.
Пояснение: эти два правила применяются только для ручных вычислений, для уменьшения трудоёмкости. При подсчёте с помощью ЭВМ и т.п. промежуточные результаты без необходимости не округляют.
Е.5 Сохраняемую значащую цифру в погрешности оценки измеряемой величины при округлении увеличивают на единицу, если отбрасываемая цифра не указываемого младшего разряда больше либо равна пяти, и не изменяют, если она меньше пяти.
Пояснение: Это стандартное правило округления.
После конструктивного обсуждения предоставлю вторую часть.