Обзорная таблица ниже приводит существующее среднеквадратичное отклонение (среднеквадратическую ощибку = 1-sigma uncertainties) согласно данным Национальной физической лаборатории Великобритании 1991г для основных стандартных величин.
Следует иметь в виду, что при калибровке очень малых, или очень больших величин (таких, как давление, например) ошибка будет существенно выше ( на порядки), но уж никак не ниже.
Единица
Среднеквадратическое отклонение
Примечание
Временной интервал
секунда
4 × 10−14
Размер
метр
2.5 × 10−11
Масса
килограмм
2.3 х 10−9
Разность потенциалов
Вольт
10−8
Электрическое сопротивление
Ом
10−8
Температура
Кельвин
0.000 1 K
В тройной точке воды.
Освещенность
Канделла
3 × 10−4
Для монохроматического излучения
Угол
угловая секунда
10−2
Плотность
кг*м−3
10−5
Для твердых веществ
Сила
Ньютон
10−5
До 1.2 МН
Давление
Паскаль
Атмосферное
3 × 10−6
при 100 кПа
Высокое
2 × 10−5
при 100 MПа
Вакуум
10−2
При 1 мкПа
Давление звукового излучения
Паскаль
1.5 × 10−2
При 5 МГц в воде
Теплопроводность
Вт*м−1* К−1
10−2 to 2 × 10−2
Зависит от материала
Электрическая мощность:
Ватт
частота
5 × 10−5
при 50 Гц
СВЧ
10−3
при 10 ГГц
Энергия лазерного импульса
Джоуль
1.5 × 10−2
0.4 мкм to 1.06 мкм
Оптическая мощность
Ватт
4 × 10−5
Нейтронное излучение
с−1
2 × 10−3
Для источников нейтронов
Радиоактивность
беккерель
1.5 × 10−3 до 10−2
Зависит от радионуклида
Поглощенная доза облучения
Грэй
3.5 × 10−3
В графите
Количество вещества
моль
3 × 10−4
Для газов
Дополнительная информация от Инженерного cправочника DPVA, а именно - другие подразделы данного раздела:
Вы сейчас здесь: Неопределенность первичных стандартных величин. Таблица.
Поиск в инженерном справочнике DPVA. Введите свой запрос:
Если Вы не обнаружили себя в списке поставщиков, заметили ошибку, или у Вас есть дополнительные численные данные для коллег по теме, сообщите , пожалуйста.
Вложите в письмо ссылку на страницу с ошибкой, пожалуйста.
Консультации и техническая поддержка сайта: Zavarka Team
Проект является некоммерческим. Информация, представленная на сайте, не является официальной и предоставлена только в целях ознакомления. Владельцы сайта www.DPVA.xyz не несут никакой ответственности за риски, связанные с использованием информации, полученной с этого интернет-ресурса.