Dependence of the Correlation Coefficient Between the Results of a Parameter Measurement and Its True Values on the Reduced Measurement Error

S G Sandomirski

doi:10.21122/2220-9506-2019-10-1-90-98

Abstract

Magnetic testing of steels' mechanical properties is based on their correlation with steels' magnetic parameters. The purpose of this work was to establish dependence of the attainable correlation coefficient Rmax between measurement results and the parameter values a on the reduced error of its measurement. The article proposes a model of the correlation field between the parameter true values and the results of its measurement with a given reduced error δ. The merits and legitimacy of using the model for estimation of the achievable correlation coefficient Rmax are substantiated. Analysis of influence of δ parameter measurement in different ranges d of its change on Rmax is carried out. Results are compared with the previous analysis for the relative measurement error. It has been established in this work that the coefficient Rmax calculated for the reduced measurement error is always smaller than Rmax one calculated for the relative measurement error. However in the practically important range of variation of d with δ ≤ 0.05 the difference between the Rmax values calculated for the reduced and relative measurement errors is not large. This allows us to use the developed formula for the dependence Rmax = Rmax (δ, d) at Rmax ≥ 0.8 for both relative and reduced measurement errors δ. The obtained result allows us using the reduced measurement error of a metrologically certified measuring instrument to obtain the maximum attainable correlation coefficient between the true values and the results of measuring a parameter in a given range of its change without measurements. As an example, we define the conditions for the non-destructive testing of steels under which one can use measuring of magnetic parameters with the installation certified based on the reduced measurement error.

Highlights

Магнитный контроль механических свойств сталей основан на их связях с магнитными параметрами [1, 2]
С учетом результатов [8, 2] анализа влияния распределения вдоль линии (1) регрессии результатов измерения xi с относительной погрешностью измерения δ параметра х, анализ влияния параметров δ, d и dd на Rmax зависимости (1) для приведенной погрешности измерения δ проведем для 4 пар значений (xi, уi): xmin, y1 ; xmin, y2 ; xmax, y3 ; xmax, y4
Анализ влияния параметров δ, d и dd на R корреляционного поля рисунка 1b проведем при xmax = 1

Summary

Исходные предпосылки для расчета

В [8] предложена модель (рисунок 1а) корреляционного поля между результатами измерения и истинными значениями параметра от относительной погрешности его измерения. В [8, 2] установлено, что максимальное значение Rmax(δ, d = const) коэффициента корреляции R для любых δ и d имеет место, если количество одинаковых интервалов разбиения диапазона (3) изменения измеряемого параметра х (рисунок 1а) равно 1 – т. Для оценки достижимого коэффициента корреляции Rmax в практически важном диапазоне его изменения по значениям δ и d в [8]. При которой в известном диапазоне изменения параметра d теоретически может быть достигнут уровень коэффициента корреляции Rmax между результатами измерения параметра и его истинными значениями: δmin ≈ 1, 3(1− R max )0 d1,24 (для Rmax ≥ 0,8). Основываясь на этих результатах, установим зависимости достижимого коэффициента корреляции Rmax между результатами измерения и истинными значениями параметра от приведенной погрешности его измерения

Модель для расчета

Результаты расчета

Анализ и пример использования полученных результатов

Список использованных источников