Инструменты пользователя

Инструменты сайта


soft:algoritm_vychislenija_ploschadi_pika

Различия

Показаны различия между двумя версиями страницы.


soft:algoritm_vychislenija_ploschadi_pika [2021/06/23 13:01] (текущий) – создано - внешнее изменение 127.0.0.1
Строка 1: Строка 1:
 +====== Алгоритм вычисления площади пика ======
 +
 +===== Представление чисел =====
 +
 +Выборки сигнала детектора приходят из прибора в виде чисел с плавающей запятой одинарной точности (float).\\
 +В этом же формате они сохраняются в файле-хроматограмме.\\
 +При расчёте площадей, а также во всех последующих операциях используются числа с плавающей запятой двойной точности (double).
 +
 +
 +===== Площадь пика =====
 +
 +{{:soft:peak_area.png?400 |}}
 +Площадь пика считается методом трапеций. 
 +  * Строится базовая линия (на рисунке отмечена зелёным). 
 +  * От каждых соседних выборок сигнала (выборки сигнала обозначены синими кружками) опускается вертикальные линии до базовой. 
 +  * Строится трапеция и вычисляется её площадь (выделена красным). 
 +  * Площадь пика вычисляется как сумма трапеций, составляющих данный пик.
 +
 +===== Общая базовая линия =====
 +
 +
 +{{:soft:peak_base.png?400 |}}
 +Пики с общей базовой линией разделяются по минимуму в долине между пиками как показано на рисунке.
 +
 +===== Пики - наездники =====
 +
 +
 +{{:soft:peak_rider.png?400 |}}
 +Площади основного пика и пика-наездника разделяются по базовой линии наездника.
 +
 +===== Погрешность определения площадей =====
 +
 +При расчёте площади программным способом можно оценить ошибку вычисления.
 +
 +Согласно формуле вычисления площади методом трапеций основная ошибка накапливается при суммировании выборок от детектора.
 +
 +{{ :soft:square-formula.png }}
 +
 +Тогда, ошибка, связанная с накоплением суммы выборок линейно растёт с увеличением количества выборок в пике.
 +
 +Примем во внимание, что расчёт площади ведётся с помощью чисел двойной точности.
 +Известно, что этом случае ошибка будет порядка 2^−52 ≈ 2.20e-16 для типа double (64 бита).
 +Это абсолютная вычислительная ошибка для единицы. Относительная ошибка в процентах будет в 100 раз больше или 2.2e-14.
 +
 +Итого, относительная ошибка вычислений площади будет линейно зависеть от количества выборок (n) внутри пика по следующей формуле:
 +
 +{{ :soft:epsilon-n.png }}
 +
 +Если принять во внимание, что частота выборок у хроматографа Хромос ГХ-1000 20 точек в секунду, можно вычислить относительную ошибку вычисления площади пика, связанную с точностью чисел double. В формуле указана ширина пика (Ш) в минутах.
 +
 +{{ :soft:epsilon-width.png }}
 +
 +
  
soft/algoritm_vychislenija_ploschadi_pika.txt · Последнее изменение: 2021/06/23 13:01 — 127.0.0.1