Инструменты пользователя

Инструменты сайта


soft:алгоритм_вычисления_площади_пика

Алгоритм вычисления площади пика

Представление чисел

Выборки сигнала детектора приходят из прибора в виде чисел с плавающей запятой одинарной точности (float).
В этом же формате они сохраняются в файле-хроматограмме.
При расчёте площадей, а также во всех последующих операциях используются числа с плавающей запятой двойной точности (double).

Площадь пика

Площадь пика считается методом трапеций.

  • Строится базовая линия (на рисунке отмечена зелёным).
  • От каждых соседних выборок сигнала (выборки сигнала обозначены синими кружками) опускается вертикальные линии до базовой.
  • Строится трапеция и вычисляется её площадь (выделена красным).
  • Площадь пика вычисляется как сумма трапеций, составляющих данный пик.

Общая базовая линия

Пики с общей базовой линией разделяются по минимуму в долине между пиками как показано на рисунке.

Пики - наездники

Площади основного пика и пика-наездника разделяются по базовой линии наездника.

Погрешность определения площадей

При расчёте площади программным способом можно оценить ошибку вычисления.

Согласно формуле вычисления площади методом трапеций основная ошибка накапливается при суммировании выборок от детектора.

Тогда, ошибка, связанная с накоплением суммы выборок линейно растёт с увеличением количества выборок в пике.

Примем во внимание, что расчёт площади ведётся с помощью чисел двойной точности. Известно, что этом случае ошибка будет порядка 2^−52 ≈ 2.20e-16 для типа double (64 бита). Это абсолютная вычислительная ошибка для единицы. Относительная ошибка в процентах будет в 100 раз больше или 2.2e-14.

Итого, относительная ошибка вычислений площади будет линейно зависеть от количества выборок (n) внутри пика по следующей формуле:

Если принять во внимание, что частота выборок у хроматографа Хромос ГХ-1000 20 точек в секунду, можно вычислить относительную ошибку вычисления площади пика, связанную с точностью чисел double. В формуле указана ширина пика (Ш) в минутах.

soft/алгоритм_вычисления_площади_пика.txt · Последние изменения: 2020/06/03 10:56 — feser