i = 18, j = 3.

Рисунок 1. График зависимости ответа биосенсора от концентрации субстрата, построенный в программе Microsoft Excel.

Рисунок 2. График зависимости ответа биосенсора от концентрации субстрата, построенный в программе Sigma Plot.
Зависимость начальной скорости ферментативной реакции от концентрации субстрата описывается гиперболической функцией – уравнением Михаэлиса-Ментен:
,
где
-
скорость ферментативной реакции, Vmax
- максимальная скорость ферментативной
реакции при полном насыщении фермента
субстратом,
–
константа Михаэлиса (верхняя граница
линейного участка),
–
концентрация субстрата.
Расчет точечной и интервальной оценки максимальной скорости (Vmax) и константы Михаэлиса (КМ) (с помощью программы Sigma Plot).
Точечная оценка:
КМ = 0,3639 моль/дм3
Vmax = 30,1077 нА/мин
Интервальная оценка:
КМ = 0,36 ± 0,02 моль/дм3
Vmax = 30,1 ± 0,6 нА/мин
Доверительный интервал рассчитывали по формуле:
,
где
t(P,f)
- коэффициент Стюдента; St.Er.
- стандартная ошибка, определяемая
отношением стандартного отклонения к
,
величина стандартной ошибки автоматически
рассчитывается программой SigmaPlot.
2. Расчет точечной оценки коэффициента корреляции (с помощью компьютерных программ и по статистическим формулам).

а) для всей исследуемой области концентраций:
|
№ |
xi |
yi |
xiyi |
xi2 |
yi2 |
|
1 |
0,01249 |
1,4082 |
0,017588 |
0,000156 |
1,983027 |
|
2 |
0,02499 |
2,191 |
0,054753 |
0,000625 |
4,800481 |
|
3 |
0,03749 |
2,6064 |
0,097714 |
0,001406 |
6,793321 |
|
4 |
0,04998 |
3,1834 |
0,159106 |
0,002498 |
10,13404 |
|
5 |
0,06246 |
3,984 |
0,248841 |
0,003901 |
15,87226 |
|
6 |
0,07494 |
4,4852 |
0,336121 |
0,005616 |
20,11702 |
|
7 |
0,08742 |
4,8478 |
0,423795 |
0,007642 |
23,50116 |
|
8 |
0,0999 |
5,4598 |
0,545434 |
0,00998 |
29,80942 |
|
9 |
0,1124 |
6,7618 |
0,760026 |
0,012634 |
45,72194 |
|
10 |
0,1248 |
7,9012 |
0,98607 |
0,015575 |
62,42896 |
|
11 |
0,1996 |
10,9022 |
2,176079 |
0,03984 |
118,858 |
|
12 |
0,2494 |
13,5996 |
3,39174 |
0,0622 |
184,9491 |
|
13 |
0,3736 |
15,7711 |
5,892083 |
0,139577 |
248,7276 |
|
14 |
0,4975 |
18,0794 |
8,994502 |
0,247506 |
326,8647 |
|
15 |
0,6211 |
19,477 |
12,09716 |
0,385765 |
379,3535 |
|
16 |
0,7444 |
20,2147 |
15,04782 |
0,554131 |
408,6341 |
|
17 |
0,8674 |
20,7962 |
18,03862 |
0,752383 |
432,4819 |
|
18 |
0,9901 |
21,1147 |
20,90566 |
0,980298 |
445,8306 |
|
|
5,22997 |
182,7837 |
90,17313 |
3,221733 |
2766,861 |
![]()
Коэффициент корреляции, рассчитанный в программе Microsoft Excel:
R2 = 0,886
R = 0,941
Коэффициент корреляции рассчитанный в программе Sigma Plot:
R2 = 0,9918
R = 0,9959
Значения коэффициента корреляции для всей области концентраций.
|
Коэффициент корреляции |
||
|
Расчет по формулам |
Microsoft Excel |
Sigma Plot |
|
0,9450 |
0,9410 |
0,9459 |
Сравниваем Rэксп с критическим значением коэффициента корреляции Пирсона для уровня значимости 0,05 (Р=0,95) и числа степеней свободы f = n – 2 = 18 – 2 = 16: R(0,05;16)= 0,4683
Так как Rэксп > R(0,05;16) нуль – гипотеза выполняется, т.е. между значениями x и y существует зависимость.
б) для линейной области градуировочной кривой
Верхней границей линейного участка градуировочной кривой является точка КМ= 0,3639.
|
№ |
xi |
yi |
xiyi |
xi2 |
yi2 |
|
1 |
0,01249 |
1,4082 |
0,017588 |
0,000156 |
1,983027 |
|
2 |
0,02499 |
2,191 |
0,054753 |
0,000625 |
4,800481 |
|
3 |
0,03749 |
2,6064 |
0,097714 |
0,001406 |
6,793321 |
|
4 |
0,04998 |
3,1834 |
0,159106 |
0,002498 |
10,13404 |
|
5 |
0,06246 |
3,984 |
0,248841 |
0,003901 |
15,87226 |
|
6 |
0,07494 |
4,4852 |
0,336121 |
0,005616 |
20,11702 |
|
7 |
0,08742 |
4,8478 |
0,423795 |
0,007642 |
23,50116 |
|
8 |
0,0999 |
5,4598 |
0,545434 |
0,00998 |
29,80942 |
|
9 |
0,1124 |
6,7618 |
0,760026 |
0,012634 |
45,72194 |
|
10 |
0,1248 |
7,9012 |
0,98607 |
0,015575 |
62,42896 |
|
11 |
0,1996 |
10,9022 |
2,176079 |
0,03984 |
118,858 |
|
12 |
0,2494 |
13,5996 |
3,39174 |
0,0622 |
184,9491 |
|
|
1,13587 |
67,3306 |
9,197267 |
0,162073 |
524,9687 |
![]()
Коэффициент корреляции рассчитанный в программе Microsoft Excel:
R2 = 0,993
R = 0,9965
Коэффициент корреляции рассчитанный в программе Sigma Plot:
R2 = 0,9891
R = 0,9934
Значения коэффициента корреляции для линейной области концентраций.
|
Коэффициент корреляции |
||
|
Ручной расчет |
Microsoft Excel |
Sigma Plot |
|
0,9972 |
0,9965 |
0,9967 |
Сравниваем Rэксп с критическим значением коэффициента корреляции Пирсона для уровня значимости 0,05 (Р=0,95) и числа степеней свободы f = n – 2 = 12 – 2 = 10: R(0,05;10)= 0,5760
Так как Rэксп > R(0,05;8) ,то нуль – гипотеза выполняется, т.е. между значениями x и y существует зависимость.
3. Расчет точечной и интервальной оценки параметров линейной регрессии (с помощью компьютерных программ и по статистическим формулам). Расчет коэффициента чувствительности с доверительным интервалом.
Зависимость
аналитического сигнала (y),
в данном случае ответ сенсора в нА/мин,
от концентрации (х) в моль/ дм3,
можно выразить линейным уравнением:
![]()
Коэффициенты a и b можно найти методом наименьших квадратов. Для их вычисления используют следующие формулы:
Расчет сумм:
|
№ |
xi |
xi2 |
yi |
yi2 |
xiyi |
|
1 |
0,012490 |
0,000156 |
1,408200 |
1,983027 |
0,017588 |
|
2 |
0,024990 |
0,000625 |
2,191000 |
4,800481 |
0,054753 |
|
3 |
0,037490 |
0,001406 |
2,606400 |
6,793321 |
0,097714 |
|
4 |
0,049980 |
0,002498 |
3,183400 |
10,134036 |
0,159106 |
|
5 |
0,062460 |
0,003901 |
3,984000 |
15,872256 |
0,248841 |
|
6 |
0,074940 |
0,005616 |
4,485200 |
20,117019 |
0,336121 |
|
7 |
0,087420 |
0,007642 |
4,847800 |
23,501165 |
0,423795 |
|
8 |
0,099900 |
0,009980 |
5,459800 |
29,809416 |
0,545434 |
|
9 |
0,112400 |
0,012634 |
6,761800 |
45,721939 |
0,760026 |
|
10 |
0,124800 |
0,015575 |
7,901200 |
62,428961 |
0,986070 |
|
11 |
0,199600 |
0,039840 |
10,902200 |
118,857965 |
2,176079 |
|
12 |
0,249400 |
0,062200 |
13,599600 |
184,949120 |
3,391740 |
|
|
1,1359 |
0,16207 |
67,3306 |
524,968 |
9,197 |

![]()
y=51,8385x + 0,7039 – линейное уравнение градуировочной прямой.
Рассчитаем доверительные интервалы для параметров a и b градуировочного графика. Дисперсия, характеризующая рассеяние экспериментальных значений y для n образцов сравнения относительно рассчитанной прямой y=a+bx, определяется выражением:
![]()
Дисперсии параметров a и b равны:

![]()
Из дисперсии рассчитываем стандартные отклонения:
![]()
![]()
Рассчитаем доверительные интервалы для a и b:
где Р= 0,95; f = n – 2 = 12 – 2 = 10
t(0,95;10)=2,23
(значения
доверительных интервалов округляются
до одной значащей цифры)
a = 0,7 ± 0,3 нА/мин
![]()
b
= 52 ± 3
(коэффициент чувствительности)
Уравнение прямой: y = 52х + 0,7
Расчет и построение грауировочного графика
с помощью программы Microsoft Excel
Данные для построения градуировочного графика.
|
№ |
Концентрация, моль/ дм3 |
Ответы биосенсора, нА/мин |
Среднее значение, нА/мин |
Стандартное отклонение, нА/мин |
Доверительный интервал, нА/мин |
||
|
1 |
0,01249 |
1,3932 |
1,4142 |
1,4172 |
1,4082 |
0,013077 |
0,014797 |
|
2 |
0,02499 |
2,226 |
2,1072 |
2,2398 |
2,191 |
0,072900 |
0,082493 |
|
3 |
0,03749 |
2,6256 |
2,5788 |
2,6148 |
2,6064 |
0,024505 |
0,027729 |
|
4 |
0,04998 |
3,0936 |
3,2466 |
3,213 |
3,1834 |
0,080410 |
0,09099 |
|
5 |
0,06246 |
3,978 |
3,9948 |
3,9792 |
3,984 |
0,009372 |
0,010606 |
|
6 |
0,07494 |
4,5258 |
4,491 |
4,4388 |
4,4852 |
0,043789 |
0,049551 |
|
7 |
0,08742 |
4,8378 |
4,8264 |
4,8792 |
4,8478 |
0,027784 |
0,03144 |
|
8 |
0,0999 |
5,4348 |
5,4708 |
5,4738 |
5,4598 |
0,021703 |
0,024558 |
|
9 |
0,1124 |
6,7278 |
6,7758 |
6,7818 |
6,7618 |
0,029597 |
0,033492 |
|
10 |
0,1248 |
7,8258 |
7,7376 |
8,1402 |
7,9012 |
0,211626 |
0,239473 |
|
11 |
0,1996 |
10,9213 |
10,8732 |
10,9122 |
10,9022 |
0,025552 |
0,028914 |
|
12 |
0,2494 |
13,5432 |
13,6234 |
13,6322 |
13,5996 |
0,049042 |
0,055495 |

Рисунок 3. График зависимости ответа биосенсора от концентрации субстрата, построенный в программе Microsoft Excel (линейная область).
С помощью программы Microsoft Excel можно рассчитать только параметры а и b линейной регрессии.
Расчет и построение грауировочного графика
с помощью программы Sigma Plot

Рисунок 4. График зависимости ответа биосенсора от концентрации субстрата, построенный в программе Sigma Plot (линейная область).
Уравнение прямой: y = 51,7631х + 0,7113; sa= 0,0872, sb= 0,7504
где Р= 0,95; f = n – 2 = 12 – 2 = 10
t(0,95;10)=2,23
![]()
a = 0,7 ± 0,2 нА/мин
![]()
b
= 52 ± 2
![]()
Сравнение данных полученных при ручном расчете и с помощью
компьютерных программ.
|
Параметры |
Sigma Plot |
Microsoft Excel |
По формулам |
|
b,
|
52 ± 2 |
51,764 |
52 ± 3 |
|
a, нА/мин |
0,7± 0,2 |
0,7111 |
0,7 ± 0,3 |
|
Уравнение прямой |
y = 52х + 0,7 |
y=51,764х + 0,7111 |
y=52x + 0,7 |
4. Расчет точечной оценки нижней границы диапазона определяемых концентраций сmin (мкмоль/ дм3).