Материал: Sam_pl_ex_biotekh_nov_2013-3

Внимание! Если размещение файла нарушает Ваши авторские права, то обязательно сообщите нам

i = 18, j = 3.

Рисунок 1. График зависимости ответа биосенсора от концентрации субстрата, построенный в программе Microsoft Excel.

Рисунок 2. График зависимости ответа биосенсора от концентрации субстрата, построенный в программе Sigma Plot.

Зависимость начальной скорости ферментативной реакции от концентрации субстрата описывается гиперболической функцией – уравнением Михаэлиса-Ментен:

,

где - скорость ферментативной реакции, Vmax - максимальная скорость ферментативной реакции при полном насыщении фермента субстратом, – константа Михаэлиса (верхняя граница линейного участка), – концентрация субстрата.

Расчет точечной и интервальной оценки максимальной скорости (Vmax) и константы Михаэлиса (КМ) (с помощью программы Sigma Plot).

Точечная оценка:

КМ = 0,3639 моль/дм3

Vmax = 30,1077 нА/мин

Интервальная оценка:

КМ = 0,36 ± 0,02 моль/дм3

Vmax = 30,1 ± 0,6 нА/мин

Доверительный интервал рассчитывали по формуле:

,

где t(P,f) - коэффициент Стюдента; St.Er. - стандартная ошибка, определяемая отношением стандартного отклонения к , величина стандартной ошибки автоматически рассчитывается программой SigmaPlot.

2. Расчет точечной оценки коэффициента корреляции (с помощью компьютерных программ и по статистическим формулам).

а) для всей исследуемой области концентраций:

xi

yi

xiyi

xi2

yi2

1

0,01249

1,4082

0,017588

0,000156

1,983027

2

0,02499

2,191

0,054753

0,000625

4,800481

3

0,03749

2,6064

0,097714

0,001406

6,793321

4

0,04998

3,1834

0,159106

0,002498

10,13404

5

0,06246

3,984

0,248841

0,003901

15,87226

6

0,07494

4,4852

0,336121

0,005616

20,11702

7

0,08742

4,8478

0,423795

0,007642

23,50116

8

0,0999

5,4598

0,545434

0,00998

29,80942

9

0,1124

6,7618

0,760026

0,012634

45,72194

10

0,1248

7,9012

0,98607

0,015575

62,42896

11

0,1996

10,9022

2,176079

0,03984

118,858

12

0,2494

13,5996

3,39174

0,0622

184,9491

13

0,3736

15,7711

5,892083

0,139577

248,7276

14

0,4975

18,0794

8,994502

0,247506

326,8647

15

0,6211

19,477

12,09716

0,385765

379,3535

16

0,7444

20,2147

15,04782

0,554131

408,6341

17

0,8674

20,7962

18,03862

0,752383

432,4819

18

0,9901

21,1147

20,90566

0,980298

445,8306

5,22997

182,7837

90,17313

3,221733

2766,861

Коэффициент корреляции, рассчитанный в программе Microsoft Excel:

R2 = 0,886

R = 0,941

Коэффициент корреляции рассчитанный в программе Sigma Plot:

R2 = 0,9918

R = 0,9959

Значения коэффициента корреляции для всей области концентраций.

Коэффициент корреляции

Расчет по формулам

Microsoft Excel

Sigma Plot

0,9450

0,9410

0,9459

Сравниваем Rэксп с критическим значением коэффициента корреляции Пирсона для уровня значимости 0,05 (Р=0,95) и числа степеней свободы f = n – 2 = 18 – 2 = 16: R(0,05;16)= 0,4683

Так как Rэксп > R(0,05;16) нуль – гипотеза выполняется, т.е. между значениями x и y существует зависимость.

б) для линейной области градуировочной кривой

Верхней границей линейного участка градуировочной кривой является точка КМ= 0,3639.

xi

yi

xiyi

xi2

yi2

1

0,01249

1,4082

0,017588

0,000156

1,983027

2

0,02499

2,191

0,054753

0,000625

4,800481

3

0,03749

2,6064

0,097714

0,001406

6,793321

4

0,04998

3,1834

0,159106

0,002498

10,13404

5

0,06246

3,984

0,248841

0,003901

15,87226

6

0,07494

4,4852

0,336121

0,005616

20,11702

7

0,08742

4,8478

0,423795

0,007642

23,50116

8

0,0999

5,4598

0,545434

0,00998

29,80942

9

0,1124

6,7618

0,760026

0,012634

45,72194

10

0,1248

7,9012

0,98607

0,015575

62,42896

11

0,1996

10,9022

2,176079

0,03984

118,858

12

0,2494

13,5996

3,39174

0,0622

184,9491

1,13587

67,3306

9,197267

0,162073

524,9687

Коэффициент корреляции рассчитанный в программе Microsoft Excel:

R2 = 0,993

R = 0,9965

Коэффициент корреляции рассчитанный в программе Sigma Plot:

R2 = 0,9891

R = 0,9934

Значения коэффициента корреляции для линейной области концентраций.

Коэффициент корреляции

Ручной расчет

Microsoft Excel

Sigma Plot

0,9972

0,9965

0,9967

Сравниваем Rэксп с критическим значением коэффициента корреляции Пирсона для уровня значимости 0,05 (Р=0,95) и числа степеней свободы f = n – 2 = 12 – 2 = 10: R(0,05;10)= 0,5760

Так как Rэксп > R(0,05;8) ,то нуль – гипотеза выполняется, т.е. между значениями x и y существует зависимость.

3. Расчет точечной и интервальной оценки параметров линейной регрессии (с помощью компьютерных программ и по статистическим формулам). Расчет коэффициента чувствительности с доверительным интервалом.

Зависимость аналитического сигнала (y), в данном случае ответ сенсора в нА/мин, от концентрации (х) в моль/ дм3, можно выразить линейным уравнением:

Коэффициенты a и b можно найти методом наименьших квадратов. Для их вычисления используют следующие формулы:

Расчет сумм:

xi

xi2

yi

yi2

xiyi

1

0,012490

0,000156

1,408200

1,983027

0,017588

2

0,024990

0,000625

2,191000

4,800481

0,054753

3

0,037490

0,001406

2,606400

6,793321

0,097714

4

0,049980

0,002498

3,183400

10,134036

0,159106

5

0,062460

0,003901

3,984000

15,872256

0,248841

6

0,074940

0,005616

4,485200

20,117019

0,336121

7

0,087420

0,007642

4,847800

23,501165

0,423795

8

0,099900

0,009980

5,459800

29,809416

0,545434

9

0,112400

0,012634

6,761800

45,721939

0,760026

10

0,124800

0,015575

7,901200

62,428961

0,986070

11

0,199600

0,039840

10,902200

118,857965

2,176079

12

0,249400

0,062200

13,599600

184,949120

3,391740

1,1359

0,16207

67,3306

524,968

9,197

y=51,8385x + 0,7039 – линейное уравнение градуировочной прямой.

Рассчитаем доверительные интервалы для параметров a и b градуировочного графика. Дисперсия, характеризующая рассеяние экспериментальных значений y для n образцов сравнения относительно рассчитанной прямой y=a+bx, определяется выражением:

Дисперсии параметров a и b равны:

Из дисперсии рассчитываем стандартные отклонения:

Рассчитаем доверительные интервалы для a и b:

где Р= 0,95; f = n – 2 = 12 – 2 = 10

t(0,95;10)=2,23

(значения доверительных интервалов округляются до одной значащей цифры)

a = 0,7 ± 0,3 нА/мин

b = 52 ± 3 (коэффициент чувствительности)

Уравнение прямой: y = 52х + 0,7

Расчет и построение грауировочного графика

с помощью программы Microsoft Excel

Данные для построения градуировочного графика.

Концентрация,

моль/

дм3

Ответы биосенсора, нА/мин

Среднее значение, нА/мин

Стандартное отклонение, нА/мин

Доверительный интервал, нА/мин

1

0,01249

1,3932

1,4142

1,4172

1,4082

0,013077

0,014797

2

0,02499

2,226

2,1072

2,2398

2,191

0,072900

0,082493

3

0,03749

2,6256

2,5788

2,6148

2,6064

0,024505

0,027729

4

0,04998

3,0936

3,2466

3,213

3,1834

0,080410

0,09099

5

0,06246

3,978

3,9948

3,9792

3,984

0,009372

0,010606

6

0,07494

4,5258

4,491

4,4388

4,4852

0,043789

0,049551

7

0,08742

4,8378

4,8264

4,8792

4,8478

0,027784

0,03144

8

0,0999

5,4348

5,4708

5,4738

5,4598

0,021703

0,024558

9

0,1124

6,7278

6,7758

6,7818

6,7618

0,029597

0,033492

10

0,1248

7,8258

7,7376

8,1402

7,9012

0,211626

0,239473

11

0,1996

10,9213

10,8732

10,9122

10,9022

0,025552

0,028914

12

0,2494

13,5432

13,6234

13,6322

13,5996

0,049042

0,055495

Рисунок 3. График зависимости ответа биосенсора от концентрации субстрата, построенный в программе Microsoft Excel (линейная область).

С помощью программы Microsoft Excel можно рассчитать только параметры а и b линейной регрессии.

Расчет и построение грауировочного графика

с помощью программы Sigma Plot

Рисунок 4. График зависимости ответа биосенсора от концентрации субстрата, построенный в программе Sigma Plot (линейная область).

Уравнение прямой: y = 51,7631х + 0,7113; sa= 0,0872, sb= 0,7504

где Р= 0,95; f = n 2 = 12 2 = 10

t(0,95;10)=2,23

a = 0,7 ± 0,2 нА/мин

b = 52 ± 2

Сравнение данных полученных при ручном расчете и с помощью

компьютерных программ.

Параметры

Sigma Plot

Microsoft Excel

По формулам

b,

52 ± 2

51,764

52 ± 3

a, нА/мин

0,7± 0,2

0,7111

0,7 ± 0,3

Уравнение прямой

y = 52х + 0,7

y=51,764х + 0,7111

y=52x + 0,7

4. Расчет точечной оценки нижней границы диапазона определяемых концентраций сmin (мкмоль/ дм3).

Источник: https://studfile.net/preview/14808370/