Электронная библиотека диссертаций и авторефератов России
dslib.net
Библиотека диссертаций
Навигация
Каталог диссертаций России
Англоязычные диссертации
Диссертации бесплатно
Предстоящие защиты
Рецензии на автореферат
Отчисления авторам
Мой кабинет
Заказы: забрать, оплатить
Мой личный счет
Мой профиль
Мой авторский профиль
Подписки на рассылки



расширенный поиск

Математическое моделирование электрического импульса в нервном волокне Максименко Екатерина Васильевна

Математическое моделирование электрического импульса в нервном волокне
<
Математическое моделирование электрического импульса в нервном волокне Математическое моделирование электрического импульса в нервном волокне Математическое моделирование электрического импульса в нервном волокне Математическое моделирование электрического импульса в нервном волокне Математическое моделирование электрического импульса в нервном волокне Математическое моделирование электрического импульса в нервном волокне Математическое моделирование электрического импульса в нервном волокне Математическое моделирование электрического импульса в нервном волокне Математическое моделирование электрического импульса в нервном волокне
>

Диссертация - 480 руб., доставка 10 минут, круглосуточно, без выходных и праздников

Автореферат - бесплатно, доставка 10 минут, круглосуточно, без выходных и праздников

Максименко Екатерина Васильевна. Математическое моделирование электрического импульса в нервном волокне : дис. ... канд. физ.-мат. наук : 05.13.18 Ставрополь, 2006 148 с. РГБ ОД, 61:07-1/225

Содержание к диссертации

Введение

ГЛАВА 1. Современные методы математического описания электродинамических процессов в нервных волокнах

1.1. Общая характеристика биоэлектрических явлений 11

1.2. Математические модели электродинамических процессов в безмиелиновых нервных волокнах 24

1.3. Общая характеристика солитонных процессов 38

ГЛАВА 2. Математическое моделирование электрического импульса в нервном волокне как солитона

2.1. Теоретические предпосылки к моделированию электрического импульса в нервном волокне как солитона 45

2.2. Гипотетические модельные нервные волокна 47

2.3. Солитонная модель трансмембранного потенциала в возбужденном безмиелиновом волокне

2.4. Солитонная модель трансмембранного потенциала в возбужденном миелинизированном волокне

ГЛАВА 3. Разработка алгоритма для вычисления трансмембранного потенциала в нервном волокне

3.1. Алгоритм для вычисления трансмембранного потенциала в безмиелиновом нервном волокне

3.2. Алгоритм для вычисления трансмембранного потенциала в миелинизированном нервном волокне

3.3. Программный комплекс для вычисления трансмембранного потенциала в нервном волокне

ГЛАВА 4. Экспериментальное обоснование адекватности со-литонной модели изменения трансмембранного потенциала в возбужденном нервном волокне

4.1. Общая характеристика и методика экспериментального исследования

4.2. Результаты исследования и их обсуждение 112

Заключение 122

Список литературы

Введение к работе

Актуальность исследования. Для современной науки характерно применение точных математических методов в самых различных областях знания, в том числе и в биологии. В науку о живой природе математика входит различными путями: с одной стороны — это использование современной вычислительной техники для быстрой обработки результатов биологического эксперимента, с другой — создание математических моделей, описывающих различные живые системы и происходящие в них процессы. Не менее важна и «обратная связь», возникающая между математикой и биологией: последняя не только служит ареной для применения математических методов, но и становится все более существенным источником новых математических задач [124].

Одной из областей успешного симбиоза математики и биологии следует считать исследование биоэлектрических явлений. Современная электрофизиология не мыслима без широкого использования математического моделирования процессов, протекающих в живых электровозбудимых структурах.

За более чем пятидесятилетний период, начало которому положил фундаментальный труд А. Ходжкина и А. Хаксли [6], создано немало таких моделей. Большинство из них сегодня представляет лишь историческую ценность, другие - не потеряли своей актуальности и находят практическое применение. Однако, как следует из результатов экспериментальных исследований, проведенных в последнее время, традиционные подходы к математическому описанию электрических явлений в живых организмах оказываются явно недостаточными.

В этом смысле особый общетеоретический и практический интерес представляет применение солитонной теории. Солитоны как устойчивые самолокализующиеся сгустки энергии или вещества известны в физике плазмы, жидких и твердых кристаллов, магнитных и иных доменных структур, классических жидкостей, нелинейных решеток и в других областях науки [34,36,47, 54, 64,66,97, 110]. В последние годы многие авторы указывали на фундаментальное значение использования солитонной концепции в качестве базовой для широкого класса моделей биологических процессов [40, 50, 51, 87]. Действительно, живое вещество представляет собой гетерофазный раствор биополимеров с обилием нелинейных решеток в нем в виде полимерных сеток, цитоскелетов и подобных структур, а его жизнедеятельность тесно связана с движением фронтов фазовых перестроек. Применение солитонной теории для этих процессах представляется естественным [98].

В то же время, известно немного удачных примеров применения теории солитонов к описанию биологических явлений. В 70 - 90 годах прошлого века А.С.Давыдов исследовал нелинейные механизмы эффективного транспорта энергии на макроскопическое расстояние в живых клетках и разработал модель молекулярного механизма сокращения мышц на основе представления о солитонах [42, 43, 44]. При помощи солитонных уравнений было описано распространения пульсовой волны в кровеносном сосуде [22, 92, 101]. В 1991 году А.Н.Волобуев с соавторами разработал солитонную модель электрических процессов в биологических возбудимых средах [37, 94]. Эта модель А.Н.Волобуева является единственным примером применения теории солитонов для решения задач электрофизиологии.

Таким образом, солитонный подход к биоэлектрическим явлениям позволяет перейти на качественно новую ступень их понимания и обеспечить достаточно уверенную оценку количественных параметров нервных процессов.

Практическая значимость солитонного описания процессов^ электровозбудимых живых структурах заключается в создании аналитических обобщенных моделей с относительно простым математическим аппаратом, допускающих непосредственное прикладное их использование при решении разнообразных практических задач.

Целью настоящей работы является создание и исследование математической модели изменения трансмембранного потенциала нервного волокна при распространении по нему возбуждения.

В рамках достижения поставленной цели нами выделены следующие частные задачи исследования:

Систематизировать и проанализировать основные применяемые в современной электрофизиологии модели трансмембранного потенциала в возбужденном нервном волокне.

Теоретически обосновать возможность описания трансмембранного потенциала возбужденного нервного волокна при помощи солитонной модели.

Создать математические модели электродинамических явлений в безмие-линовом и миелинизированном нервных волокнах.

На базе предложенных моделей разработать и реализовать в комплексе программ алгоритмы для вычисления трансмембранного потенциала в возбужденном нервном волокне.

Провести экспериментальную проверку адекватности предложенных моделей.

Научная новизна диссертационного исследования состоит в следующем:

Предложен новый подход к терминологическому описанию нервного импульса и потенциала действия.

Впервые для моделирования биоэлектрических явлений в нервном волокне предложена активная резистивно-емкостная цепь (RC-цепь) и приме- нен солитонный подход на базе решения уравнения Кортевега - де Фриза, достаточно точно описывающего свойства трансмембранного потенциала, динамику его изменения в возбужденном нервном волокне, допускающего аналитические и численные исследования.

3. Разработано оригинальное программное обеспечение для вычисления трансмембранного потенциала в возбужденном нервном волокне при помощи солитонной модели, позволяющее использовать полученные математические модели в решении различных прикладных задач.

Практическая ценность диссертационного исследования состоит в том, что его результаты могут быть положены в основу изучения различных случаев распространения возбуждения в биологических системах. В частности, предложенные модели распространения возбуждения в нервных волокнах, соответствующие алгоритмы и программные продукты могут быть использованы в практической медицине, нейробиологии и нейрокибернетике.

Разработанное оригинальное программное обеспечение для вычисления трансмембранного потенциала в возбужденном нервном волокне при помощи солитонной модели позволяют использовать полученные математические модели в решении различных прикладных задач, наблюдать явления, изучение которых в натурном эксперименте невозможно или затруднительно.

Положения, выносимые на защиту:

Теоретическое обоснование возможности математического описания изменения трансмембранного потенциала при распространении возбуждения по нервному волокну при помощи солитонной модели.

Солитонная модель трансмембранного потенциала в безмиелиновом нервном волокне в форме активной резистивно-емкостной цепи.

Математическое описание трансмембранного потенциала в безмиелино-вом и миелинизированном нервных волокнах на основе решения уравнения Кортевега - де Фриза.

Алгоритмы и комплекс программ для вычисления трансмембранного потенциала в безмиелиновом и миелинизированном нервных волокнах.

Исследование трансмембранного потенциала, регистрируемого в возбужденном изолированном безмиелиновом волокне седалищного нерва Прудовой лягушки, и сопоставление его результатов с теоретическими, полученными при помощи солитонной модели.

Апробация полученных результатов:

Основные результаты диссертационной работы докладывались и обсуждались на следующих научно-практических конференциях:

Восьмая Всероссийская Научная Конференция Студентов физиков и молодых ученых, Екатеринбург, 29 марта - 4 апреля, 2002 г. X итоговая (межвузовская) научная конференция студентов и молодых ученых, Ставрополь, 22-26 апреля 2002 г.

Региональная научная конференция «Теоретические и прикладные проблемы современной физики», Ставрополь, 20-23 сентября, 2002 г.

Международный форум по проблемам науки, техники и образования, Москва, 1-5 декабря 2003 г.

Региональная научно-методическая конференция преподавателей и студентов «Университетская наука региону», Ставрополь, 4-6 апреля, 2003 г. XI итоговая (межвузовская) научная конференция студентов и молодых ученых, Ставрополь, 21-25 апреля 2003 г.

По теме диссертации опубликовано 12 печатных работ, четыре из которых - в центральных рецензируемых журналах «Обозрение прикладной и промышленной математики» и «Вестник Северо-Кавказского государственного технического университета».

В 2003 году исследование было поддержано Фондом некоммерческих программ «Династия» и Международным центром фундаментальной физики в Москве (МЦФФМ).

Результаты диссертационного исследования внедрены в учебный процесс Ставропольского государственного университета в рамках преподавания на кафедре теоретической физики учебного курса «Линейные и нелинейные уравнения физики» и в учебный процесс Ставропольской государственной медицинской академии в рамках преподавания на кафедре медицинской и биологической физики с информатикой и медицинской аппаратурой курса медицинской и биологической физики (приложение 2).

Структура и объем диссертации:

Диссертация состоит из введения, четырех глав, заключения и списка литературных источников, содержащего 122 наименования. Объем рукописи 148 страниц машинописного текста. Диссертация включает 52 рисунка, 13 таблиц и 2 приложения.

Во введении обоснована актуальность темы исследования, ее новизна и практическая значимость, сформулирована цель и задачи диссертационной работы, представлены основные положения, выносимые на защиту и сведения об апробации работы.

Первая глава посвящена обзору основных современных представлений об электродинамических явлениях, имеющих место в нервных волокнах, и включает анализ наиболее интересных их математических моделей. Приведена общая характеристика солитонных процессов.

Во второй главе обосновано применение солитонной модели для моделирования трансмембранного потенциала возбужденного нервного волок- на, предложена такая математическая модель в форме активной RC-цепи для безмиелиновых и миелинизированных волокон.

В третьей главе представлены алгоритмы и программы для ЭВМ, реализующие предложенные модели и примеры вычисления трансмембранного потенциала в безмиелиновом и миелинизированном нервных волокнах с использованием параметров гипотетического модельного нервного волокна.

Четвертая глава содержит результаты экспериментальной проверки адекватности разработанных моделей. В результате эксперимента над возбужденным изолированным безмиелиновым волокном седалищного нерва Прудовой лягушки, получена временная зависимость для трансмембранного потенциала. Проведено ее сопоставление с теоретическими данными, полученными при помощи солитонной модели.

Математические модели электродинамических процессов в безмиелиновых нервных волокнах

Нелинейное диффузионное уравнение (1.2.5) представляется достаточно простым для аналитического решения и дает некоторые полезные для изучения нервного импульса результаты. Однако оно не в состоянии воспроизвести важную качественную особенность явления - восстановление свойств среды после прохождения импульса, что совершенно необходимо для моделирования ряда сложных биоэлектрических процессов [17].

Фитц-Хью и Нагумо, Аримото, Ешизава предложили модификацию нелинейного диффузионного уравнения, которая, с одной стороны, осталась достаточно простой, а с другой - позволила описать возвращение системы после прохождения импульса в исходное состояние [14, 86].

Выбирая соответствующим образом единицы времени, пространства и напряжения, запишем диффузионное уравнение Колмогорова-Петровского-Пискунова в виде: і dx dt Дополним его новым «восстанавливающим» слагаемым R: d2V dV дх dt К т) где ар — = e(Vm+a + bR). (1.2.6) Ссылаясь на уравнение Ходжкина-Хаксли, отметим соответствие между величинами: eVm кппт Г-бЗ где к = е 10 - температурный фактор. Постоянная а может быть включена в определение R и F(V„), так что без потери общности ее можно положить равной нулю. Постоянная b часто произвольно полагается равной нулю. Поскольку параметр є пропорционален к, то можно считать, что он увеличивается с температурой.

Представив F(V„) кубической параболой и положив Ь=0, авторы, используя метод фазовой плоскости, доказали существование двух распространяющихся импульсоподобных волновых решений (1.2.6), а также показали, что только импульс с большей скоростью устойчив по отношению к возмущениям. Позже ряд авторов [75], продолжая исследования уравнений (1.2.6), нашли импульсные решения для ряда иных значений исходных параметров (1.2.6).

Еще одним направлением в модификации уравнений модели Ходжки-на-Хаксли стали попытки сократить число параметров, входящих в систему. Таким примером является модель, разработанная О.В. Цветковым, Г.М. Дегтяревым, Е.П. Смирновой [127].

В общей сложности для расчета постоянных времени изменения калиевой и натриевой проводимостей мембраны в уравнениях Ходжкина-Хаксли используется 18 констант. Это влечет за собой существенные трудности в моделировании потенциалов действия, так как приводит к необходимости получения экспериментальных оценок значений вышеуказанных констант для каждого типа клеток. В работе [127] расчет постоянных времени iNa, тк производится в зависимости от трансмембранного потенциала с использованием закономерностей изменения характерных времен и пространственных масштабов процессов, протекающих в произвольной иерархической системе при подведении к ней потоков энергии, вещества и информации. При этом в системе формируется отклик, который может быть отнесен к одному из двух классов: саморегуляция - тип отклика, при котором система компенсирует воздействие изменением скорости переработки поступающих потоков, при этом внутренняя структура системы остается неизменной; самоорганизация -тип отклика, при котором система под воздействием подведенного потока изменяет внутреннюю структуру, а затем снова переходит в режим саморегуляции.

Результатом рассуждений является модель, в которой искомые зависимости Tfja, тк рассчитываются по двум параметрам. Первый из них определяется с помощью эксперимента, второй необходимо подобрать.

Рассматривая вышеописанную модель, следует признать простоту поиска параметров по описываемой в ней схеме. Однако снижение числа параметров в данном случае ведет к упрощению моделируемого явления, отражению не всех его свойств. Кроме того, физическая интерпретация некоторых моментов модели крайне затруднительна.

Завершая краткий обзор моделей нервного импульса, следует упомянуть единственное в своем роде нелинейное дифференциальное уравнение для трансмембранного потенциала, имеющее солитонные решения. Оно получено А.Н.Волобуевым с соавторами [94]. В основу рассуждений положено представление о том, то огромное количество параллельно расположенных в мембране ионных каналов обладает довольно большой индуктивностью. Поэтому каждый ионный канал можно уподобить колебательному контуру, а в качестве электрического аналога мембраны нервного волокна принять пленочную среду, в которой свободно «плавают» эти контуры.

Солитонная модель трансмембранного потенциала в возбужденном безмиелиновом волокне

На первом этапе математического моделирования нервного импульса нами была разработана стандартизованная возбудимая среда - гипотетическое нервное волокно [71].

Нервная ткань всех животных и человека построена и функционирует по единым универсальным принципам. Однако имеются и различия, как видовые, так и в рамках одного организма. В качестве примера первых рассмотрим внутри- и внеклеточные ионные концентрации, равновесные потенциалы и потенциалы покоя, характерные для гигантского аксона кальмара и гигантской нервной клетки моллюска Aplysia (по данным [99, 105]) (таб.2.2.1).

Разнообразие типов нейронов в пределах одного организма обусловлено отличиями в характере выполняемых ими функций. В частности, строение и свойства отростков нервных клеток эволюционно связаны с объемом передаваемой ими информации. Пропускная способность нервного волокна определяется скоростью распространения в нем нервного импульса. Последняя, в 1 Внутренняя среда 2 Внешняя среда свою очередь, зависит от диаметра волокна и наличия миелиновой оболочки. Исходя из приведенных соображений, в организме человека, например, выделяют шесть типов нервных волокон [69,124] (таб.2.2.2).

Выше приведены лишь три примера морфологического и функционального многообразия нервных структур. Однако и они убедительно доказывают необходимость создание некоторой обобщенной модели нервного волокна, включающей ряд допущений.

В качестве прототипа «идеального» безмиелинового нервного волокна мы взяли гигантский аксон кальмара. Этот объект нашел применение в электрофизиологии с первых шагов ее развития и остается эталонным до настоящего времени. Несомненным преимуществом гигантского аксона кальмара в нашем случае является то, что он глубоко и всесторонне изучен.

Итак, объектом нашего исследования послужило гипотетическое нервное волокно, подобное гигантскому аксону кальмара (рис.2.2.2).

Нами приняты следующие допущения: 1. Модельное волокно расположено на достаточном удалении от других волокон, чтобы считать его одиночным. 2. Внешняя среда бесконечна и однородна. 3. Волокно бесконечно, его свойства инвариантны по отношению к продольной оси и не зависят от угла вращения вокруг нее. 4. Волокно имеет правильную цилиндрическую форму. Основные численные характеристики модельного волокна приведены в таблице 2.2.3.

Для изучения электродинамических процессов в миелинизированных нервных волокнах нами разработана модель, основанная на свойствах волокна, изолированного из седалищного нерва лягушки (рис. 2.2.3).

Для модели миелинизированного волокна нами принят ряд допущений: 1. Модельное волокно расположено на достаточном удалении от других волокон, чтобы считать его одиночным. 2. Внешняя среда бесконечна и однородна. 3. Волокно состоит из бесконечного числа сегментов, включающих миели-низированный участок и перехват Ранвье. Свойства всех сегментов одинаковы. 4. Ширина перехвата Ранвье достаточно мала, следовательно может отображаться на оси ОХ точкой. 5. Волокно имеет правильную цилиндрическую форму, его свойства не зависят от угла вращения вокруг продольной оси.

Основные численные характеристики модельного волокна приведены в таблице 2.2,4. Две описанные выше модели нервных волокон послужили объектом, как для аналитических, так и для численных исследований биоэлектрических явлений.

Моделирование процесса распространения нервного импульса по нервному волокну целесообразно начинать с создания эквивалентной цепи для участка нервного волокна. Подобный подход использовался рядом авторов, модели которых рассматривались в разделе 1.2. Однако предложенные этими авторами эквивалентные схемы имеют ряд недостатков. Так, например, LC-цепи, позволяющие описывать распространение нервного импульса, не отражают фактическую структуру нервного волокна. Применительно к рассматриваемым явлениям необходимо использовать RC-цепи. Подобная эквивалентная схема нервного волокна была создана Ходжкиным и Хаксли (рис.1.2.1). Однако она является исключительно сложной и не отражает основное свойство нервного импульса: распространение вдоль нервного волокна с неизменными параметрами.

Нами предложена математическая модель нервного волокна в виде активной RC-цепи, описывающая его основные характеристики, и, в основном, соответствующая его физическим свойствам.

Исходя из имеющихся данных по структуре нервного волокна, мы считаем, что основой распространения возбуждения (рис.2.3.1) по нему является резистивно-емкостная цепь (RC-цепь). В качестве примера нами принята RC-цепь, состоящая из трех одинаковых звеньев (рис.2.3.2). При прохождении импульса в звеньях RC-цепи происходит задержка импульса, его расширение и уменьшение амплитуды. Далее уменьшение амплитуды компенсируется активным элементом (усилителем), а расширение импульса - при дифференцировании и последующем ограничении снизу в этом же усилительном элементе.

Алгоритм для вычисления трансмембранного потенциала в миелинизированном нервном волокне

Как легко проверить, после дифференцирования и ограничения снизу происходит сокращение длины импульса в 0,7 раза.

После прохождения трехзвенного фильтра происходит уширение импульса в 1,4 раза. После прохождения дифференцирующего устройства, ограничителя и усилителя происходит уменьшение его длины в 0,7 раза и компенсация затухания в RC-фильтре. Таким образом, на участке схемы осуществляется задержка импульса на величину т = 3%, при этом длительность и величина импульса сохраняются. Весьма существенным оказывается то обстоятельство, что устойчивость схемы и ее параметры практически инвариантны по отношению к величине коэффициента усилителя, начиная с некоторой минимальной его величины.

Оценим параметры эквивалентной схемы, исходя из реальных характеристик нервного волокна.

Как следует из таблицы 2.2.3, удельная емкость с в расчете на см2 поверхности нервного волокна составляет 1 мкФ/см2, диаметр нервного волокна d равняется 0,238 мм, удельные сопротивления аксоплазмы р составляет 0,63 Ом-см.

Мы полагаем, что участок эквивалентной схемы, соответствующий одному RC-звену реализуется на отрезке нервного волокна I мм. Выбор такого значения параметра обусловлен тем, что на выделенном участке встречаются все типы ионных каналов (для значений конкретной гипотетической модели).

Для этого участка емкость С рассчитывается по следующей формуле: C = cS, где S-vdL- площадь боковой поверхности цилиндра соответствующего участка нервного волокна (рис. 2.3.7). Сопротивление аксоплазмы рассчитывается по формуле: R = PLA где S, = т? площадь поперечного сечения нервного волокна.

Подставляя в формулы для емкости и сопротивления численные характеристики нервного волокна, получаем: 11=1,4-103 Ом, C=7,5-W9 Ф. Соответственно мы имеем постоянную времени: T = RC, т=1,05 10 5 с или 10,5 мкс. Величине т соответствует скорость распространения нервного импульса равная: L v= - , г v = ]_d_ Аср L

Подставляя в формулу табличные данные, получаем значение для скорости распространения нервного импульса v=95 м/с, что по порядку величины вполне соответствует экспериментальным данным 21,2 м/с (табл. 2.2.3).

Полученная формула хорошо соотносится с известным выражением для скорости, принятым в электрофизиологии [120]. То есть наблюдается прямая зависимость скорости от диаметра нервного волокна и обратная пропорциональность удельному сопротивлению аксоплазмы.

Таким образом предложенная модель обеспечивает полное качественное и хорошее количественное соответствие экспериментальным данными и в отличии от моделей, предложенных другими авторами не содержит искусственно вносимых элементов.

В дальнейшем удобно считать форму импульса не гауссовой, а такой, как в решении уравнения Кортевега - де Фриза. Такой подход обеспечивает преемственность при сравнении с предшествующими результатами. Приведенное ниже сопоставление показывает близкое соответствие этих форм, вполне достаточное для интерпретации процессов в нервном импульсе (рис. 2.3.8).

Результаты исследования и их обсуждение

Результаты одной серии экспериментальных измерений представляют собой таблицу (пример - таб.4.2.1), содержащую: моменты времени, соответствующие им значения трансмембранного потенциала, найденные как среднее арифметическое из пяти измерений, доверительные интервалы среднего арифметического.

Кроме того, результаты эксперимента включают диаметр нервного волокна и потенциал покоя (данные, приведенные в таблице 4.2.1, соответствуют без-миелиновому волокну с d=0.025 мм; Vm(0) = 62Л5мВ).

На рисунке 4.2.1 приведен построенный по экспериментальным данным график зависимости трансмембранного потенциала от времени. Тонкие вертикальные штрихи на нем отображают доверительные интервалы для каждой точки.

Для сравнения экспериментальных данных с расчетными необходимо преодолеть два несоответствия. Во-первых, отсчет времени при проведении эксперимента организован таким образом, что нулевое его значение соответствует тому моменту, когда впервые регистрируется отклонение трансмембранного потенциала от уровня покоя, то есть началу потенциала действия. При вычислении трансмембранного потенциала по уравнению (2.3.15) за нулевой принимается момент времени, когда потенциал принимает амплитудное значение. Это продиктовано соображениями удобства проведения аналитического исследования функции и вычислительных экспериментов. Указанное несоответствие можно легко компенсировать простым сдвигом графиков вдоль оси ОХ.

Во-вторых, по уравнению (2.3.15) изменения трансмембранного потенциала рассчитываются по сравнению с его величиной в покое. Суммируя их с вычисленным потенциалом покоя, находили абсолютные значения трансмембранного потенциала.

Учитывая указанные выше требования, проведено сравнения измеренного в эксперименте и рассчитанного при помощи солитонной модели потенциала действия (таб.4.2.2). Соответствующие графики представлены на рисунке 4,2.2.

Для оценки достоверности различия между сравниваемыми величинами использовали критерий Стьюдента: v,-v2 = ТХ. (4.2.1) где fj и v2 - трансмембранный потенциал, измеренный в эксперименте (средний арифметический), и вычисленный в соответствии с предложенной математической моделью; щ - ошибка репрезентативности; т2 - ошибка вычислений. Учитывая, что т2 «ml, т2 можно пренебречь. Тогда выражение (4.2.1) принимает вид:

Достоверность оценивали путем сравнения t с соответствующими табличными значениями, выбирая вероятность безошибочного прогноза 95%.

В области фазы нарастания и фазы спада потенциала действия отмечается весьма точное соответствие расчетных данных экспериментальным (различия их статистически не достоверны). В зоне подножья потенциала действия рассчитанные величины лежат в пределах доверительных границ данных, полученных в эксперименте (различия не достоверны). В то же время, уравнение (2.3.15) не позволяет описать следовые потенциалы. В этой области различия расчетных и экспериментальных данных статистически достоверны.

В завершении четвертой главы следует отметить, что проведенное экспериментальное исследование подтвердило пригодность предложенных со-литонных моделей для математического описания трансмембранного потенциала в возбужденном нервном волокне.

Аппроксимация нервного импульса куполообразной функцией достаточно точна при условии отсутствия необходимости отражения следовых потенциалов. В случае, когда для исследователя представляет интерес область следового гиперполяризационного потенциала, следует использовать модификацию модели, ориентированную на его отображение. Однако, в силу некоторой громоздкости вычислений в этом случае, расширять показания к применению этой модели не целесообразно.

Похожие диссертации на Математическое моделирование электрического импульса в нервном волокне