Министерство образования Российской Федерации
Нижегородский государственный университет им. Н.И. Лобачевского 

"УТВЕРЖДАЮ"
Декан радиофизического факультета
профессор ___________ С.Н. Гурбатов

УЧЕБНАЯ ПРОГРАММА
спецкурса
"ИНФОРМАЦИОННАЯ ДИНАМИКА.
ПРИЛОЖЕНИЯ К НЕЙРОДИНАМИКЕ."
для специальности
071500 - Радиофизика и электроника
для направления подготовки магистров
511500 - "радиофизика"
по специальности 511501 - Нелинейные колебания и волны
Н. Новгород - 2001

Аннотация

    Проблема обработки входной информации и генерации новой в системах со сложной собственной динамикой приобрела в последние годы столь значительное внимание, что сейчас уже можно говорить о формировании самостоятельного направления - информационной динамики (см., например, G.Dеco, B.Schurmann. Information Dynamics. Springer-Verlag, Nеw York, Berlin, Heidelberg, 2000). Возникает потребность в расширении существующих представлений и пересмотре критериев, характеризующих качество таких систем, как преобразователей информации. Хотя такая потребность существует, и для искусственных систем со сложной динамикой, наиболее актуальной и естественной она представляется для ансамблей биологических нейронов. В этом случае традиционное описание преобразования информации в терминах характеристик "вход-выход" является недостаточным и требующим дополнений по следующим причинам:

• В нервных системах множество символов и кодовое пространство заранее не фиксированы, и система сама может формировать кодовое пространство - нервный код изменяется на разных стадиях передачи информации, а система сама может преобразовывать одно кодовое пространство в другое.
• В отличие от классических коммуникационных каналов нервные сети, будучи неравновесными системами, способны генерировать новую информацию, которая зависит от собственной динамики сети.
• Нервная система не является жестко фиксированной - ее динамические свойства и информационные способности изменяются в процессе обучения.

    Хотя исследования влияния отмеченных особенностей нервных систем на информационные процессы только начинаются, имеющиеся экспериментальные результаты и анализ динамических моделей, согласующихся с биологическими представлениями, позволяют сделать определенные выводы по следующим вопросам:

• Каковы механизмы влияния изменчивости поведения нейронов на информацию, которой они обмениваются друг с другом?
• Как кооперативная динамика взаимодействующих нейронов кодирует сенсорную информацию?
• Какую роль играет динамическая сложность в представлении информации ансамблями нейронов?

    Настоящий курс посвящен этим ключевым вопросам нейродинамики.
    Некоторые из рассматриваемых вопросов при более обобщенной трактовке имеют отношение к обмену информацией и между другими сложными подсистемами, такими как искусственные телекоммуникационные устройства преобразования информации с участием операторов или к информационному взаимодействию между отдельными организмами или коллективами организмов (в т.ч. и людей). Очевидно, что все они обладают перечисленными выше свойствами систем со сложным поведением с точки зрения обработки информации. Здесь при конкретном рассмотрении мы будем основываться на примерах сетей биологических нейронов, исходя из следующих соображений.

• Такие сети представляют очевидный самостоятельный интерес.
• Можно полагать, что мы исследуем именно те свойства, которые действительно существенны, так как отобраны в ходе эволюции.
• Наконец, несмотря на всю сложность нервных систем, для них (и, возможно, для ансамблей простейших организмов), удается получить и систематизировать требуемые экспериментальные данные за сравнительно короткое время, что весьма проблематично для случая телекоммуникационных сетей или коллективов высших животных.

Лекция 1. Введение

Особенности обработки информации хаотическими системами и возникающие в связи с этим проблемы. Информационная динамика: что это такое и в связи с чем возникла потребность в такой науке?

Основные определения и положения теории информации: энтропия, информация, взаимная информация, основные равенства и неравенства теории информации, пространство событий, сообщение, кодирование - декодирование.

Лекция 2. Введение (продолжение)

Основные определения и положения теории хаоса: странные аттракторы, хаотическая динамика, инвариантная мера, размерности, Ляпуновские показатели, энтропия Колмогорова-Синая, восстановление фазовых портретов, основные модели, синхронизация, хаотическая синхронизация, обобщенная синхронизация, стохастических резонанс.

Лекция 3. Информационные процессы в системах, генерирующих спайки.

Integrate-and-Fire - модель нейрона. Частотное (rаte) и временное (temporal) кодирование. Обработка информации и кодирование в отдельных нейронах (простейшие представления). Нейронные сети. Особенности обработки информации реальными нейронами - хаотическими, генерирующими собственную информацию. Нервные системы как один из основных объектов исследования и источников идей информационной динамики.

Лекция 4. Нервные системы

Общее устройство нервных систем: рецепторы, эффекторы, нейроны, аксоны, дендриты, синапсы, спайки, берсты, пассивное и активное распространение возбуждений, рефрактерность, миелированные и немиелированные аксоны, ингибиторные и эксайторные синапсы, поляризация и гиперполяризация мембраны нейрона, деполяризация, нейромодуляторы, пирамидальные и звездообразные нейроны.

• Малые нервные системы. Центральные генераторы ритма (паттернов).
• Центральная нервная система и кора головного мозга: макроскопическая структура, типы нейронов, организация коры, типы связей, проекционные нейроны.
• Два принципиально отличных типа обработки информации: компьютинг и память на однонейронном уровне и компьютинг и память как результат коллективного поведения нейронной сети (биологические предпосылки). Как следствие - два типа моделей: "молекулярные" модели и "феноменологические" модели.
• Воспроизводимость и изменчивость цугов нейронных спайков (обзор экспериментов).

Лекция 5. "Молекулярные" модели

Ионный состав клеток, мембранный потенциал, равновесие Доннана, перенос ионов, потенциал действия (спайки).

Нелинейность: кинетическое описание ионных каналов, стохастический анализ бинарных каналов, токи ионов калия и натрия, роль ионов кальция.

Уравнения Ходжкина-Хаксли. История написания и основные свойства.

Лекция 7. Динамическое происхождение ритмического и хаотического поведения нейронов.

Эксперименты и переход от модели ФХН - ВДП к 3-х мерной модели Хиндмарш-Розе. Обобщенная (4-х мерная) модель Хиндмарш-Розе. Канонические динамические модели возбудимости, генерации спайков и берстов в отдельных нейронах.

Лекция 8. Синапс

Дистантное взаимодействие между нейронами - предельный случай взаимодействия между двумя клетками, соответствующий ситуации, когда эти клетки находятся в двух разных организмах.

Химические синапсы. Типы синапсов и терминалей. Типы синаптических контактов.

Кинетическая интерпретация открывания и закрывания ионных каналов. Основные типы каналов: управляемые напряжением, управляемые ионами кальция, управляемые вторичными носителями. Пресинаптический механизм выделения трансмиттера. Марковские модели постсинаптических токов: AMPA-рецепторы, NMDA-рецепторы, GABAL -рецепторы, GABA_B-рецепторы. Модели синапсов I.

Лекция 9. Нейрон + синапсы как миникомпьютер.

Синаптические взаимодействие в пассивных дендритных деревьях. Нелинейное взаимодействие возбуждения и ингибиции. Взаимодействие эксайторных синапсов.

Функциональная интепретация синаптической архитектуры и морфологии дендритов: AND-NOT-gates. Синаптическая логика.

Лекция 10. Синаптическая пластичность.

Модели синапсов II.

Лекция 11. Шумы в нейронных каналах.

Тепловые шумы

Шумы, связанные с конечным временем открывания-закрывания проводящих каналов мембраны нейрона.

Синаптические шумы.

Роль шумов в передаче информации. Стохастический резонанс.

Лекция 12. Хаотические коммуникационные каналы.

Преобразование информации в малых нервных системах. Системы синхронизации как идеальные преобразователи. Обобщенная синхронизация. Другие типы синхронизации. Потери информации при частичной синхронизации, синхронизация по части переменных (типа фазовой синхронизации) и т.п. Классификация и сравнение различных типов синхронизации с точки зрения теории информации.

Лекция 13.

Хаотическая синхронизация в малых нервных системах

Взаимная регуляризация поведения взаимодействующих систем как подавление генерации информации: изначально система генерирует избыточную информацию, а в процессе обучения отбирает "то, что нужно".

Лекция 14. Потеря информации при спайкинговом кодировании из-за ненадежности синапсов.

Синаптическая ненадежность кодирования спайками - Переход от спайкингового кодирования к берстовому, динамическая ненадежность. Восстановление информации. Оценка различных схем переходов от спайкингового кодирования к берстовому и наоборот с точки зрения влияния шумов на преобразование информации.

Лекция 15. Большие системы.

Пространственно-временное представление информации. Основные свойства обонятельных систем насекомых (экспериментальные данные). Синхронизация и конкуренция при формировании информативных пространственно-временных паттернов.

Лекция 16. Обсуждение дискуссионных вопросов.

Качество и количество информации.

ЛИТЕРАТУРА

1. Шилейко А.В., Кочнев В.Ф., Химушин Ф.Ф. Введение в информационную теорию систем. М.: Радио и связь, 1985, 280 с.
2. Колесник В.Д., Полтырев Г.Ш. Курс теории информации. М.: Наука, 1982, 416 с.
3. Рабинович М.И., Трубецков Д.И. Введение в теорию колебаний и волн. М.: Наука, 1984, 432 с.
4. Анищенко В.С., Вадивасова Т.Е., Астахов В.В. Нелинейная динамика хаотических и стохастических систем. Саратов: Издательство Саратовского университета. 1999, 368с.
5. Неймарк Ю.И., Ланда П.С. Стохастические и хаотические колебания. М.: Наука, 1987, 424 с.
6. Малинецкий Г. Г., Потапов А. Б. Современные проблемы нелинейной динамики. М.: Эдиториал УРСС, 2000, 336 с.
7. Рабинович М. И., Езерский А. Б. Динамическая теория формообразования. М.: Янус-К, 1998, 192 с.
8. Рубин А.Б. Лекции по биофизике. М.: Издательство МГУ, 1994, 160 с.
9. Дмитриев А.С., Старков С.О. Передача сообщений с использованием хаоса и классическая теория информации // Зарубежная радиоэлектроника. Успехи современной радиоэлектроники. 1998, ? 11, С.4-32.
10. Абарбанель Г.Д.И., Рабинович М.И., Селверстон А., Баженов М.В., Хуэрта Р., Сущик М.М., Рубчинский Л.Л. Синхронизация в нейронных ансамблях // УФН. Т.166, ? 4, 1996. С.363-390.
11. Скотт А. Электрофизика нервного волокна. В кн.: Скотт А. "Волны в активных и нелинейных средах в приложении к электронике". М.: Советское радио. 1977. С.285-349.

Составитель программы:
ст. пр. кафедры теории колебаний и автоматического регулирования к.ф.-м.н. М.М. Сущик