Neuron Synchronization and Representation of Space and Time in Neural Networks


Published on

AACIMP 2010 Summer School lecture by Witali Dunin-Barkowski. "Physics, Chemistry and Living Systems" stream. "Problems of Synchronization and Representation of Time and Space in Neural Networks" course.
More info at

Published in: Education
  • Be the first to comment

No Downloads
Total views
On SlideShare
From Embeds
Number of Embeds
Embeds 0
No embeds

No notes for slide

Neuron Synchronization and Representation of Space and Time in Neural Networks

  1. 1. NEURON SYNCHRONIZATION AND REPRESENTATION OF SPACE AND TIME IN NEURAL NETWORKS Witali L. Dunin-Barkowski, Scientific Research Instutute for System Analysis, Russian Academy of Sciences, Moscow, Russia Achievements and Applications of Contemporary Physics and Informatics, Kiev, August 5-7, 2010 1
  2. 2. The present course (sorry, the longest in this track) includes several parts. The basis for the course constutes my ancient book “Informational Processes in Neuronal Structures” Published in Russian in 1978 This is probably inevitable in cases, when you ask an old person to give a picture of the science, in which she (or he) is active for 50 years that you will see the long-years ago published (but not yet absolete) results. So, this will be the case in this course. Of course, I will, as well, give you the fresh results, which in many cases interfere with the old ones. Alas, my name is not on the list of the most well-known achievements of our science. However, it was permanently present in pubications since 1965 and, personally, I am aquainted to many leaders of the field. 2
  3. 3. Princeton, New Jersey, USA, April 12, 2010. The 49-th Annivesary of the Gagarin’s Flight 3
  4. 4. Среди физиков-теоретиков наибольшей известностью пользуется открытие Хопфилдом так называемых нейромагнетиков (1982). Способность нейронной сети восстанавливать массивы памяти по их фрагментам впервые была в 1971 году продемонстрирована в работе Дэвида Марра (1945-1980) Современная теория гиппокампа, как и теория мозжечка, в существенной степени основана на нейронных схемах Марра. Такой вот был гений, проживший 35 лет 4
  5. 5. Neural net models of plausible size that perform many simple learning tasks Sir Giles Skey Brindley, F.R.S. (b. 1926) Proceedings of Royal Society, 1969, vol. B174, pp. 193-227 5
  6. 6. 6
  7. 7. Данный доклад - попытка высказать и аргументировать две мысли : (1) Мозг – это «очень просто». Каждый физик может, при желании, внести вклад в понимание (воспроизведение) механизмов мозга; (2) Механизмы мозга – одна из самых актуальных и важных задач физики на современном этапе. Я – профессионал в области теоретической и экспериментальной биофизики нервной системы, с некоторым, хотя и скромным, багажом собственных результатов, полученных за почти 50 лет работы в данной области. Под биофизикой нервной системы я понимаю всё – от молекулярных механизмов работы клеток мозга до нейронных схем и алгоритмов реализации высших функций мозга. Разумеется, мои личные знания на всех этажах этой биофизики достаточно отрывочны и не во всех направлениях охватывают последние достижения. Тем не менее, знания предмета у меня достаточно разнообразные. Похоже, что общее состояние изученности мозга в настоящее время я представляю на одном из максимально возможных уровней. 7
  8. 8. I wrote Hopfield, asking for a meeting some time during my vacations in USA in March-April this year. He wrote me that I can visit him in Princeton on Monday, Aptril 12, 2010. He is out of town most of the time, so that could be a rare chance to see the Grand Master of Theoretical Neuroscience. What were we talking about? I will try to recollect. First, he has expressed his surprise that most of the researchers in the field are more interesting in complexities and originality of their works than in making real contribution in uderstanding neural functions. Of course, it is generally considered that scientific results do not exist without rigorousness. And it is tricky, because it is easy to fall into opposite extremity – to claim results, when there are no present. What can make a reasonable compromise? I would argue that the best judgment on value of a work can be made by a committee of RESPONSIBLE experts. Unfortunately, the formal criteria are easier to implement, and they are used extensively. With brain, we should also take into account, what David Marr told once; 8
  9. 9. He noted that studies of brain informational mechanics doesn’t deserve anything more than heuristics. Indeed the brain machine has been “constructed” by ad hoc opportunisms. Second, we have discussed with Hopfield the close perspectives of brain studies. - I hope we will make it in three years, - told I. - You think that I can see it? - sure! - Of course, we both are old: he was born in 1933, me – in 1944. And I am a crazy optimist: in my book, published in 1978, I wrote that full understanding of the brain is close. I have serious grounds for doubts in my words. But see: Hopfield was ready to accept my prediction, and this fact weighs much more, than just my words. Next, I told Hopfield that his main result of 1982, which is often dubbed as “Discovery of Neuromagnetics” has been obtained in Soviet Union in early 1960-ies. Now I will explain you, what it is about. 9
  10. 10. Прежде всего я хочу сказать, что это была замечательно качественная сессия. И я сам многое почерпнул, прослушав эти доклады. Я только хотел бы, чтобы то, о чем говорил профессор В.Л. Дунин-Барковский, было бы представлено более подробно. 10
  11. 11. COURSE CONTENT 1. Neural excitation ( processes in a point). 2. Propagation of excitation along the nerve fibers. 3. Propagation of excitation in neural networks. Representation of space and time. 4. Coding of Information with neural impulses. Role of synchronization. 5. A complex example. SOURCES After the course, or in breaks, I will provide you with all the texts, which I use. Sorry, many of them are in Russian only. But I hope that those of you, who do not know Russian yet, will ask your friends, whom you will definitely obtain in the course of the lectures, to help with translation. 11
  13. 13. Neuromagnetics Formulas for Neuromagnetism 1 13
  14. 14. 14
  15. 15. Два слова о теории Марра. Она нисколько не устарела, и используется иногда для проверки на соответствие с новейшими экспериментальными данными. Но деталировка теории ждёт новых поколений теоретиков. А суть идеи состоит в том, что гиппокамп используется как буферная память для записи плохо воспринимаемой в текущий момент информации для того, чтобы подготовиться к восприятию этой информации в дальнейшей жизни. Скажем, вы перелетели за ночь из тропического леса в тундру. Да и к тому же вообще, попали вы туда первый раз в жизни. Внутренний язык вашей нервной системы может быть совершенно не приспособлен для работы в новой среде. С помощью гиппокампа может вестись необходимая перенастройка (в частности, во сне). До полной теории гиппокампа пока далеко. Я расскажу о некоторых операциях в гиппокампе, механизмы и функции которых постепенно становятся понятными. 15
  16. 16. Клетки места 16
  17. 17. Прецессия моментов возбуждения клеток места по фазам тета-ритма 17
  18. 18. Модели прецессии и их экспериментальная проверка Intracellular dynamics of hippocampal place cells during virtual navigation C.D. Harvey, F. Collman, D.A. Dombeck, D.W. Tank Prinston Neuroscience Institute, USA Nature, Vol 461 (15 Октября 2009), сс. 941-949 Профессиональная работа! 18
  19. 19. From Dodt et al., 2007 19
  20. 20. 20
  21. 21. 1 µm 21
  22. 22. 22
  23. 23. Jérôme Epsztein, Albert K. Lee, Edith Chorev, Michael Brecht Impact of Spikelets on Hippocampal CA1 Pyramidal Cell Activity During Spatial Exploration SCIENCE 22 JANUARY 2010 VOL 327 23
  24. 24. Итак, в гиппокампе – море ритмов. И функции у них просматриваются. И механизмы, с помощью которых функции эти делаются – тоже на подходе. Во всяком случае, работа из лаборатории Тэнка – это очень серьёзное продвижение. Хочется отметить, что первые работы Тэнка были вместе с Хопфилдом. Посвящены они были тому, что я бы назвал «Технической нейроинформатикой» Но, как и Хопфилд, Тэнк быстро отошёл от «поисков под фонарём». От спекуляций на тему нейроподобных систем он перешёл к анализу реальных проблем организации настоящего мозга. Успехи, как мы видим, не заставляют себя ждать… О ритмах, в особенности ритмах мозга, говорили всегда. Есть в самом понятии ритмов нечто завораживающее: поэзия, музыка и т.д. Надо сказать, что именно из-за этого завораживания мне почему- то тематика ритмов не нравилась вообще. А нравилась - похожая по названию, но, казалось мне, свершенно другая область – нейронные генераторы ритма. 24
  25. 25. Примеры: генераторы дыхательной ритмики, генераторы шагательных движений, жевания и т.д. Этим приятно и понятно было заниматься, потому что как бы ясна функция. Скажем – дыхание. Из-за организации лёгких неизбежна периодическая работа насоса. Или – ходьба. Ритмические движения (НЕ непрерывные однонаправленные, как у колеса, а возвратно-поступательные, из- за устройства конечностей). И вот тут появляется другая функция. Что такое шаг? Это стандартная операция. Много шагов помогают реализовать функцию – попасть из одного места в другое. Но – здесь возникает полное тождество с тем, как выполняются любые работы в компьютерах. А именно, путём большого количества повторений сравнительно небольшого числа операций! Так вот какую операцию могут выполнять ритмы! Это могут быть элементы выполняемых программ. Странным образом, до меня эта мысль дошла только что. Фактически в процессе подготовки к данной лекции. И ритмы мне теперь очень интересны. Не в художественном смысле, а в прагматическом. Впрочем, не исключено, что это – одно и то же (в «программотическом»). 25
  26. 26. Мы занимались моделированием дыхательного центра продолговатого мозга в большой межуниверситетской коллаборации: Флорида, Пенсильвания, Огайо, Нью-Йорк, Техас… В числе прочего, возникла такая задача. В эксперименте, при искусственном дыхании, естественное иногда останавливается. А потом – начинается снова. Вопрос: с какой фазы, да и как вообще начинается дыхание. Во Флориде регистрировали активность до 100 нейронов одновременно. Как понять, когда начинается дыхание? Ответ оказался не слишком сложным, но интересным. Далее мы опишем предлагаемую процедуру и показажем её возможности на примере анализа ритмики в большой популяции нейронов. 26
  27. 27. Л-карта (L-plot) активности 17 дыхательных нейронов продолговатого мозга кошки (W.L. Dunin-Barkowski, 2006; W.L Dunin-Barkowski et al., 2006) 27
  28. 28. 28
  29. 29. Сочетание Л-карты со значениями отдельных переменных системы 29
  30. 30. Интерпретация Л-карт 30
  31. 31. .Изменение масштабов и Л-карта для гетерогенной информации 31
  32. 32. Возобновление дыхания 32
  33. 33. Л-карты моделей дыхательной ритмики 33
  34. 34. 34
  35. 35. Дешифровка сообщений с помощью Л-карты 35
  36. 36. Цель исследований – читать послания, закодированные природой 1960 – 1965 годы: расшифрованы все 64 кодона триплетов нуклеотидов 1950 – 20?? годы: (1) получены уравнения нервного импульса; (2) обнаружены «распознающие» свойства двухслойных пороговых схем («персептрон»); (3) исследованы и классифицированы механизмы синаптической передачи; (4) выделены электрические, ионотропные и метаботропные синапсы; (5) обнаружены и классифицированы нейромодуляторы; (6) изучена и понята полная схема управления конкретными движениями у простого животного; (7) исследованы системы ассоциативной памяти в рекуррентной сети пороговых элементов; (8) получены примеры фукционального использования фазового перехода по синхронизации в нейронной сети; (9) обнаружены два качественно разных состояния сна; (10) обнаружены клетки места в гиппокампе; (11) выявлена роль тета- ритма гиппокампа в выполнении его функций: окна пластичности и прецессия импульсации клеток места по фазам тета-ритма… 36
  37. 37. Да! Мы хотим понять, как работает мозг. Движение идёт с двух сторон тоннеля: (А) специалисты по компьютерам стараются наделить их всё большими и большими способностями и (Б) специалисты по нейронаукам стараются понять секреты нервной деятельности. Конечно, и те и другие – взаимосвязаны, но не слишком сильно. Я представляю здесь только одну сторону – теоретическую нейронауку, COMPUTATIONAL NEUROSCIENCE. Судя по всем признакам, в скором времени возникнут прорывные достижения в нашей области. Это – хорошо. Если задуматься, то нетрудно понять, что «разрешение тайны мозга» – это один из важнейших приоритетов человеческой культуры с самого начала истории человечества. И сейчас эта цель близка, как никогда. Прогноз – занятие неблагодарное, но очень похоже, что всё может случиться в течение десятилетия – до 2020-го года. Это – за здравие. За упокой – то, что в России специалистов по теоретической нейронауке – раз, два и обчёлся. 37
  38. 38. Я призываю каждого физика, сидящего в этом зале, задуматься, не хочет ли она (или он) принять участие в «последнем решающем штурме» проблем мозга. Если есть желание – возможность всегда можно найти. Приходите к нам, на наши семинары. Организовывайте свои собственные семинары, группы, лаборатории, отделы по теории мозга. Конечно, некоторое время придётся сначала учиться. Computational Neuroscience уже довольно развитая область. Но учиться можно на ходу, пытаясь понять самые последние работы, самые последние достижения в данной сфере. Обращаюсь к физикам-теоретикам: Да! Вы решаете сложнейшие проблемы мироздания, используя самые сложные инструменты познания – математический аппарат, доступный лишь немногим избранным. Но, простите! А не может ли сложность и красота этого аппарата сыграть плохую службу? Не идут ли иногда физики «на поводу» у математиков и математического аппарата? И вообще – проблемы мироздания столь сложны, что сколько-нибудь полное их решение возможно лишь в отдалённом будущем. 38
  39. 39. Между тем есть гораздо более простая и «заземлённая» проблема: - Как работает мозг? Но это – мозг, а не печень! Печень тоже важна, но мозг! Вполне возможно, что это и есть проблема мироздания… Очень может быть, что эта «заземлённая» проблема и есть самая важная, решив которую мы сможем, если не решить сразу все остальные, то подойти к их решению на качественно новом уровне? Не стоит ли, отложив на время другие задачи, заняться интенсивным исследованием мозга? - Каким математическим аппаратом работать в теории мозга? - Да любым необходимым. Физика должны интересовать проблемы реального мира, а методы их решения подбираются в зависимости от их наличия «на рынке», предлагаемом математиками, и от интуиции физика. Судя по всему, «тайны мозга» будут разгаданы не путём создания новой уникальной для этой проблемы математики, а путём анализа сотни (ну, может и тысячи) конкретных механизмов преобразования информации и вычислений в нервной системе. А для анализа этих конкретных механизмов может быть достаточно самых простых аналитических и вычислительных средств. 39
  40. 40. Мы рассказали о некоторых информационных процессах в одной из (примерно) 10 важнейших структур головного мозга – гиппокампе. Рассказали об их феноменологии, методах исследования, возможных механизмах и, может быть, функциях Подключайтесь к теоретическим и вычислительным исследованиям механизмов мозга! 40
  41. 41. Физика и мозг. I Эти вопросы я иногда обсуждал с физиками, но ничего по этому поводу пока не напечатал. Так что, вашему вниманию представляется первое публичное изложение неких представлений о взаимосвязи физики и физиологии Совсем кратко, речь идёт о том, что в физике во многих местах (некоторые из них я назову) фигурирует НАБЛЮДАТЕЛЬ - объект никак и нигде не определяемый. Самое общее, так сказать абстрактное предложение состоит в том, что необходимо создать теорию «первого приближения», в которой в явном виде и достаточно чётко охарактеризованы свойства НАБЛЮДАТЕЛЯ. Естественно, что источником сведений о таких свойствах должна быть физиология мозга человека. 41
  42. 42. Физика и мозг. II Конкретных моментов, где на физику влияют свойства НАБЛЮДАТЕЛЯ, довольно много. Я начну с одного, не самого очевидного. Речь идёт об энтропии. Тексты на эту тему часто сопровождаются рассуждениями о случайности «формального совпадения определений энтропии и информации» На самом деле, энтропия – это число состояний, в (одном из) которых может состоять система при заданных условиях. Энтропия – это мера знаний НАБЛЮДАТЕЛЯ. Что уже сейчас может дать нам нейрофизиология для данной задачи – это общий объём знаний, которым обладает НАБЛЮДАТЕЛЬ. Оценку можно получить как для отдельного человека, так и для всего человечества. Из «соображений размерности» очевидно, что оценка способностей НАБЛЮДАТЕЛЯ должна влиять на теорию. 42
  43. 43. Физика и мозг. III Как учитывать знания о мозге? Какие формы должна принимать теория? Это – вопрос не моего уровня компетенции. Скорее всего, здесь должна появиться совершенно новая физика. Создать её, наверное, могут только физики-теоретики. А если не они, то грядущий искусственный разум, новый мозг человека В вопросе об энтропии почти понятно, в каком направлении думать. Остальные вопросы, связанные со свойствами НАБЛЮДАТЕЛЯ, я просто перечислю. Разумеется, это и квантовая механика, с постоянным присутствием НАБЛЮДАТЕЛЯ, и (обе) теории относительности, с ним же. Не исключено, что проблемы принципа антропности – из той же категории. А заодно и другие свойства физики высоких энергий могут зависеть от НАБЛЮДАТЕЛЯ. Поэтому я к вам и пришёл :)) 43