My presentation on TEDxPokrovkaSt / Moscow / 15.05.2014
Why do we need lifelong learning and why is it already useful. The silent revolution in education.
A more deeper talk on the Transformer architecture from the webinar at NTR
https://www.ntr.ai/webinar/transformery
Google slides version: https://docs.google.com/presentation/d/1dIadh_nIszxXG8-672vJmvFGT6jBp0mOqzNV4g3e2Lc/edit?usp=sharing
A talk on Transformers at GDG DevParty
27.06.2020
Link to Google Slides version: https://docs.google.com/presentation/d/1N7ayCRqgsFO7TqSjN4OWW-dMOQPT5DZcHXsZvw8-6FU/edit?usp=sharing
Discussing two papers on applying Deep Learning for Biology:
BERTology Meets Biology: Interpreting Attention in Protein Language Models
https://arxiv.org/abs/2006.15222
Evaluating Protein Transfer Learning with TAPE
https://arxiv.org/abs/1906.08230
A more deeper talk on the Transformer architecture from the webinar at NTR
https://www.ntr.ai/webinar/transformery
Google slides version: https://docs.google.com/presentation/d/1dIadh_nIszxXG8-672vJmvFGT6jBp0mOqzNV4g3e2Lc/edit?usp=sharing
A talk on Transformers at GDG DevParty
27.06.2020
Link to Google Slides version: https://docs.google.com/presentation/d/1N7ayCRqgsFO7TqSjN4OWW-dMOQPT5DZcHXsZvw8-6FU/edit?usp=sharing
Discussing two papers on applying Deep Learning for Biology:
BERTology Meets Biology: Interpreting Attention in Protein Language Models
https://arxiv.org/abs/2006.15222
Evaluating Protein Transfer Learning with TAPE
https://arxiv.org/abs/1906.08230
Modern neural net architectures - Year 2019 versionGrigory Sapunov
Slides from the talk on UseData 2019 conference. Describes what happened in the NN architecture space in the last two years. Focus on production-ready things. Other interesting but more research-related topics (like Graph networks) are not covered here.
The most significant (not purely scientific) results in AI in the last year (2018-2019).
Disclaimer: may be very subjective :)
Slides to the set of lectures given in Feb-Apr 2019.
This one was conducted in Atlas Biomed Group, 2019-04-26
Практический подход к выбору доменно-адаптивного NMTGrigory Sapunov
Выбор правильного машинного перевода (Machine Translation, MT) под конкретный проект крайне сложен: качество движков сильно разнится между различными доменами и языковыми парами и постоянно меняется с обновлением моделей. С доменно-адаптивным MT ситуация ещё более усложняется — добавляются требования к обучающему корпусу и становится менее прозрачной стоимость владения.
В докладе мы рассмотрим гибридный подход к оценке качества сервисов облачного доменно-адаптивного нейросетевого машинного перевода (NMT), при котором автоматическая оценка сравнивается с оценкой, данной экспертами, использующими единую метрику. Мы также обсудим детали обоих подходов, поделимся результатами оценки и мыслями относительно сравнения обоих методов.
Мы ответим на вопросы, насколько хорош доменно-адаптивный NMT, какова стоимость владения таким решением, как долго он обучается, сколько данных требуется, насколько это безопасно и как его использовать.
Введение в архитектуры нейронных сетей / HighLoad++ 2016Grigory Sapunov
Slides from HighLoad++ 2016 conference.
Introduction into neural network architectures (Rus)
Презентация для конференции HighLoad++ 2016.
http://www.highload.ru/2016/abstracts/2454.html
Видеозапись доклада:
https://www.youtube.com/watch?v=XY5AczPW7V4
Обзор полезных онлайн-курсов для биологов, биоинформатиков и других людей в биотехе.
Акцент сделан на идущих сейчас курсах или стартующих в ближайшее время.
Презентация для зимней научной школы "Современная биология & биотехнологии будущего 2014" (Future Biotech), 27.01.2014
Modern neural net architectures - Year 2019 versionGrigory Sapunov
Slides from the talk on UseData 2019 conference. Describes what happened in the NN architecture space in the last two years. Focus on production-ready things. Other interesting but more research-related topics (like Graph networks) are not covered here.
The most significant (not purely scientific) results in AI in the last year (2018-2019).
Disclaimer: may be very subjective :)
Slides to the set of lectures given in Feb-Apr 2019.
This one was conducted in Atlas Biomed Group, 2019-04-26
Практический подход к выбору доменно-адаптивного NMTGrigory Sapunov
Выбор правильного машинного перевода (Machine Translation, MT) под конкретный проект крайне сложен: качество движков сильно разнится между различными доменами и языковыми парами и постоянно меняется с обновлением моделей. С доменно-адаптивным MT ситуация ещё более усложняется — добавляются требования к обучающему корпусу и становится менее прозрачной стоимость владения.
В докладе мы рассмотрим гибридный подход к оценке качества сервисов облачного доменно-адаптивного нейросетевого машинного перевода (NMT), при котором автоматическая оценка сравнивается с оценкой, данной экспертами, использующими единую метрику. Мы также обсудим детали обоих подходов, поделимся результатами оценки и мыслями относительно сравнения обоих методов.
Мы ответим на вопросы, насколько хорош доменно-адаптивный NMT, какова стоимость владения таким решением, как долго он обучается, сколько данных требуется, насколько это безопасно и как его использовать.
Введение в архитектуры нейронных сетей / HighLoad++ 2016Grigory Sapunov
Slides from HighLoad++ 2016 conference.
Introduction into neural network architectures (Rus)
Презентация для конференции HighLoad++ 2016.
http://www.highload.ru/2016/abstracts/2454.html
Видеозапись доклада:
https://www.youtube.com/watch?v=XY5AczPW7V4
Обзор полезных онлайн-курсов для биологов, биоинформатиков и других людей в биотехе.
Акцент сделан на идущих сейчас курсах или стартующих в ближайшее время.
Презентация для зимней научной школы "Современная биология & биотехнологии будущего 2014" (Future Biotech), 27.01.2014
2. “The future is already here — it's just not very evenly
distributed.”
-- William Gibson
3.
4.
5. "We noticed the vast majority of ours students were
people who already had degrees and wanted to
continue their education,"
-- Coursera co-founder, Daphne Koller
“По данным анкетирования, проводимого после
записи, слушатели – в основном молодые (22–32
года) москвичи с высшим образованием,
работающие полный рабочий день.“
-- Высшая Школа Экономики
6.
7.
8.
9.
10.
11.
12. The American Academy of Political and Social
Science:
"estimated the half-life of an engineer's skills in
1986 at
- 2.5 years in software engineering,
- 5.0 years in electrical engineering,
- 7.5 years in mechanical engineering..."
17. “… гуманистическая тенденция в психологии —
революция в самом подлинном, изначальном смысле
этого слова, в том смысле, в котором совершили
революцию Галилей, Дарвин, Эйнштейн и Маркс, то
есть переворот в образе мышления и восприятия, в
представлениях о человеке и обществе, в концепциях
этики и ценностей, в ориентирах для движения вперед.”