А.Левенчук -- privacy и нейронет

7,134 views

Published on

Доклад А.Левенчука "Персональные и коллективные виртуальные ассистенты и privacy" на Future Foundation Technology Ethics Conference, 1 октября 2016г.

Published in: Technology
0 Comments
1 Like
Statistics
Notes
  • Be the first to comment

No Downloads
Views
Total views
7,134
On SlideShare
0
From Embeds
0
Number of Embeds
6,780
Actions
Shares
0
Downloads
18
Comments
0
Likes
1
Embeds 0
No embeds

No notes for slide

А.Левенчук -- privacy и нейронет

  1. 1. Персональные и коллективные виртуальные ассистенты и privacy Москва 1 октября 2016г.
  2. 2. Мой опыт с privacy и технологиями • СОРМ (1998, http://libertarium.ru/sorm) как действуют чиновники/силовики, чтобы получить доступ к частной информации (ответ: неформально – у провайдеров начинаются неприятности по линиям всех других законов, и провайдеры тем самым принуждаются на выполнение неформальных и избыточных требований по нарушению privacy) • Коммунивер (1998) – оказался очень медленным на больших объёмах именно из-за чрезмерных мер по обеспечению privacy, разграничению доступа к каждому объекту. • Электронная Россия (2003-2005, ) • Тренд: обмен персональной информацией между госсистемами: • Плюс: система одного окна для гражданина • Минус: система одного окна для чиновника (любой чиновник получает полномочия полиции и даже ФСБ, и система крайне подвержена коррупции – существенный процент граждан России знает буквально всё о других гражданах) • Наше решение: манифест (http://elrussia.ru/manifest) – «Электронное правительство» защищает граждан от злоупотреблений в части и без того идущих программ информатизации органов власти всех уровней. Т.е. не помогает дооснастить чиновников техникой (они оснащены ей на уровне много бОльшем, чем работники частного сектора), а следит за злоупотреблениями и не допускает изменения баланса сил между гражданским обществом и чиновничьей корпорацией. • Ответ государства: роспуск департамента, который этим занимался. 2
  3. 3. Изначальный нейронет • Это не «НТИ Рособороннейро», старт был за пару лет до этого -- http://globalneuroweb.org/ru/manifesto • Очные встречи рабочей группы, комьюнити в фейсбуке -- https://www.facebook.com/groups/nevronet/ • Вдохновение: Mother of All Demos (MOAD), к 2018 году (50 лет спустя оригинальной презентации) -- https://en.wikipedia.org/wiki/The_Mother_of_All_D emos 3 Две главные идеи в отличие от «просто интернета»: • Нейростудия – возможность использовать дополнительные интерфейсы для групповой работы (как Энгельбарт задействовал мышку и растровый дисплей, так и тут можно попробовать использовать разные биоинтерфейсы, условно названные «нейро» -- всевозможные варианты BCI прежде всего). • Искусственный интеллект (появление ассистента-агента в качестве экзокортекса как у участника групповой работы, так и у фасилитатора. Эти PVA и CVA способны быть лучше, чем ручка-бумажка-редактор/флипчарт- фломастеры).
  4. 4. (Групповая) когнитивная нагрузка • Идея объективных замеров когнитивной нагрузки (нейростудия) -- http://ailev.livejournal.com/1280626.html • Управление групповой когнитивной нагрузкой (нейронет) - - http://openmeta.livejournal.com/236784.html • Теория потока Чиксентмихайи + нейрокогнитология • Психопрактики внимания (психонетика как пример) • Меры повышения «играбельности» – удержания в потоке внешними стимулами, опыт разработчиков игр. 4
  5. 5. И что получилось?! 5 https://youtu.be/V-iYcWtsZz4 http://rusneuro.net/
  6. 6. Чьи это виртуальные ассистенты? • Текст «Мойдодыр и политическая философия интернет-вещизма» -- http://ailev.livejournal.com/1106188.html • Пример с рубашкой из IoT • Вопрос о privacy – это вопрос политической философии, уйти от этого нельзя. • Дополнительно про субъектность роботов (наши ассистенты ведь тоже роботы): «Информационные лица с ограниченной ответственностью» -- http://ailev.livejournal.com/1299601.html 6
  7. 7. Принципиальная схема (кибер) психики как операционной платформы 7 Воля Экзотело Бессознате льное Сознание ЭкзокортексТело Физический мир Психика Вхождение в киберпсихические/киберпсихофизические системы систем Психический мир групп и сообществ (интерсубъектность)
  8. 8. Будут все варианты владения и границ! 8 Интернет/нейронет PCA Боба PCA Алисы PCA Чарли Права фасилитатора? Дополнительные стейхолдеры: • Компании участников группы • Компании сервиса PCA • Компания сервиса VCA • Спецслужбы государств PCA/VCA • Кракеры всех мастей • Поставщики облака • Поставщики персональных устройств (нейросмартфон?)
  9. 9. Есть ли сегодня аналоги PVA и CVA? Много! Что там происходит – это цветочки к ягодкам нейронета. • Личные GTD-органайзеры и корпоративные issue trackers – а ведь должен быть общий поток дел (http://cartmendum.livejournal.com/). • Совместные календари • Соцсети с закрытыми и публичными группами • Больничные сети – защита медицинских данных • … Проблемы: • Дикое количество настроек privacy • Падение производительности сервисов • Все эти проблемы с «серверами персональных данных только на нашей территории» Отличия в нейронете: • Искусственный интеллект (твой, или чужой?! Или ничей – «свой»?!), система не пассивна, это не данные • Нейроинформация (может быть приравнена к медицинской), в том числе недоступная другим образом, «явно не высказанная» 9
  10. 10. Массовое поведение • Массовое поведение – на него ориентируются законодатели и рынок • Вы очень легко можете быть не массовым. Вам очень легко от решений для масс будет плохо. • Privacy важно, её требуют, за неё воюют (в идеале) • Privacy легко сдают в пользу бус и безделушек (в реале) • Но всегда есть активисты, они шумят – обычно о разном. • В непонятных ситуациях остаётся осадочек (хотя рынок быстро покажет, кто прав. Но и законодатель не менее быстро изготовит «осадочек»). • Спецслужбы всегда хотят иметь доступ ко всему, для них все остальные – лохи, а они в белых одеждах и на белых конях. • Если речь идёт о персональных и коллективных ассистентах, то как дорого будут люди оценивать возможность немножко подглядывать за ними? • Как поведут себя силовики? Полиция мысли – когда её ждать? Ибо если что- то принципиально возможно, то силовики от этого обычно не отказываются. А если очень хочется, они и закон для этого примут (писаный, даже если право будет против). 10
  11. 11. 11 Спасибо за внимание Анатолий Левенчук, http://ailev.ru ailev@asmp.msk.su

×