Презентация к докладу. Минск 2019-02-15, Москва 2019-03-16, Киев 2019-03-23

1. ВЫЧИСЛИТЕЛЬНОЕ ПРАВО
COMPUTATIONAL LAW
СОСТОЯНИЕ, ЗАДАЧИ, ПРОБЛЕМЫ
© Егор Чурилов, Минск 2019

2. https://www.legalcomplex.co
m
Количество LegalTech стартапов за 2018 год уменьшилось относительно предыдущих лет…

3. КАРТА LEGALTECH ОТ
THE STANFORD LAW
SCHOOL CENTER FOR
LEGAL INFORMATICS
1112 КОМПАНИЙ
В 9-ТИ КАТЕГОРИЯХ
COMPUTATIONAL LAW?
http://techindex.law.stanford.
edu

4. ОПРЕДЕЛЕНИЕ ДИСЦИПЛИНЫ
ВЫЧИСЛИТЕЛЬНОГО ПРАВА

5. Одна из величайших аномалий современности
состоит в том, что закон, существующий
в качестве общественного руководства
к действию, превратился в такую тайну,
которая непонятна обществу и едва ли понятна
его собственным приверженцам.
Lee Loevinger
основатель юриметрики, 1949

6. ВСТРЕЧА ЗАКОНА И ИТ (AI AND LAW)
Правовое регулирование цифрового мира
(с помощью нецифровых законов)
Цифровая поддержка правовых практик
(с помощью нерегулируемых технологий)

7. ЦИФРОВАЯ ПОДДЕРЖКА ПРАВОВЫХ ПРАКТИК
• Юридические фирмы
• Улучшить качество и, возможно, расширить охват юридических услуг
• Снизить затраты за счёт замещения человеко-юристов робо-юристами
• Глубокая цифровая трансформация или выдавливание с рынка
• Корпоративные юристы
• Уменьшить риски и стоимость юридических практик,
связанных с существующим нецифровым правом (например, контрактная аналитика)
• Предприниматели
• Расширить поле возможностей, создав новые сервисы для бизнес-практик,
с новым цифровым правом (например, смарт-контракты)
• Снижать стоимость услуг, демпинговать юридические фирмы
• Законодатели?

8. AI in Law
Computational Law
Computational Legal
Computational Legal
Studies
Computational Legal
Science
Artificial Legal Intelligence

9. СПИСОК ОТ IAAIL В КАЧЕСТВЕ ОПРЕДЕЛЕНИЯ
«Подраздел Искусственного Интеллекта, занятый в основном приложениями ИИ в
правовой информатике»
• Automated information extraction from legal databases and texts
• Conceptual or model-based legal information retrieval
• Machine learning and data mining for e-discovery and other legal applications
• Automatic legal text classification and summarization
• Formal models of legal reasoning
• Computational models of argumentation and decision making
• Computational models of evidential reasoning
• Legal reasoning in multi-agent systems
• Executable models of legislation http://www.iaail.org/?q=page/abo
ut

10. ЕЩЁ ОПРЕДЕЛЕНИЯ
“Computational Law is that branch of legal informatics concerned with the automation of legal analysis”
Michael Genisereth, prof. @ Stanford University
“AI in Law: Applications of advanced information technology to support tasks in the legal domain”
Michael Bommarito, MSE FE University of Michigan
“Computational Legal Studies: Data Analysis + Formal Models”
Daniel Katz, Associate Professor @ Illinois Tech - Chicago Kent College of Law, founder @ LexPredict
“Computational Law: Expressing Law and Legal Processes as Standard Data Through Interoperable
Service Interfaces”
Daniel Greenwood, Lead law.MIT.edu @ MIT
“Computational Law is Law that works as software”
Hans Andersson, Berkeley University

11. ВЫЧИСЛИТЕЛЬНОЕ ПРАВО ОТ DR. DANIEL KATZ
https://www.slideshare.net/Danielkatz/artificial-intelligence-and-law-
a-primer

12. ОПРЕДЕЛЕНИЕ ОТ STANFORD LOGIC GROUP (CODEX)
Вычислительное Право –
подход в области автоматизации правовой
аргументации, фокусирующийся на
семантически богатых законах,
правовых положениях,
контрактных условиях и
бизнес-правилами,
в контексте электронной коммуникации.
Computational law is
an approach to automated
legal reasoning focusing on
semantically rich laws,
regulations,
contract terms, and
business rules
in the context of electronically-mediated
actions.
Love, Genesereth - "Computational Law"
(2005)

13. «Наука об обществе, которая
включает в себя изучение
правовых материй и их
движение через пространство и
время, вместе с близкими
концепциями, такими как
распределение ресурсов и
исковая сила.»
http://legalphysics.org
by the Legal Research team
of the MIT Human Dynamics Lab
http://socialphysics.media.mit.e
du
Social Physics, MIT Media Lab
Prof. Alex Pentland
http://hd.media.mit.edu
Human Dynamics, MIT Media Lab
Prof. Alex Pentland

14. COMPUTATIONAL LAW DESIGN CHALLENGE
MIT PROJECT
Сверхзадача: Переформатировать законодательство, отрефакторить кодексы права и
опубликовать закон как открытый цифровой сервис.
Виртуализация закона на вычислительной платформе:
“Social Physics and Connection Science”
• The Model Platform
• Репликация суверенной правовой сущности (город, штат, страна)
• Игра-симуляция (SimCity), позволяющая просчитывать эффекты правового
регулирования в обществе, экономике, государстве
• Данные для модели берутся из реальных городских и государственных источников
• Пользовательская игра, поощряющая игровые взаимодействия
Всё пока в зачаточном состоянии.
Презентация Криса Перейра https://www.youtube.com/watch?v=-pboxAUgiUA

15. “Causing the law to be
actionable
is one of the aims of
Computational Legal Science”
Daniel ‘Dazza’ Greenwood
Lead Scientist @ law.MIT.edu
https://www.youtube.com/watch?v=G2_1I9aUwgs
“Сделать закон исполняемым –
одна из задач
Вычислительной Юриспруденции”

16. ЮРИДИЧЕСКИЙ ИНЖИНИРИНГ LEGAL ENGINEERING
Ещё один новый и неустоявшийся термин
“Legal engineering” is a growing field of legal practice, yet there is no clear
theoretical definition of the concept. “ Ritaine C. - Legal Engineering in Comparative Law – An
Introduction (2015)
• Применение права в инженерии и инженерном менеджменте
• Контрактная работа в строительстве
• Защита интеллектуальной собственности
• Сертификации…
• Использование инженерной экспертизы в судебных делах
• Автоматизация правовых процессов
• Замена катриджей в принтере юр.отдела
• То, чем занимается юрист-программист, пишущий на Solidity
• Переложение обычных контрактов в смарт-контракты

17. ОПРЕДЕЛЕНИЕ ВЫЧИСЛИТЕЛЬНОГО ПРАВА
КАК ИНЖЕНЕРНОЙ ДИСЦИПЛИНЫ

18. Вычислительное право
исследовательская дисциплина и группа знаниевых технологий
для поддержки практик права и юриспруденции,
со следующими задачами:
1. представление правого и другого необходимого предметного знания в виде функций,
вычислимых на машине Тьюринга;
2. анализ, алгоритмический вывод, и синтез правового знания;
3. представления результатов вывода в виде, пригодном для использования человеком
или другими машинами.
цель: автоматизированное управление
жизненным циклом исполняемого правового знания
для поддержки общественных практик
(Чурилов)
ОбработкаВвод Вывод

19. СВЕРХЗАДАЧА ДЛЯ ВЫЧИСЛИТЕЛЬНОГО ПРАВА
Автоматизированное управление жизненным циклом правового знания в обществе:
1. Создавать право: конструировать правила для целесообразного регулирования
общественных отношений в соответствии с нуждами общества.
Робот-законодатель
2. Обслуживать право: поддерживать строгость синтаксиса, непротиворечивость
семантик, структуру представлений, версионность и трассируемость.
Робот-законодержатель
3. Усматривать право: определять возникновение ситуации правового регулирования.
Робот-законосмотритель
4. Вычислять право: определять форму правового регулирования с учётом всех
предпосылок, контекста, процесса.
Робот-законовычислитель
5. Применять право: определять, как необходимая абстрактная правовая норма
должна быть применена в конкретной практической ситуации.
Робот-законоприменитель (Чурилов)

21. КРАТКИЙ ЭКСКУРС В ИСТОРИЮ

22. • Коренится в философии правового позитивизма (Legal Formalism):
интересуют формальные нормы, а не моральная справедливость
и традиции обществ.
• 18 век: Characteristica Universalis Лейбница – идеографический язык,
исследования деонтической модальности в логике
• 1948: Lee Loevinger Jurimetrics: The Next Step Forward
Юриметрика - сбор и первичный анализ правовой статистики
• 1956: Layman Allen Symbolic Logic: A Razor-Edged Tool for Drafting and Interpreting
Legal Documents
• 60-70-ые, рассвет AI. Оптимизм и первые попытки создания программ (Lucien Mehl)
• 1972-78: TAXMAN и TAXMAN II – эксперимент по применению ИИ в корпоративном
налоговом праве, L.T. McCarty
• 1980: British Nationality Act записан на Prolog
КРАТКАЯ ИСТОРИЯ 1/2

23. • 1987: Leith Gardner An Artificial Intelligence Approach to Legal Reasoning –
попытки определить дисциплину и поле работы
• 1987: 1st International Conference on AI and the Law (Boston)
• 1990-2000-ые: двухгодичные конференции ICAIL, ежегодные Jurix в Европе
• 1996: Nick Szabo Smart Contracts: Building Blocks for Digital Markets
• 2005: Stanford Logic group
• 2010-ые: Приход LegalTech – движение технологического предпринимательства в
области права
• 2014: New Normal: констатация новых вызовов и перспектив юриспруденции в
цифровую эпоху
• 2015: Ethereum
КРАТКАЯ ИСТОРИЯ 2/2

24. ЭВОЛЮЦИЯ ТЕХНОЛОГИЧЕСКОЙ ПОДДЕРЖКИ ПРАВА
Период Представления
и объекты данных
Создание закона
и принятие решений
Коммуникация
и исполнение закона
Вербализация
закона
Речевая память, заученные формулы Человеческий интеллект (ЧИ)
Авторитарное
Речевой акт, перемещение вместе с
носителем. Исполнение человеком.
Механизация
закона
Том, послание на бумажном
носителе
ЧИ, социализированное
низкоскоростное
Отчуждение представления. Механическое
перемещение представлений. Исполнение
человеком.
Дигитализация
закона
Электронные копии бумажных
текстов. Цифровое хранение. Старые
процессы в электронной форме.
ЧИ, социализированное
высокоскоростное
Интернет документов, цифровое хранение и
передача контента и сообщений.
Отчуждение текста. Исполнение человеком.
Онтологизация
/семантизация
закона
Семантический гипертекст,
гиперсеть семантических
конструкций
Поддержка ЧИ статистическими и
символьными методами.
Слабый вывод.
Киберсоциальное слабое ПР.
Слабая связь с социальными
практиками
Semantic Web и сервисы (Linked Data, SOA,
Events…)
Отчуждение структуры и связей.
Механизация разделения и связывания
семантических элементов.
Исполнение человеком и роботом.
Эпистемизация
закона
Моделе-ориентированные
представления правового знания.
Текст – как частная проекция.
ИИ и сильный вывод.
Киберсоциальное сильное ПР.
Автоматизация законодательной и
судебной деятельности, сильная
связь с социальными практиками
Отчуждение исполнимого знания.
Исполнение человеком и роботом.
(Чурилов)

25. ЦЕНТРЫ ИССЛЕДОВАТЕЛЬСКОЙ РАБОТЫ
В ОБЛАСТИ ВЫЧИСЛИТЕЛЬНОГО ПРАВА
Сообщите о других центрах!
Обновляется
https://drive.google.com/open?id=1ItWhrVMq1W62b_TAg79KmVdFM7hSzdyK&usp=sharing

26. ЦЕНТРЫ ИССЛЕДОВАТЕЛЬСКОЙ РАБОТЫ
В ОБЛАСТИ ВЫЧИСЛИТЕЛЬНОГО ПРАВА
• https://law.stanford.edu/codex-the-stanford-center-for-legal-informatics/ Stanford Center for Legal Informatics, CodeX
• https://law.mit.edu/ Computational Law R&D, Massachusetts Institute of Technology
• http://www.leibnizcenter.org Leibniz Center for Law, University of Amsterdam
• http://www.rossintelligence.com IBM Watson Legal, ROSS for U.S. law
• http://www.TheLegalTechLab.com/ School of Law, University of Missouri – Kansas City
• https://www.law.cornell.edu/ Cornvell Legal Information Institute
• http://www.vub.ac.be/LSTS/ Law Science Technology & Society Research Group, Vrije Universiteit Brussel
• https://www.law-school.de/ Bucerius Law School in Hamburg, Germany
• https://iri.uni-hannover.de Institute of Legal Informatics, Leibniz Universität Hannover
• https://www.kentlaw.iit.edu Chicago-Kent College of Law, Illinois Institute of Technology
• http://law.msu.edu Michigan State University College of Law
• https://www.jus.uio.no/ifp/english/about/organization/nrccl/ Norwegian Research Center for Computers and Law at University of Oslo
• https://www.mitre.org/centers/judiciary-engineering-and-modernization-center/ Judiciary Engineering and Modernization Center, MITRE
• https://www.ulapland.fi/EN/Units/Institute-for-Law-and-Informatics Institute for Law and Informatics, University of Lapland, Finnland
• http://www.tilburguniversity.edu/research/institutes-and-research-groups/tilt/ Tilburg Institute for Law, Technology, and Society
• https://law.unimelb.edu.au/ Melbourne Law School, The University of Melbourne
• https://people.cs.umass.edu/~cbr/ The Case-Based Reasoning Group Department of Computer Science at the University of Massachusetts at
Amherst R.I.P.

27. ПОДХОДЫ И МЕТОДЫ

28. ВЕЛИКИЙ ПРЕДЕЛ: ДАННЫЕ И АЛГОРИТМЫ
Data-driven law
• Всё есть данные, закон – тоже
данные
• Используем аналитические
численные методы,
чтобы делать выводы
Code-driven law
• Код – это закон, закон – это код
• Перепишем закон как код!
• Пусть код, который мы пишем, будет
законом!

29. Тоже Computational Legal Studies: посчитать слова в U.S. Code
M.Bommarito, D.Katz “A Mathematical Approach to the Study of the United States Code”
(2010)

30. ПРЕДСТАВЛЕНИЕ ЗАКОНОВ В ФОРМАЛЬНОМ ВИДЕ:
СИНТАКСИС И СЕМАНТИКА
• XML’em all: Estrella Project & LKIF (EU), CEN Metalex (EU), LAMS (UK), JSMS (Australia), SDU BWB
(Netherlands), LexDania (Denmark), CHLexML (Switzerland), eLaw (Austria), NormeinRete (Italy) etc –
умерли
• Кое-что принято: XML4EP, FORMEX для EUR-LEX (EU, 2014), USLM XML для US Federal Register,
Regnet & Regbase Project (USA)
• DC Law (MIT) https://github.com/DCCouncil/dc-law-xml
• Hammurabi https://github.com/mpoulshock/HammurabiProject/
Wolfram Alpha DSL, last commit July 2017
• LegalRuleML (OASIS) – вводится специфичная правовая онтология верхнего уровня
• Legalese – DSL для юридических документов http://legalese.com
“Solution: Computational Legal”
• Lexon – компилируется сразу в смарт-контракты
“The first idea that is championed by Lexon is to have a language that is actually understandable, at
least accessible and readable, to the professionals in the legal domain.” Henning Diedrich, Lexon
creator
• Множество академических попыток создания «логических» или «формальных» языков для записи
закона и юридических документов (дискрипционные логики, Causal Calculator С+, конечные автоматы)

31. xmLegesExtractor
Инструмент для
превращения текстов
европейских законов в
XML структуры

32. ЛОГИЧЕСКИЕ ЯЗЫКИ ДЛЯ ВЫЧИСЛИТЕЛЬНО ПРАВА
• Логика предикатов
• Модальные логики
(темпоральная,
деонтическая,
эпистемическая и пр.)
• Дескрипционная логика
• Теория типов
• Теория множеств
• μ-calculus
• Causal Calculus С+
Hafner C. - Representation of knowledge in a legal information retrieval system (1980)
McCarty L.T. - A language for legal discourse (2015)
Farmer W. - A Formal Language for Writing Contracts (2016)

33. REASONING WITH THE LAW VS REASONING ABOUT THE LAW
• Reasoning with the Law (причинный вывод, causal reasoning):
юрист производит логический вывод относительно прагматических ситуаций
в соответствии с правилами, описанными в законе
«Парковка автомобилей запрещена с 9 до 18»
• Нормализация правил при составлении законов
• Дедуктивный вывод с использованием закона, как аксиоматической системы
• Использование немонотонных логик для представления структур «правило-исключение» и
правовых иерархий
• Reasoning about the Law (нормативный вывод, normative reasoning):
юрист производит логический вывод о применимости, сочетаемости правил, вне
зависимости от их конкретного содержания (аргументация и интерпретативные
рассуждения)
«Статья №230 действует с 1 января и не применяется в сельской местности в силу Статьи №143»
Prakken H., Sartor G. - Law and Logic. a Review from an Argumentation Perspective (2015)

34. МАШИНЫ СОСТОЯНИЙ, КОНЕЧНЫЕ АВТОМАТЫ
Flood M., Goodenough O. - Contract as Automaton.
The Computational Representation of Financial Agreements
(2017)

35. РАССУЖДЕНИЯ НА ОСНОВЕ ПРЕЦЕДЕНТОВ
CASE-BASED REASONING
• Процесс решения новых проблем, основываясь на похожих проблемах в прошлом
• “CBR cycle” Aamodt A., Plaza E. - Case-Based Reasoning (1994)
1. Получить похожие прецеденты
2. Переиспользовать прецедент, адаптировать под запрос
3. Сверить полученный прецедент с целевым контекстом
4. Сохранить так, чтобы новый прецедент тоже можно было переиспользовать
• Существуют огромные базы данных судебных решений
• Можно использовать машинное обучение для поиска и адаптации
• https://case.law – уже обрабатывают базы данных США
• http://juritool.com – поиск кейсов в корпоративных БД
• https://ravellaw.com – аналитика судебных решений и поиск аргументации

36. АГЕНТНЫЕ ПОДХОДЫ В ВЫЧИСЛИТЕЛЬНОМ ПРАВЕ
• Борьба с высокой сложностью
• Необходимость учитывать
межагентные взаимодействия и
внутриагентные состояния (оценки,
интенциональность…)
• Репрезентации не только
юридических, но и социальных
систем в единой модели
• Агенты, состояния, действия,
сценарии…
• Транзакция, мотивация,
аффорданс, диспозиция…
Sileno G. et al - On the Interactional Meaning of Fundamental Legal Concepts
(2014)

37. ВЫЧИСЛИТЕЛЬНЫЕ ОНТОЛОГИИ ПРАВА
COMPUTATIONAL LEGAL ONTOLOGIES
«Онтология – явная спецификация
концептуализации»
“An ontology is an explicit specification of a
conceptualization“
Gruber (1993)
Представление правового знания в виде
графа понятий (онтологии) и набора
формальных утверждений о мире (онтик,
фактов), согласованных с данной онтологией.
Hoekstra R. et al The LKIF Core Ontology of Basic Legal Concepts (2007)

38. ВЫЧИСЛИТЕЛЬНЫЕ ОНТОЛОГИИ ПРАВА
COMPUTATIONAL LEGAL ONTOLOGIES
• «В настоящее время создано более 60 онтологий права…но лишь малая часть из
них вышла за рамки улучшенных прототипов, даже готовых для использования»
G. Sartor “Approaches to Legal Ontologies” (2011)
• Логический вывод (inference, reasoning) на онтологиях – популярен, но сейчас
вытесняется Data Driven-подходами, статистическими методами машинного
обучения
• Онтологический подход часто используется неявно («модель данных»)
• Факт-ориентированность
RDF-триплеты
SPARQL
Camilleri J. et al - A CNL for Contract-Oriented Diagrams
(2014)

39. Можно отвечать на вопросы вида
«Какие города соединяются
Транссибирской магистралью или
Трансмонгольской железной
дорогой?»
SPARQL-запрос
http://query.wikidata.org
Это sparql-endpoint для
семантически связанных данных
Wikipedia
Для правовых БД
таких сервисов ещё нет!
КАК ПРИМЕНЯЮТСЯ ВЫЧИСЛИТЕЛЬНЫЕ ОНТОЛОГИИ?

40. ПРАВОВЫЕ ОНТОЛОГИИ В РУНЕТЕ
?

41. ВЫЧИСЛИТЕЛЬНОЕ ПРАВО И ДАННЫЕ
DATA-DRIVEN LAW

42. ВЫЧИСЛИТЕЛЬНОЕ ПРАВО И БОЛЬШИЕ ДАННЫЕ
• Весь корпус правовой информации – Большие Данные
• Не всё ещё оцифровано
• Корпуса информации, связанной с правом – Очень Большие Данные
• Это – текст, не числа. С текстом всё на порядок сложнее
• Не всё ещё связано
• Большие Данные не являются Большим Знанием
• Вычислительное право работает над тем, чтобы
превращать данные в исполнимое знание

43. ОДНА ИЗ ГЛАВНЫХ ПРОБЛЕМ: НУЖНЫ ДАННЫЕ
• Качество доступа
• Часть правовой информации не доступна вовсе: закрытые соглашения, уставы и пр.
• Часть находится в платном доступе – должна быть открыта?
• Качество данных
• Сканы вместо текста
• Разнообразие [древних] форматов файлов
• Качество информации
• Нерегулярный синтаксис: структуры текста варьируются
• Сложная грамматика, языковые конструкции (legalese), на которых буксует NLP
• Сложная семантика: пересекаются многие предметные области
Сложное знание

44. НУЖНЫ ОТКРЫТЫЕ ДАННЫЕ
• Открытые источники
Открыты и доступны: за небольшую плату или бесплатно
• Безопасные источники
Защищены от подлога и непреднамеренных изменений: хотя бы MD5
• Машиночитаемые источники
open data-стандарты представления, никаких PDF
• Управляемые источники
Метаинформация, версионность, QoS
• Управляемый синтаксис
Идентификация и кодификация структуры: нормативная структура закона,
внутренние ссылки согласованы с URI
• Управляемая семантика
мало помалу переходить от текстовой ориентированности к факт-ориентированности и далее
Открытые правовые вычислительные модели, сервисы, фреймворки?

45. ЗАКОН КАК КОД
CODE-DRIVEN LAW

46. ИСПОЛНИМЫЙ ЗАКОН: МИКРОСИМУЛЯЦИИ
Mes Aides (Мои Помощники)
• Платформа для вычислений законодательных требований:
налоги, пошлины, вычеты…
• Правовая онтология, модель данных, Web API,
открытый код и расширяемая архитектура
Assess labor cost (Стоимость рабочей силы)
• Расширение для оценки стоимости найма
сотрудника, включая налоги и
налоговые вычеты
Evaluate reforms impact
• Симуляция для оценки последствий налоговых
реформ, открытый Python API
https://openfisca.org/

47. ВЫЧИСЛИТЕЛЬНОЕ ПРАВО И СМАРТ-КОНТРАКТЫ
Две задачи
• Реализовывать регулирование правоотношений через смарт-контракты
• Оценивать и регулировать операции на блокчейне в
соответствии с правом из некоторой юрисдикции (какой?)

48. СМАРТ-КОНТРАКТЫ: ТЕХНОЛОГИЯ И ПРАВО
С точки зрения технологии – удобный компонент
“Смарт-контракт – это код, который сохраняется в Блокчейне,
запускается транзакциями Блокчейна, а также читает и пишет данные
в базу данных Блокчейна”
G. Greenspan ‘Beware of the Impossible Smart Contract’, Blockchain news 2016,
http://www.theblockchain.com/2016/04/12/beware-of-the-impossible-smart-contract
С точки зрения права - торговый автомат?
Смарт-контракты – «…сдвигают парадигму в сфере контрактной
работы: они позволяют автоматизировать контрактную работу обеих
сторон».
А.Савельев - Сontract law 2.0. Smart contracts as the beginning of the end of classic contract law
(2016)
Автоматизация двух сторон соглашения означает также,
что две стороны являются юридическими агентами.

49. ВЫЧИСЛИТЕЛЬНОЕ ПРАВО И СМАРТ-КОНТРАКТЫ
• От юридически обязывающего (legally-binding) к технически исполняемому
(actionable)
• Каждый исполняемый контракт – микрозакон (но с другой нормативностью)
• Только данные, которые легко обрабатываются дата-центричными
криптоалгоритмами. Закриптовать строку – ОК. Как закриптовать факт?
• Высокая скорость, хорошая масштабируемость
• Исполнение контракта гарантируется машиной Ethereum (мы доверяем?)
• Синтаксис и семантика контракта – в руках программистов (нам доверяют?)
Цифровые активы
Как защищать права
Как передавать права
Цифровая идентичность
Защита персональных данных
Безопасное использование их
сервисами
Цифровые контракты
Нотариат
Автоматическое выполнение
Исследовательская программа law.MIT.edu

50. ETHEREUM/RESEARCH
PROBLEMS 2.4.
Список исследовательских задач от Ethereum Foundation
https://github.com/ethereum/research/wiki/Problems
• Смарт-контракты (на Solidity, Viper) как first-class Computational Law
• Интеграция различных методов Вычислительного права с блокчейном
• Обобщение: языки → модели

51. СОВРЕМЕННЫЕ ОГРАНИЧЕНИЯ В ПРИМЕНЕНИИ
ВЫЧИСЛИТЕЛЬНОГО ПРАВА ДЛЯ СМАРТ-КОНТРАКТОВ
• Примитивные исполнители – примитивные практики. DAO-платформы пока
обрабатывают тривиальные транзакции. Очень простой закон.
• Кодификация: Solidity – это низкоуровневый язык программирования, он не
пригоден для описания сложных правовых систем. Под вопросом даже
использование его для реализации правовых логик, это нижние уровни
вычислительного стека. Legal DSL? (Openlaw.io, Legalese.com)
• Кооперация с юристами и другими практиками права. Они должны понимать,
уметь создавать, валидировать и использовать исполняемый закон. Иначе [редкие]
специалисты по программированию будут узким местом, которое заблокирует
развитие.
• Нужны специализированные инструменты для разработки, поддержки, интеграции
– целая инфраструктура за рамками и поверх блокчейна.
Доверие

52. СОЦИАЛЬНЫЕ ЭФФЕКТЫ

53. НЕДОВЕРИЕ
• Как доверять машине?
«не исключено, что общество будет сопротивляться идее, что решения будут выноситься
компьютером на основе априорных определений, сделанных когортой невыборных,
неподотчётных и по существу неизвестных инженеров и юристов, работающих сами по
себе»
Nettle G. - Technology and Law (2016)
• Как проверять машину?
Explainable AI and Law (XAILA) conference room @ Jurix 2018
Humanized AI (HAI)
IntERMeDIUM: моральный контракт между человеком и машиной.
Intentional, Executable, Reward-based, Moral, Declarative, Inductive, Utilitatian,
Machine
van Otterlo M., Atzmueler M. - On Requirements and Design Criteria for Explainability in Legal AI (2018)

54. СОЦИАЛЬНЫЙ ЭФФЕКТ ТЕХНОЛОГИЙ ПРАВА
3 ТИПА НОРМАТИВНОСТИ
• Различные технологии поддержки и реализации права в обществе формируют
разные типы «нормативности»
• Нормативность, управляемая текстом (text-driven)
• Нормативность, управляемая данными (data-driven)
• Нормативность, управляемая кодом (code-driven)
Нормативность – форма, в которой правовые нормы существуют, как регуляторы общественного
поведения; совокупность параметров применения норм: субъект, объект, инструмент, избирательность,
ограничения на обстоятельства и пр.*
• Мы уходим от закона-как-речевого-акта к закону-как-статистике и
закону-через-код
• Для Вычислительного права – это особые этические проблемы (этика ИИ)
https://www.cohubicol.com/3-types-of-normativity
* Определение моё

55. ОТКРЫТЫЙ ЗАКОН
«Если коммерческое ПО начинает определять архитектуру Интернета, оно создает
своего рода приватизированный закон, который должен регулироваться, если мы
хотим, чтобы общественные интересы и общественные ценности были учтены»
L. Lessig, Harvard prof of Law. NY Times, 1999
https://www.nytimes.com/1999/12/06/business/technology-digital-commerce-settlement-talks-microsoft-case-hinge-question-are.html
• Как регулировать [частные] вычислительные системы, исполняющие
общественный закон?
• Как регулировать массовые приватные законы внутри общественного? От смарт-
контрактов рано или поздно мы перейдём к смарт-законам (emergent law)
• Как понимать машинную логику принятия решений? Является ли требование
«объяснения» релевантным?

56. ОГРАНИЧЕНИЯ В ПРИМЕНЕНИИ ВЫЧИСЛИТЕЛЬНОГО ПРАВА
• Использование в Гражданском праве, но не в Общем праве
Правовой реализм допускает свободные суждения в отношении какого-либо
дела. Правовой формализм и Вычислительное право предполагают, что все
возможные суждения так или иначе зафиксированы к нормативные: либо в тексте
закона, либо в вычислительной модели.
• Открытые для интерпретации формулировки
«Закон – это не просто применение правил к фактам с помощью modus ponens»
(E. Rissland). Законы содержат множество формулировок с открытыми
семантиками (open-ended), которые специализируются «по месту», дедуктивный
вывод невозможен.

57. ВОЗМОЖНЫЕ ПРИЛОЖЕНИЯ
ВЫЧИСЛИТЕЛЬНОГО ПРАВА
• Карманный полицейский (Cop In the Backseat - M. Genesereth)
• Ситуативный, а не только семантический поиск
• Поддержка активностей в разных правовых системах, юрисдикциях
• Проектирование лучших законов (более понятных, непротиворечивых, релевантных…)
• Изучение влияния закона на общество и общества на правовые системы
• Embedded Law – встроенное право. Вычисление юридических ограничений при
проектировании систем и планировании деятельности в различных предметных
областях
• Поддержка судебных практик для всех сторон процесса
• Автоматический арбитраж
• Regulation as Platform (RaaP)
• Комплайенс процессов

58. ЮРИДИЧЕСКИЙ ДИЗАЙН
LEGAL DESIGN
• Умные инструменты и сервисы (быстрое оформление налоговых деклараций,
визуальная навигация в юридических процессах и пр.)
• Эффективные юридические организации
• Юридическая этика для новых условий
• Юридическое образование
Мало работать с информацией, придётся работать с правовым знанием
Больше Вычислимого права = более интеллектуальные решения

59. ЭМПИРИЧЕСКИЕ ПРАВОВЫЕ ИССЛЕДОВАНИЯ
EMPIRICAL LEGAL STUDIES
• Вопросы отношения права и экономики
• Как закон изменит экономическое поведение или полезную функцию актора?
• Как можно регулировать данное экономическое поведение в обществе?
• Право и социология
• Право и антропология
• Право и психология
• Право и политика
• …
Может ли Вычислительное право помочь в такого рода исследованиях?
Human Dynamics Lab @ MIT: «Да, может»
M. Bommarito 2011 https://www.slideshare.net/mjbommar/university-of-houston-law-and-
computation-workshop

60. О ЧЁМ ВАЖНОМ НЕ СКАЗАНО В ПРЕЗЕНТАЦИИ
• NLP, NLU, NLG для правовых технологий
• Legal Information Extraction
• Legal Chatbots
• Моделеориентированное Вычислительное право
• Системно-инженерный подход и Вычислительное право
• Интеллект-стек Вычислительного права
• Законодательное регулирование применения технологий ИИ
• Этика ИИ в Вычислительном праве

61. СПАСИБО!
Егор Чурилов | Yehor
Churilov
FB, LinkedIn
https://t.me/yehor_churilov
http://anticomplexity.org/

62. МОДЕЛЕ-ОРИЕНТИРОВАННОСТЬ
В ВЫЧИСЛИТЕЛЬНОМ ПРАВЕ
«Часто говорят, что лучше один раз увидеть, чем сто раз услышать. Возможно,
3D модель стоит тысячи картинок. Когда модель состоит из миллиона слов, 3D
симуляции могут стать лучшей базой для ИИ.»
Goertzel B., Pennachin C. - Cognitive Technologies. Artificial General Intelligence (2007)
«Говоря о причинности, мы должны иметь ментальную модель реального мира …
Я бы дал такой совет сегодняшним энтузиастам Больших Данных, не
использующим модели.»
Pearl J., Mackenzie D. - The Book of Why (2018)
«Most machine learning algorithms assume that concepts have “classical”
definitions, with necessary and sufficient conditions, but legal concepts tend to be
defined by prototypes.»
L. McCarty “How to Ground A Language for Legal Discourse In a Prototypical Perceptual Semantics”
(2015)

63. ТОЛЬКО НЕ НОВЫЙ ЯЗЫК
• Языковые и языко-зависимые модели имеют принципиальные ограничения,
связанные с ёмкостью внимания человека
• Линейность языковых построений, чуть более сложные сложные связи требуют
сложных синтаксических конструкций (анафора, катафора…), которые плохо
масштабируются
• Ни ещё один «лучший» язык, ни множество различных языков проблему не решат
– нужен выход за рамки языковых и языкоцентричных моделей.

64. ТРУДНОСТИ ОКАЗАНИЯ ЮРИДИЧЕСКИХ УСЛУГ
• Различные правовые нормы даже в рамках одной страны (штаты, земли)
• Nonlawyer ownership запрещён в США кроме D.C. В UK и других странах –
ограничения на размер доли
• Обязательная сертификация компетенции
• Обязательная сертификация в зоне оказания юридических услуг (страна, штат)