Uploaded byLviv Startup Club
Maksym Diachenko: Автоматична держава (UA)
Maksym Diachenko: Автоматична держава (UA) Kyiv AI & BigData Day 2025 Website – https://aiconf.com.ua/kyiv Youtube – https://www.youtube.com/startuplviv FB – https://www.facebook.com/aiconf
Maksym Diachenko: Автоматична держава (UA)
- 1. Автоматична держава якщо держава -це сервіс, чи можемо ми автоматизувати цей сервіс повністю
- 2. Про мене Мене зватиМаксим Дяченко, я СЕО компанії-розробника Cardio.AI. 1 Компанія Розробник медичних технологій, присутня в багатьох клініках України. 2 Автоматизація Чи можлива повна автоматизація державних сервісів за допомогою ШІ? 3 Контроверсійна тема Обговорення етичних та практичних аспектів майбутнього впливу ШІ на життя громадян.
- 3. Програмування: межі можливого Дія:успішний старт Цифрові сервіси стали реальністю. Багато людей задоволені зручністю "Дії". Автоматизація рутинних операцій покращує життя. Але життя дуже варіативне Не всі кейси можна автоматизувати. Варіативність життя потребує гнучкості. Повна автоматизація державних послуг неможлива.
- 4. Агенти замість софта Когнітивніагенти LLM оброблятимуть логіку процесів замість коду. Складні завдання Це не лінійний алгоритм, може враховувати складні вхідні умови. Персоналізована допомога Агент тут щоб допомогти саме вам.
- 5. Сингулярність ШІ 1 Розумні LLM Ера"тупих" LLM відходить у минуле. На заміну приходять моделі здатні розмірковувати. 2 Прискорена еволюція Вихідні дані одних моделей стають навчальними для інших. Це потужний feedback механізм. 3 Перевага над експертами За кілька років моделі стануть розумніші за експертів. Це вже відбулося в окремих галузях.
- 6. Прозоро Теорія Система ускладнює корупцію.Вона також протидіє звичайному головотяпству. Всі бачать кожен тендер. Це дозволяє запобігти зловживанням? Проблеми Тендери бувають дуже складними. Навіть потребувати експертної думки. У 2021 році було 5+ мільйонів тендерів. Хто може їх всі проаналізувати?
- 7. Прозоро з ШІ(1/2) Штучний інтелект може автоматично аналізувати тендери та надсилати сповіщення зацікавленим сторонам. Автоматизація ШІ може виявляти підозрілі тендери та повідомляти правоохоронні органи про це. Прозорість ШІ може нотифікувати громадськість. Анти-корупційність З ним неможливо "порешать".
- 8. Прозоро з ШІ(2/2) Сповіщення Система сповіщає компанії про нові тендери за їхнім профілем. Посилення конкуренції Розширення пулу учасників веде до кращих пропозицій. Економічний ефект Підвищення ефективності використання ресурсів громад.
- 9. З'єднувальне середовище 1 Формуваннясписку потреб Громади вільно формують список потреб, залучаючи ШІ як форму комунікації. 2 Інтерактивний доступ Забезпечення інтерактивного доступу до інформації для громадян з будь-яких питань. 3 Зворотний зв'язок Постійний зворотний зв'язок між громадою та владою щодо проєктів та їх статусу.
- 10. Обізнаність громадян 1 Популізмяк тренд Обізнаність громадян для протидії цим процесам. 2 Оцінка реалістичності Можна просто запитати ШІ. 3 Бізнес, а не політика Мотивуємо заробляти в бізнесі, а не як політик. Я за все хароше, проти всього плахого…
- 11. Сервіс підтримки громадян Державнийпомічник у смартфоні Швидкі та якісні відповіді на питання взаємодії з державою. Моделювання сценаріїв Розрахунок податків, зборів та можливі оптимізації. Психологічна підтримка Логічний фідбек на проблеми та поради щодо захисту прав. Перевірка ідей на законність Пояснення юридичних наслідків дій.
- 12. Автоматизація правоохоронних органів (1/2) Приватність Всі чатиз агентом є абсолютно приватними. Це ваш особистий простір для спілкування з державою. Баланс інтересів Інтереси громадян і держави мають бути збалансовані у дизайні ШІ. Агент не повідомляє поліції про незаконну діяльність.
- 13. Автоматизація правоохоронних органів (2/2) 1 Розмежування агентів Агентигромадян та правоохоронців - це різні системи. 2 Доступ до даних Доступ до автоматично зібраних баз даних має бути обмеженим та контрольованим. 3 Судовий контроль Необхідний судовий дозвіл для доступу до інформації про громадян. Агент для судді формує стислий аналіз доказів і суддя вже вирішує, чи надавати доступ до інформації.
- 14. Службові агенти Законність Для службовихагентів законність – первинний орієнтир. Вони мають попереджати про незаконні дії службових осіб. Контроль Службові агенти мають інформувати наглядові органи про дії з ознаками незаконності. Останнє слово… … завжди за людиною.
- 15. Догмати замість законів? 1 Законодавство Комплекснеі обмежене 2 Норми Такі як декларація прав людини, культурні норми 3 Догми Чіткі і прості Законодавча система стає надмірно складною і часто нелогічною. Чи може ШІ допомогти нам спростити це шляхом впровадження чітких норм, і навіть догм?
- 16. Догмати замість законів? 1ШІ аналізує випадки та використовує догми, прецеденти, декларації, інше, як базис для оцінки. 2 Замість складних законів - ознаки правопорушення. 3 Ми попереджаємо клієнта про небезпеку самі, без нагадувань від держави.
- 17. Машини на вулицях Автономнімашини Автономні авто, а згодом роботи та дрони стануть частиною нашого життя. Проблеми контролю Поведінку робота Тесла визначає Тесла, а не ви. Як контролювати те, що складніше за вас?
- 18. Контроль і суворасистема обмежень Ніяких "мега"- агентів Всі агенти в державі працюють як і гілки влади, автономно в своїх межах. ШІ контролює ШІ Агенти можуть слідкувати за машинами на вулицях, і навіть дистанційно вимикати їх. Як і правоохоронці. Обмеження на обчислювальну міць Її рівно стільки на борту, скільки потрібно. В парі з людиною Машини "в полі" працюють з людьми, з якими вони в одній команді.
- 19. Роботи-вбивці Армія машин Перевага в"живій силі" не має жодного значення Агенти на кожному рівні ієрархії Відповідальні особи виконують надзорні функції Рої Рої машин замість піхоти
- 20. Чи є внас потрібний інструментарій і можливості? Обмежені ресурси Для технологічного прогресу потрібні значні інвестиції на всіх рівнях, від фундаментальних досліджень до товару на полці. Так? Зміни в правилах гри Швидкий розвиток ШІ-моделей, що розмірковують, змінює все. Тепер ми можемо створювати і тестувати прототипи високотехнологічних виробів віртуально, за допомогою симуляцій та reinforcement learning, і дуже обмеженими ресурсами.
- 21. Коли? 1 Це реальність… … зараз,за місяці, пару років. 2 Вікно можливостей для України Тільки ресурси держави можуть конкурувати в цій галузі. 3 Майбутнє вже тут Нам конче потрібно рухатись туди дуже швидко.
Editor's Notes
- #2 Мене звуть Максим Дяченко, я СЕО компанії оператора і розробника Cardio.AI. Ми присутні в багатьох клініках і в України, тож якщо ви колись носили маленьку кардіологічну жабку на собі, то знаєте, що ми робимо. Сьогодні ми будемо обговорювати трохи контроверсійну тему про те, як найновіші розробки у штучному інтелекті можуть вплинути на наше життя, якщо ми почнемо думати про них в контексті держави. Маленький слоган ви мабуть вже бачили - якщо держава це сервіс, то чи можемо ми ПОВНІСТЮ автоматизувати цей сервіс?
- #3 Цифрова держава вже реальність. Більшість тих, кого я знаю, насправді дуже задоволені сервісами, які вони можуть отримати в Дії. Ми можемо сміливо казати, що все те, що легко піддається автоматизації може, і повинно, бути автоматизоване. Але що робити з усім іншим? Життя дуже варіативне. Настільки, що навіть імплементовані сервіси в Діє іноді не можуть обробити якійсь кейс і потрібно звертатися до суппорту чи центру послуг. Неможливо уявити, щоб хтось зміг імплементувати абсолютно всі сервіси, які держава надає нашім громадянам, з цілої низки дуже валідних причин.
- #4 Перефразуючи СЕО Майкрософт, ми замінимо софт агентами. Поясню для тих, хто не розуміє - він має на увазі, що когнітивні агенти на базі LLM (таких, як GPT, наприклад) будуть обробляти логіку всіх процесів замість софта, який пише людина. Тобто класифікація і рішення якоїсь задачи чи проблеми перестає бути лінійним запрограмованим алгоритмом і може враховувати дуже складні вхідні умови. Такий агент може замість людини обробляти ваш кейс, може спілкуватись з вами, уточнюючи умови. І як машина, він на вашому боці. Він тут, щоб допомогти.
- #5 Але чи можемо ми будувати такі сервіси у відповідальний манер, користуючись “тупими” LLM’ками? Всі бачили як воно каже що 9.11 більше ніж 9.8? Так, але ера “тупих” LLM’ок відходить. На заміну їм вже прийшли моделі здатні розмірковувати і використовувати інструменти, такі як пошук, бази знань, і навіть язики програмування. Але головне це те, що сингулярність ШІ, про яку дуже довго говорили фантасти та футурологи, розкручується прямо у нас на очах. Коли вихід з попередніх поколінь reasoning моделей використовується як генератор даних для наступних поколінь. Це дуже потужний feedback механизм, який дозволяє лабораторіям покращувати кожне наступне покоління моделей значно бистріше і, головне, автоматизовано. Вже за наступні кілька років такі моделі будуть значно розумніші навіть за фахівців у своіх галузях, як це вже трапилось в декількох з них. Тож давайте поміркуємо що б ми могли зробити з такими потужними когнітивними кластерами, якщо б ми могли поставити їх собі на службу в нашій державі.
- #6 Кейс Прозоро дуже цікавий для нашої держави. Тому що це система, яка, в теорії, не тільки ускладнює корупційні дії, але й протидіє звичайному головотяпству. Якщо всі бачать кожен тендер, якій замовляє державний або муніципальний орган, якщо в мене є індикативні ціни - я можу запобігти зловживанням. Так? Не все так просто. Тендер може бути дуже комплесним, з послугами і товарами, які дуже нетривіально змішані. Може знадобитись навіть експертна думка (і не одна) для аналізу такого тендера, в якому може бути “запрограмована” неефективність або корупція. Інша проблема - кількість. До війни, у 21-му році, через Прозоро було проведено більше 5-ти мільйонів тендерів. Важко собі уявити, що всі ці тендери було детально проаналізовано. Хто в змозі таке зробити?
- #7 Вочевидь, це може зробити штучний інтелект. Уявіть такий сценарій, коли ШІ сам собі флагнув підозрілий тендер, сам написав в месенджері стейкхолдеру (а може и зателефонував голосом) із запитом на розкриття більшої інформації, і сам нотифікував надзорні органи, якщо вони не договорилися і підозрілий тендер був опублікований. А потім нотифікував громадськість, якщо надзорний орган його проігнорував або не надав переконливих пояснень. Навіть якщо хтось намагається просто купити дві сотні лопат для снігу з 300%-им гепом від ринку і вимагає від виконавця якусь дичь, щоб тендер попав кому потрібно. Проблема корупції тут відсутня зовсім, так як з таким агентом неможливо “порешать”. А якщо він має доступ до всієї історії тендерів, може сам собі будувати тренди, будувати профілі надійних виконавців (інститут репутації) - він може вирішувати сам на які тендери потрібно залучити більше компьюту на аналіз.
- #8 І навіть нотифікувати компанії, якщо в системі з’являється тендер, якій по суті своїй кореллює з напрямком і місцезнаходженням їх діяльності. Звістно, якщо вони запитали його про це. В такий системі економічний ефект від посилення конкуренції за ресурси громад буде постійно діючим мультиплікатором.
- #9 Можно піти далі в цих роздумах. Якщо громада та громадські діячі могли б вільно формувати список “хотелок” просто зосереджуючи увагу ШІ на своїх проблемах (як ви наприклад можете подзвонити в Києві на 1551) і інтерактивно бути доступним для громадян по всіх питаннях, від гарячої води в квартирі до статусу будівництва національного космодрому, це дозволило б політичним і господарчим діячам отримувати постійний зворотній зв’язок від громадськості, і давати його назад. Наприклад, у вигляді списку поточних проектів і їх статусу, від прибудинкових до національних. А громади вже зможуть тоді надавати оцінку такої діяльності через вибори. І якщо я, як громадянин, можу запитати систему по статусу метро на Троєщину - це було б чудово (такий мем є в Києві, для тих хто не в курсі).
- #10 Можно піти далі в цих роздумах. Якщо громада та громадські діячі могли б вільно формувати список “хотелок” просто зосереджуючи увагу ШІ на своїх проблемах (як ви наприклад можете подзвонити в Києві на 1551) і інтерактивно бути доступним для громадян по всіх питаннях, від гарячої води в квартирі до статусу будівництва національного космодрому, це дозволило б політичним і господарчим діячам отримувати постійний зворотній зв’язок від громадськості, і давати його назад. Наприклад, у вигляді списку поточних проектів і їх статусу, від прибудинкових до національних. А громади вже зможуть тоді надавати оцінку такої діяльності через вибори. І якщо я, як громадянин, можу запитати систему по статусу метро на Троєщину - це було б чудово (такий мем є в Києві, для тих хто не в курсі).
- #11 Таким чином ми плавно прийшли з вами до концепту державного помічника в вашому смартфоні. Такого, який дозволяє громадськості і бізнесу швидко отримувати якісні відповіді на поточні питання, що стосуються їх взаємодії з державою. Податки, законодавство, процедури, обмеження. На більш високому рівні - моделювання сценаріїв на базі вводних. Наприклад, якщо я хочу купити авто на аукціоні і привезти його в Україну - які податки та збори мені потрібно буде заплатити? А якщо в мене є податковий кредит від такої-то діяльності - чи можу я його використати? Навіть більше - агент сам може мені запропонувати якусь законну оптимізацію, якщо в мене існують на це підстави (інвалідність, тощо). Навіть психологічна підтримка, просто логічний і послідовний фідбек на те, що бентежить громадянина. Спонукати його звернутися до лікаря, або захищати свої права, якщо для цього є логічні підстави. Тобто ми тут вже кажемо про те, що цей сервіс націлений в першу чергу на громадян, їхній добробут та комфорт. Такий, якій дозволяє мені моделювати свою ідею і перевірити її на законність, без страху взаємодії з державою. Ну наприклад, якщо я вирішив помститися своїй колишній та викласти її непристойні фото в Інтернет - агент повинен логічно і доступно пояснити мені, які юридичні наслідки це може нести для мене, і чому цього краще не робити.
- #12 Ось так ми і прийшли до каральних органів. Чи можемо ми використовувати весь цей масив інформації для роботи поліції та прокуратури? Чи може агент “повідомляти” поліцію про незаконну діяльність громадян, які самі його про це повідомили? Звісно ні. Всі чати абсолютно приватні. Це ваш приватний спейс, це тільки ви, як громадянин, і ваша держава, але яка за вас. Збалансованість інтересів громадян і держави має бути основним фактором в дизайні такого ШІ.
- #13 Але чи може поліція або прокуратура використовувати ШІ для збору доказової бази, аналізу масивів даних, тощо? Моє ставлення до цього таке. По-перше, ці зовсім різні агенти і вони не перетинаються. У громадян свої, в поліції, прокуратури, суддів - свої. Уявімо, що є автоматичні дрони, які збирають в єдину базу все, що бачать і чують. Ніхто з поліції та прокуратури не може мати до цього масиву даних автоматичного доступу. Типу як у фільмах детектив каже системі - “знайди мені всі місця перебування цієї персони за останній місяць”, і воно магічним образом йому все це малює на мапі. Мають бути виписані жорстки процедури, яким чином підозрювані отримують цей статус і як слідчі отримують судовий дозвіл на доступ до інформації про громадянина, яку знає така система. Ба більше, це вже хелпер для судді, який отримує від свого службового агента стислий аналіз доказової бази на такий доступ. І суддя вже вирішує чи надати його.
- #14 Службові агенти мають базуватись на інших принципах. Для них законність це первинний орієнтир. Вони МАЮТЬ попереджати керівництво та надзорні органи про незаконні дії службових осіб, або якщо такі дії мають ознаки незаконності. Уявімо собі судовий вирок, якій дуже контрастує з правопорушенням. Це може бути наслідком емпатичності судді до конкретного кейсу, що і є людською природою і причиною, чому машини ніколи не мають це вирішувати за нас, і останнє слово завжди за людиною. Але це може бути і ознаками корупційності такого рішення. Тобто можливо цей кейс має бути додатково оцінений наглядовим органом.
- #15 Давайте швиденько зосередимось на одній проблемі законотворчості, яка в нас є зараз. Це комплексність законодавства, обмежень і норм. З часом ця піраміда стала такою масштабною, особливо в Європі, що громадянам і бізнесу стає дедалі складніше приймати рішення, щоб щось десь не порушити. Часто обмеження виглядають нелогічно та надмірно, але в них була якась своя логіка, якою слідували законотворці розглядаючи граничні випадки. ШІ дає нам цікаву перспективу на це. Уявіть, що замість складної системи законів, ми маємо спрощену систему догм. Замість дуже комплексної статті законодавства ми маємо список того, що в цьому випадку робити не можна. Ніколи. Система норм. Це ж було вже, так. Десять заповідей. Але що робити в граничних випадках? Як класифікувати? Хто вирішує?
- #16 І тут цікавим концептом виглядає підхід, коли ШІ може зробити для вас оцінку таких граничних випадків, кейс бай кейс. І використовує для цього як догми і прецеденти, так і декларації прав і обов’язків громадян. Замість комплексного законодавства, яке намагається протистояти фінансовим пірамідам, ми маємо декілька простих ознак, що є такою пірамідою. І бізнес, ще на етапі концепту, може отримати від системи попередження, що такий концепт має ознаки піраміди і його імплементація буде мати юридичні наслідки. Потрібно попередити клієнта, що напій горячий, або дуже гострий. Але, мабуть, для цього не потрібно мати окремий закон. Є догма, що бізнес повинен попередити своїх клієнтів про небезпеку, але що за небезпека може бути в моєму салоні краси може знати ШІ, замість статті в законодавстві. Контроверсійна тема, але, як на мене, концепт цікавий.
- #17 Добре, давайте заглянемо ще трохи наперед. А саме на автономні машини, які потроху починають з’являтись на наших вулицях. Поки що це просто авто та таксі. Але вже скоро з’являться роботи і дрони. І тут є така проблема, що те, що буде робити робот виробництва Тесла, вирішують розробники Тесла, а не ми з вами. Або це вирішує якась інша держава, в своїх інтересах. І з якогось моменту комплексність систем такого робота стане такою, що ніхто, навіть розробники, не зможе передбачати їхньої поведінки зі 100-відсотковою вірогідністю. І тут є суттєвий ризик для нас з вами. Що робити? Цікаво було б послухати ваші думки про це, але поки що дам свою оцінку.
- #18 Я не вважаю, що потрібно робити свою операційну систему для таких машин - це було б виходом, але це мабуть просто неможливо і буде обмежувати конкуренцію. Але що ми можемо зробити, так надати своєму ШІ можливість контролю над кожною машиною. Тобто де перебуває, що робить, і можливість дистанційного вимкнення. Контроль машин над машинами, а також доступ правоохоронних органів до такого вимкнення. Ключем від повстання машин я тут бачу три умови, які мають виконуватись завжди. Агенти ніколи не мають бути під єдиним контролем “мега-агента”, ми розділяємо їх на гілки, і вони завжди автономні в межах своєї гілки. Машини, які працюють “в полі” мають бути обмежені в віддаленому керуванні, тільки команди на вимкнення або повернення на обслуговування, і вони мають обмеження на обчислювальну міць на борту. І останнє - машини “в полі” завжди працюють тільки підпорядковано людині, з якою вони в одній команді. Останній пункт особливо важливий для правоохоронної діяльності. Такі машини можуть мати лише нелетальні засоби протидії, і використовуються як щит для правоохоронців.
- #19 Тут звісно ми маємо розглянути машини, які будуть використовуватись Збройними Силами. Війна росії проти України показала, що цей тренд вже не зупинити. І якщо ми і далі хочемо бути незалежними, якщо ми все ж таки з часом хочемо повернути свої території з під окупації - в нас немає іншого виходу, як будувати армію машин. Для якої перевага росіян в живій силі не буде мати жодного значення, а за промислову перевагу ми ще позмагаємось, в тому числі і за допомогою агентів. Нервовою системою, яка буде стояти за автоматизованою армією, має бути такій же медіум з агентів, як і в кейсі громадському або службовому. Агенти на кожному рівні відповідальності мають працювати над задачами, а відповідальні особи мають виконувати надзорні і корегуючи функції. Виготовлені машини формують рої, рої працюють з військовим керівництвом над плануванням і виконанням місій, за якими наглядають та які корегують військові фахівці в реальному часі. Нам потрібно забути слово “піхота”. Замість цього нам потрібно вивчити слово “оператор”, який вирішує коли підрозділи дронів зможуть використовувати летальну зброю, а коли ні.
- #20 Добре, але як це все зробити, ми наговорили вже роботи на декілька десятиріч. Термоядерні реактори, чіпи, нанотехнології - все це атрибути дуже багатих суспільств і ми звикли, що все це не про нас. Потрібні сотні мільярдів доларів інвестицій на всіх рівнях, щоб пройти шлях від фундаментальних досліджень до високотехнологічного товару на полиці. Але швидкий розвиток моделей, які розмірковують, повністю змінює ці правила гри. Замість тижнів і місяців повільної розробки - дні або навіть години інтенсивних обчислень. Замість дуже коштовного виробництва і тестування прототипу - симулятор. Замість важкого і непередбачуваного програмування комплексної поведінки - reinforcement learning. Замість великих RnD команд - 1-2 людини, стейкхолдери-професіонали, на яких працюють десятки когнітивних кластерів.
- #21 Я очікую, що здебільшого до кінця 26-го року все це почне працювати так, як я собі уявляю. І це вікно можливостей для України. Але чому саме я кажу - для держави? Тому що зараз інвестиції в інфраструктуру для штучного інтелекту, які може дозволити собі компанія рівня Майкрософт, в Україні може собі дозволити лише держава. Як структурувати ці інвестиції - це важливе питання, але на мою думку це ніяк не відрізняється, приміром, від інвестицій в будівництво аеропорту. І, звісно, бізнес в Україні має мати комерційний доступ до цієї інфраструктури і інструментарію. Я дякую вам за ваш час сьогодні, і якщо є якісь питання - я з радістю відповім.