Az I. Alverad-Bánki Nemzetközi Kiberbiztonsági Konferencián elhangzott előadás prezentációja időpont: 2023. október 25. helyszín: Óbudai Egyetem Bánki Donát Gépész és Biztonságtechnikai Mérnöki Kar

1. A nagy kockázatú MI rendszerek kiberbiztonsága
Dr. habil. Kollár Csaba PhD.
I. Alverad-Bánki Nemzetközi Kiberbiztonsági Konferencia
2023. október 25.
Óbudai Egyetem Bánki Donát Gépész és Biztonságtechnikai Mérnöki Kar
Óbudai Egyetem
Bánki Donát Gépész és Biztonságtechnikai Mérnöki Kar
Mesterséges Intelligencia Műhely

2. BEVEZETŐ GONDOLATOK

3. • Létfontosságú rendszerelemek (2012. évi CLXVI. Törvény alapján):
• energia, közlekedés, agrárgazdaság, egészségügy, társadalombiztosítás, pénzügy,
infokommunikációs technológiák, víz, honvédelem, közbiztonság-védelem
• Nagy kockázatú MI rendszerek:
• önvezető járművek, egészségügyi diagnosztika, okosvárosok, katonai rendszerek,
pénzügyi szektor, közlekedési rendszerek, energiaellátás és egyéb
közműszolgáltatások, társadalmi kredit rendszere
Létfontosságú rendszer(elem)ek, nagy kockázatú MI rendszerek

4. NÉGY ALAPVETŐ KÉRDÉS

5. 1. A létfontosságú rendszerelemeknél az MI miben, s mekkora
szerepet játszik?
2. Mennyire engedjük az MI-nek az autonómiát?
3. Milyen társadalmi félelmek és elvárások vannak az MI-vel
szemben?
4. Melyek a nagy kockázatú MI rendszerek fontosabb
kiberbiztonsági kihívásai?
Keressük a választ!/?

6. AZ MI A LÉTFONTOSSÁGÚ RENDSZERELEMEKNÉL

7.  Agrárgazdaság
 Biztonság és kiberbiztonság
 Domotika (okosotthon rendszerek)
 Egészségügy
 Egyéni egészségügy és gyógyszeripar
 Együttműködő robotika
 Energiamenedzsment
 Gazdasági elemzés és piackutatás
 Gyártás és robotika
 Honvédelem
 Infokommunikáció
 Játékok és szórakoztatás
 Környezeti monitoring
 Környezetvédelem
 Közbiztonság
 Közlekedés és logisztika
 Közműszolgáltatások
 Közösségi média és tartalomszolgáltatás
 Mentőszolgálatok
 Nyelvfeldolgozás
 Oktatás
 Online keresés és tartalom ajánlás
 Önvezető járművek
 Pénzügy és kereskedelem
 Sport és fitness
 Személyi asszisztensek
 Videofelismerés és képfelismerés
 Világűrkutatás
 Zene és művészet
Jelenkorunk és a közeljövő MI-re épülő megoldásai

8. AZ MI AUTONÓMIÁJA

9. 1. Nem nyújt semmilyen segítségét, mindent az ember csinál.
2. Teljes körű cselekvési alternatívákat kínál.
3. Leszűkíti a cselekvést néhány választási lehetőségre.
4. Egyetlen tevékenységet/műveletet végez.
5. Végrehajtja a műveletet, ha az ember jóváhagyja azt.
6. Mielőtt a műveletet végrehajtaná, lehetőséget ad az embernek, hogy azt megvétózza.
7. Automatikusan hajtja végre a műveletet, de erről feltétlenül tájékoztatja az embert.
8. A művelet automatikus végrehajtás után csak akkor tájékoztatja az embert, ha az
kéri.
9. A művelet automatikus végrehajtása után csak akkor tájékoztatja az embert, ha ilyen
döntést hoz.
10.Maga dönt el mindent, automatikusan működik, figyelmen kívül hagyva az embert.
A gép autonómiája. A számítógép…

10. TÁRSADALMI FÉLELMEK ÉS ELVÁRÁSOK AZ MI-VEL KAPCSOLATBAN

11.  Adatvédelem és adatbiztonság
 Emberi felügyelet hiánya
 Etikai kérdések
 Kiszámíthatatlanság
 Kontrollvesztés
 Munkahelyi veszélyek
 Működési hibák
 Technológiai fejlődés sebessége
Félelmeink az MI-vel kapcsolatban

12.  Adatvédelem
 Átláthatóság és magyarázhatóság
 Biztonság
 Igazságosság és etika
 Képzés és oktatás
 Kontroll és felügyelet
 Környezeti fenntarthatóság
 Kulturális érzékenység
 Pontosság és megbízhatóság
 Társadalmi haszon
Elvárásaink az MI-vel kapcsolatban
Az életünk legyen…
 Kényelmesebb
 Boldogabb
 Biztonságosabb
Legyünk egészségesebbek
…
Oldja meg a problémáinkat!

13. KIBERBIZTONSÁGI KIHÍVÁSOK

14. Az MI mint komplex rendszer rendszerábrája

15. (1) Szükséges adatforrások és a belőlük származó adatok meghatározása
(2) Input adatok gyűjtése
(3) Az adatok tisztítása
(4) Az adatok tárolása
(5) Az adatok (elő)feldolgozása
(6) Az adatok értelmezése
(7) Gépi tanulás modelljének a megalkotása
(8) Gépi tanulás a nyers, tisztított és feldolgozott (és értelmezett) adatok
alapján
(9) Output adatok és információk
(10) Vezetékes és vezeték nélküli kommunikációs hálózatok
(11) Felhő alapú számítástechnika
Az ábra magyarázata

16. A MESTERSÉGES INTELLIGENCIA JÖVŐJE

17.  Kvantum-MI
 Az emberi viselkedés/természet még mélyebb és átfogóbb elemzése
 MI-vel támogatott hedonizmus
 Még komplexebb rendszeranalízis
 Rendszerfelügyelet, önjavítás, önfejlesztés
 Az MI hatalmas üzlet – érvényesül az etikai elvárás?
 Törvények, rendeletek – az MI szabályozásának szükségessége
 Interaktív MI
 Megannyi új szakma az MI szolgálatában
 Szingularitás kora vs. transzhumán kiborgok kora
 Húzó vs. leszakadó szektorok, ágazatok
 MI potenciálra épülő (geo)politikai hatalmi viszonyok
 MI-vel támogatott anyagtudomány
Az MI jövője, jövőnk az MI-vel

19. Mesterséges Intelligencia Műhely
• Társadalmi kredit rendszere adat- és információbiztonsági kihívásainak
kutatása
• Aláírásazonosítás és -hamisításdetektálás mesterséges intelligencia
segítségével
• Az ipar 4.0 kihívásai a szervezetek életében az MI/robotizáció fókuszában
• Az MI felhasználásának katonai és polgári lehetőségei
• Mesterséges intelligencia a biztonságtechnikában című tantárgy
• Releváns szak- és diplomadolgozati, illetve TDK témák
• Konferenciaelőadások és szakmai tanulmányok
• Együttműködés a HEDY-projekttel
• K-MOOC-os tananyagfejlesztés (A Mesterséges Intelligencia a műszaki életben)
Kapcsolódó aktivitásaink a Bánki Karon

20. Köszönöm megtisztelő figyelmüket!
Dr. habil. Kollár Csaba PhD.
tudományos főmunkatárs, műhelyvezető
Óbudai Egyetem
Bánki Donát Gépész és Biztonságtechnikai Mérnöki Kar
Mesterséges Intelligencia Műhely