Az I. Alverad-Bánki Nemzetközi Kiberbiztonsági Konferencián elhangzott előadás prezentációja
időpont: 2023. október 25.
helyszín: Óbudai Egyetem Bánki Donát Gépész és Biztonságtechnikai Mérnöki Kar
A társadalmi kredit rendszerének információbiztonsági kérdései
A nagy kockázatú MI rendszerek kiberbiztonsága
1. A nagy kockázatú MI rendszerek kiberbiztonsága
Dr. habil. Kollár Csaba PhD.
I. Alverad-Bánki Nemzetközi Kiberbiztonsági Konferencia
2023. október 25.
Óbudai Egyetem Bánki Donát Gépész és Biztonságtechnikai Mérnöki Kar
Óbudai Egyetem
Bánki Donát Gépész és Biztonságtechnikai Mérnöki Kar
Mesterséges Intelligencia Műhely
3. • Létfontosságú rendszerelemek (2012. évi CLXVI. Törvény alapján):
• energia, közlekedés, agrárgazdaság, egészségügy, társadalombiztosítás, pénzügy,
infokommunikációs technológiák, víz, honvédelem, közbiztonság-védelem
• Nagy kockázatú MI rendszerek:
• önvezető járművek, egészségügyi diagnosztika, okosvárosok, katonai rendszerek,
pénzügyi szektor, közlekedési rendszerek, energiaellátás és egyéb
közműszolgáltatások, társadalmi kredit rendszere
Létfontosságú rendszer(elem)ek, nagy kockázatú MI rendszerek
5. 1. A létfontosságú rendszerelemeknél az MI miben, s mekkora
szerepet játszik?
2. Mennyire engedjük az MI-nek az autonómiát?
3. Milyen társadalmi félelmek és elvárások vannak az MI-vel
szemben?
4. Melyek a nagy kockázatú MI rendszerek fontosabb
kiberbiztonsági kihívásai?
Keressük a választ!/?
7. Agrárgazdaság
Biztonság és kiberbiztonság
Domotika (okosotthon rendszerek)
Egészségügy
Egyéni egészségügy és gyógyszeripar
Együttműködő robotika
Energiamenedzsment
Gazdasági elemzés és piackutatás
Gyártás és robotika
Honvédelem
Infokommunikáció
Játékok és szórakoztatás
Környezeti monitoring
Környezetvédelem
Közbiztonság
Közlekedés és logisztika
Közműszolgáltatások
Közösségi média és tartalomszolgáltatás
Mentőszolgálatok
Nyelvfeldolgozás
Oktatás
Online keresés és tartalom ajánlás
Önvezető járművek
Pénzügy és kereskedelem
Sport és fitness
Személyi asszisztensek
Videofelismerés és képfelismerés
Világűrkutatás
Zene és művészet
Jelenkorunk és a közeljövő MI-re épülő megoldásai
9. 1. Nem nyújt semmilyen segítségét, mindent az ember csinál.
2. Teljes körű cselekvési alternatívákat kínál.
3. Leszűkíti a cselekvést néhány választási lehetőségre.
4. Egyetlen tevékenységet/műveletet végez.
5. Végrehajtja a műveletet, ha az ember jóváhagyja azt.
6. Mielőtt a műveletet végrehajtaná, lehetőséget ad az embernek, hogy azt megvétózza.
7. Automatikusan hajtja végre a műveletet, de erről feltétlenül tájékoztatja az embert.
8. A művelet automatikus végrehajtás után csak akkor tájékoztatja az embert, ha az
kéri.
9. A művelet automatikus végrehajtása után csak akkor tájékoztatja az embert, ha ilyen
döntést hoz.
10.Maga dönt el mindent, automatikusan működik, figyelmen kívül hagyva az embert.
A gép autonómiája. A számítógép…
11. Adatvédelem és adatbiztonság
Emberi felügyelet hiánya
Etikai kérdések
Kiszámíthatatlanság
Kontrollvesztés
Munkahelyi veszélyek
Működési hibák
Technológiai fejlődés sebessége
Félelmeink az MI-vel kapcsolatban
12. Adatvédelem
Átláthatóság és magyarázhatóság
Biztonság
Igazságosság és etika
Képzés és oktatás
Kontroll és felügyelet
Környezeti fenntarthatóság
Kulturális érzékenység
Pontosság és megbízhatóság
Társadalmi haszon
Elvárásaink az MI-vel kapcsolatban
Az életünk legyen…
Kényelmesebb
Boldogabb
Biztonságosabb
Legyünk egészségesebbek
…
Oldja meg a problémáinkat!
15. (1) Szükséges adatforrások és a belőlük származó adatok meghatározása
(2) Input adatok gyűjtése
(3) Az adatok tisztítása
(4) Az adatok tárolása
(5) Az adatok (elő)feldolgozása
(6) Az adatok értelmezése
(7) Gépi tanulás modelljének a megalkotása
(8) Gépi tanulás a nyers, tisztított és feldolgozott (és értelmezett) adatok
alapján
(9) Output adatok és információk
(10) Vezetékes és vezeték nélküli kommunikációs hálózatok
(11) Felhő alapú számítástechnika
Az ábra magyarázata
17. Kvantum-MI
Az emberi viselkedés/természet még mélyebb és átfogóbb elemzése
MI-vel támogatott hedonizmus
Még komplexebb rendszeranalízis
Rendszerfelügyelet, önjavítás, önfejlesztés
Az MI hatalmas üzlet – érvényesül az etikai elvárás?
Törvények, rendeletek – az MI szabályozásának szükségessége
Interaktív MI
Megannyi új szakma az MI szolgálatában
Szingularitás kora vs. transzhumán kiborgok kora
Húzó vs. leszakadó szektorok, ágazatok
MI potenciálra épülő (geo)politikai hatalmi viszonyok
MI-vel támogatott anyagtudomány
Az MI jövője, jövőnk az MI-vel
18.
19. Mesterséges Intelligencia Műhely
• Társadalmi kredit rendszere adat- és információbiztonsági kihívásainak
kutatása
• Aláírásazonosítás és -hamisításdetektálás mesterséges intelligencia
segítségével
• Az ipar 4.0 kihívásai a szervezetek életében az MI/robotizáció fókuszában
• Az MI felhasználásának katonai és polgári lehetőségei
• Mesterséges intelligencia a biztonságtechnikában című tantárgy
• Releváns szak- és diplomadolgozati, illetve TDK témák
• Konferenciaelőadások és szakmai tanulmányok
• Együttműködés a HEDY-projekttel
• K-MOOC-os tananyagfejlesztés (A Mesterséges Intelligencia a műszaki életben)
Kapcsolódó aktivitásaink a Bánki Karon
20. Köszönöm megtisztelő figyelmüket!
Dr. habil. Kollár Csaba PhD.
tudományos főmunkatárs, műhelyvezető
Óbudai Egyetem
Bánki Donát Gépész és Biztonságtechnikai Mérnöki Kar
Mesterséges Intelligencia Műhely