Dr. Kollár Csaba PhD: A mesterséges intelligencia lehetőségei és kihívásai a biztonságtechnika területén SECURIFORUM Biztonságtechnikai és tűzvédelmi kiállítás és konferencia 2019. október 10. Lurdy konferenciaközpont Budapest

1. SECURIFORUM Biztonságtechnikai és tűzvédelmi kiállítás és konferencia
2019. október 10.
Lurdy konferenciaközpont
Budapest
Dr. Kollár Csaba PhD
A mesterséges intelligencia
lehetőségei és kihívásai
a biztonságtechnika
területén

2. BEMUTATKOZÁS

3. DIGITÁLIS KOR társadalmi vetületei
gazdasági hatásai
információbiztonság
humán aspektusa
biztonságtudatosság
fejlesztése
ember-robot interakció
emberi oldala
intelligens városok
A technológiák
szinergiájának
köszönhetően milyen
fejlődési irányok
képzelhetők el a
mesterséges intelligencia
és a biztonságtechnika
metszéspontjában?
mesterséges intelligencia

4. 1. A mesterséges intelligencia megjelenési formái és léptékei
2. A mesterséges intelligenciához kapcsolódó fontosabb
technológiák bemutatása
3. Alapgondolatok a mesterséges intelligenciáról
4. A mesterséges intelligencia felhasználási területei a
biztonságtechnikában
5. Néhány példa a gyakorlatból
6. Adat- és információbiztonsági kihívások
7. A mesterséges intelligencia hatása a foglalkoztatottságra a
biztonságtechnika területén
8. Kitekintés a jövőbe
Miről is lesz szó?

5. A mesterséges
intelligencia
megjelenési formái
és léptékei

6. Az MI néhány általános formája
Watson
Sophia
Deep Blue

7. • Testen viselhető okoseszközök (óra, cipő, póló, külső
„csontváz”)
• Testben levő okoseszközök (implantátumok,
egészségügyi monitoring)
• Hordozható okoseszközök (telefon, tablet)
• Intelligens (önvezető) autók
• Intelligens épületek/létesítmények (domotika)
• Intelligens település/város
• Intelligens ország (Digitális Jólét Program)
• Intelligens Föld
Az MI léptékei

8. A mesterséges
intelligenciához
kapcsolódó
fontosabb
technológiák

9. Az MI és egyéb technológiák kapcsolata
Cloud - Felhő alapú számítástechnika
Analytics - Big data analitika, adatbányászat
Mobile - Mobil szolgáltatások és alkalmazások
Social media - Közösségi média
Security - Biztonság (kamerák,
beléptetőrendszerek, stb.)
AR - Kiterjesztett és kevert valóságok
IoT - Dolgok internete
Robots - Robotok és drónok
Networks - Hálózatok, grid

10. Alapgondolatok
a mesterséges
intelligenciáról

11. • Az MI az intelligens gépek gyártásának tudománya és mérnöki gyakorlata
• Az MI egy izgalmas erőfeszítés a számítógépek gondolkodóvá tételére,
értelemmel bíró gépek létrehozására
• Az MI az emberi gondolkodáshoz asszociált tevékenységek, mint
döntéshozatal, problémamegoldás, tanulás automatizálása vizsgálata
• Az MI olyan funkciók megvalósítására alkalmas gépek megalkotásának a
tudománya, mely funkciókhoz intelligenciára van szükség, amennyiben azokat
emberek valósítják meg
• Az MI annak tanulmányozása, hogyan lehet számítógépekkel olyan dolgokat
tenni, amelyeket jelenleg az emberek jobban tudnak
• A számítástudomány azon részterülete, amely intelligens számítógépes
rendszerek, MI programok kifejlesztésének kérdéseivel foglalkozik
• A számítástudomány azon ága, amelynek célja olyan ágensek megépítése,
amelyek az intelligens viselkedés egyes vonásaival rendelkeznek
• Az MI az emberi gondolkodás, a természeti törvények modellezése
számítógéppel
Definíciók*
*McCarthy, Futó, Borgulya

12. 1. Számítási kapacitások exponenciális növekedése
2. Rendelkezésre álló adatok mennyisége
3. Fejlett algoritmusok
4. Technológiák fejlődése és összekapcsolódása
Miért most?

13. Az MI fontosabb tudományterületi kapcsolatai
Számítástudo-
mány, informatika
Kommunikáció- és
nyelvtudomány
Biztonság-
tudomány
Biológia és
orvostudomány
Idegtudomány
Pszichológia
Szociológia
Filozófia
Matematika,
statisztika
Műszaki
tudományok

14. Az MI kapcsolódó fogalmai

15. Különbség a program és az MI között*
program MI
• Programozó írta
• Determinisztikus: ugyan arra a
kérdésre ugyan azt a választ
adja
• Igen-nem, 0-1 jellegű
eredményt ad
• Az ember mondja meg, hogy mi
a helyes eredmény
• Szabályokat futtat, nincs helye a
szabályok felülírásának
• Programozó írta
• Valószínűséggel dolgozik:
bizonyos eséllyel ugyan az a
válasz az adott kérdésre
• Kevésbé-jobban, 85%-15%
jellegű eredményt ad
• A programozó a célt adja meg, a
gép kísérletezi ki a helyes
eredményeket
• Mintákat vizsgál
• Helye van a meglepetéseknek
és a hangsúlyok eltolásának
*Biczó (2017) alapján

16. Az MI rendszerábrája

17. A mesterséges
intelligencia
felhasználási
területei a
biztonságtechnikában

18. • Valószínűségi modellek
• Kockázatfelismerés
• Kockázatelemzés
• Kockázatértékelés és válasz
• Kockázatfigyelés
• Kockázattervezés
• Különböző kockázati tényezők/faktorok közötti
összefüggések (korreláció) valószínűségi vizsgálata
• Kockázat előrejelzés/predikció
• Optimalizálás, vezérlés/szabályozás a kockázatok
bekövetkezési valószínűségének a csökkentése
Kockázatkezelés

19. Szövegfelismerés és -elemzés
• Nyomtatott, kontúros háttérrel rendelkező szöveg
beolvasása – OCR (pl.: Recognita 1.0, 1987)
• Szép betűkkel megformált kézírás beolvasása
• Kézírás beolvasása
• Szennyezett (piszkos) papíron levő kézírás beolvasása
• Beolvasott szöveg értelmezése
• Beolvasott és értelmezett szöveg hibáinak kijavítása (pl.:
elírás, hiányzó, vagy nem olvasható betűk, szavak)
• Beolvasott szöveg fordítása
• Beolvasott és értelmezett szöveg fordítása
• Szövegalkotás stílus alapján

20. • Mintázatfelismerés (pl.: ujjlenyomat)
• Egyszerűbb alakfelismerés (háromszög, kör, négyzet)
• Bonyolultabb alakfelismerés
• Bonyolultabb alakfelismerés és megkülönböztetés más
tárgyaktól
• Részletkutatás (kép egyes részei alapján tartalmak
összekapcsolása)
• Arcfelismerés
• Arcfelismerés, beazonosítás, megkülönböztetés másoktól
• Mozgásfelismerés
• Követés (pl.: videón)
• Felismerés rossz körülmények mellett (sötét, rossz
felbontás, hiányos képi tartalom)
• Szándékfelismerés (predikció)
Képfelismerés és -elemzés

21. • Zajos környezet hangtisztítása
• Egyszerűbb hangfelismerés és megkülönböztetés
(ember hangját a környezettől)
• Hang nonverbális elemeinek (hangszín, hangerő, stb.)
felismerése
• Nonverbális elemek elemzése révén szándék-predikció
• Szavak felismerése
• Mondatok felismerése és értelmezése
• Adott személy beszédének felismerése és kiszűrése a
környezetéből
• Kontextuális beszédtartalom elemzés
• Beszédgenerálás adott stílus szerint
Beszédfelismerés és -elemzés

22. • Felderítés
• Mintázatok felismerése
• Kép, hang, szövegfelismerés
• Kapcsolati háló feltérképezése
• Nyomkövetés, haladási útvonal predikciója
• Elkövetői csoport megrajzolása
• Elkövetői profil megrajzolása
Forenzikus területek

23. • Támadásdetektálás
• Riasztáskezelés
• Incidenskezelés
• Hálózati behatolásérzékelés és megelőzés
• Csalások felderítése
• Botnet-vadászat
• Biztonságos felhasználói azonosítás
• Spamszűrés
• Támadói mintázat/viselkedés meghatározása
• Prediktív előrejelzések
• Logfájlok mélyelemzése
• Különböző, mesterséges intelligenciára épülő védelmi
megoldások együttműködése
• Eseményvizualizáció
Kiberbiztonság

24. • Biztonsági rendszerek
• Kényelmesebb élet
• Élhetőbb város
• Rend a káoszban (tömegközlekedés)
• Energiaellátás
• Hulladékgazdálkodás
• Víz- és szennyvízgazdálkodás
• Környezetvédelem
• Megfigyelőrendszerek
Épületek, városok

25. Néhány példa a
gyakorlatból

26. Kiterjesztett valóság
MI

27. Ipar 4.0
MI

28. Intelligens épület
MI

29. Intelligens város
MI

30. Hagyományos adatok
Közösségi adatok
Online adatok
Társadalmi Kredit Rendszere
111111111111111111
MI

31. Adatok, bemenetek
Jövedelemadó
Kölcsön
visszafizetése
Hitelkártya
számla
Rezsiszámlák
Perköltség
megfizetése
Közlekedési
szabályok betartása
Családtervezési
korlátok betartása
Fizetés a
tömegközlekedésért
Becsületesség
Önkéntesség
Jó szülő
Bűnözési rekord
Kapcsolat a többi
internet-felhasználóval
Online közzétett hírek
megbízhatósága
Vásárlási szokások

32. • A szakemberek hatékonyabb munkát tudnak végezni
• Kiszűrhetők arcfelismerés alapján a veszélyes elemek
• Akinek az arca nincs a rendszerben regisztrálva az gyanús (rejtőzködik,
vagy külföldi)
• Viselkedésalapú elemzés alapján kiszűrhetők azok, akik valamilyen
(terror)cselekményt akarnak elkövetni
• A rossz úton járókat beazonosítás után meg lehet szólítani
• Korreláció, valószínűségszámítás, szociometria és hálózatelemzés
alapján rejtett összefüggések is feltárhatók az egyes emberek,
helyszínek, események között
• Nyomon követhető egy személy fejlődése/leépülése
• Nyomozás forró nyomon
• Városok (és vidék) védelme a belső ellenségtől
• Valós idejű nemzetbiztonsági átvilágítás lehetősége
• Visszaszorulnak az álhírek
Nemzetbiztonsági hatás

33. A mesterséges
intelligencia adat- és
információbiztonsági
kihívásai

34. Visszaélés az egyén arcával

35. Visszaélés az egyén adataival és eszközeivel

36. Egyén illetéktelen követése

37. Hibásan működő szenzorok

38. Rendszerelemek közötti kommunikációs és hálózati hiba

39. Adatbázis - struktúrahiba

40. Adatbázisok hibás összekapcsolása

41. Rossz, hibás BDA

42. Hibás algoritmusok

43. Gépi tanulási hibák

44. A mesterséges intelligencia hibái

45. Emberi (szándékos) károkozás

46. A mesterséges
intelligencia hatása a
foglalkoztatottságra
a biztonságtechnika
területén

47. Mesterséges intelligencia Humán intelligencia
• Képes az emberi viselkedés és a
kognitív folyamatok szimulációjára
• Megragadja és megőrzi az emberi
szakértelmet és kommunikált
tapasztalatot
• Nagy mennyiségű adatot képes
gyorsan megérteni, gyorsan ad
választ
• Nincs józan ész
• Nem tud egyszerre vegyes tudással
foglalkozni
• Sokba kerül a fejlesztése
• Jogi és etikai kérdéseket és
problémákat vet fel
• Intuíció, józan ész, ítélet,
kreativitás, hit
• Az intelligencia bemutatásának
képessége hatékony kommunikáció
révén
• Érvelés és kritikus gondolkodás
• Az ember hibázik
• Korlátozott tudásbázis
• A számítógéphez képest az
adatfeldolgozás lassan történik az
agyban
• Az ember nem képes nagy
mennyiségű adat tárolására a
memóriájában

48. 1. az emberek és aktivitásaik észlelése
2. a verbális kifejezések generálása (beszéd), illetve a
beszéd megértése
3. nonverbális kifejezések generálása, illetve a
nonverbális jelzések megértése
4. az érzelmi állapotok modellezése, kifejezése és
megértése
5. a szándékos cselekvések felismerése és közvetítése
6. együttműködés az emberekkel
7. navigálás (fizikai helyzetfelismerés) az emberek
környékén és környezetében
8. társadalmi kontextusban tanulni az emberektől
Az MI mérföldkövei

49. 1. Nem nyújt semmilyen segítségét, mindent az ember csinál.
2. Teljes körű cselekvési alternatívákat kínál.
3. Leszűkíti a cselekvést néhány választási lehetőségre.
4. Egyetlen tevékenységet/műveletet végez.
5. Végrehajtja a műveletet, ha az ember jóváhagyja azt.
6. Mielőtt a műveletet végrehajtaná, lehetőséget ad az embernek,
hogy azt megvétózza.
7. Automatikusan hajtja végre a műveletet, de erről feltétlenül
tájékoztatja az embert.
8. A művelet automatikus végrehajtás után csak akkor tájékoztatja az
embert, ha az kéri.
9. A művelet automatikus végrehajtása után csak akkor tájékoztatja
az embert, ha ilyen döntést hoz.
10. Maga dönt el mindent, automatikusan működik, figyelmen kívül
hagyva az embert.
A gép autonómiája – A számítógép…

50. Kitekintés a jövőbe

51. • Az MI mindenhol megjelenik, köszönhetően a
mobileszközökbe integrált MI platformoknak
• A műszaki-informatikai fejlesztések mellett egyre
nagyobb hangsúlyt kap az MI etikai és humán oldala
• Az MI lényegesen hatékonyabbá fogja tenni a
munkafolyamatokat
• Az MI segítségünkre lesz, hogy a dolgokat jobban
csináljuk
• Az MI révén az életünk kényelmesebbé válik
• Szakmák eltűnése, új szakmák születése
• Együtt fogunk dolgozni az MI-ra épülő megoldásokkal
Az MI jövője I.

52. • A veszélyes munkaterületeken az MI-ra épülő
megoldások helyettesítik az embert
• Egyre nagyon hangsúlyt kap az MI-vel kapcsolatos
informatikai rendszerek védelme
• Új hibajavító algoritmusok fejlesztése
• Megbízható emberek kiválasztása és alkalmazása a
hibás mesterséges intelligencia döntéseinek
vizsgálatára, elemzésére, módosítására, felülírására
• Új társadalmi gondolkodás megjelenése
• Új törvények elfogadása
Az MI jövője II.

54. • Társadalmi kredit rendszere adat- és
információbiztonsági kihívásainak kutatása
• Aláírásazonosítás és –hamisításdetektálás mesterséges
intelligencia segítségével (kutatás a Nemzetbiztonsági
Szakszolgálat Szakértői Intézetével közösen)
• Mesterséges Intelligencia Műhely
• Mesterséges intelligencia a biztonságtechnikában című
tantárgy
• Releváns szak- és diplomadolgozati, illetve TDK témák
• Konferenciaelőadások és szakmai tanulmányok
Kapcsolódó aktivitásunk a Bánki Karon

55. Dr. Kollár Csaba PhD
Kibernetikus, doktorandusz
Óbudai Egyetem Biztonságtudományi Doktori Iskola
https://www.linkedin.com/in/drkollarcsaba | http://www.slideshare.net/drkollarcsaba
Köszönöm megtisztelő figyelmüket!

56. • https://www.csc.gov.sg/images/default-source/ethos-images/ethos-issue-21/rahhuld_jevont-lead-image.jpg
• https://e3zine.com/wp-content/uploads/2018/01/robotic_process_automation_rpa_shutterstock_463259987web-990x693.jpg
• https://cultura.hu/wp-content/uploads/2017/08/banki-donat-cigar-head.jpg
• https://static.independent.co.uk/s3fs-public/thumbnails/image/2011/10/31/20/48-John-McCarthy-AP.jpg
• https://blog.se.com/wp-content/uploads/2015/08/Smart-Cities-Segments.jpg
• http://newsignal.es/sites/default/files/smart_home_system.png
• http://www.industry4.hu
• https://i.ytimg.com/vi/yQviYedbifM/maxresdefault.jpg
• https://www.rathenau.nl/sites/default/files/styles/keyvisual_large_1920x1000/public/2018-
04/shutterstock_41674012.jpg?h=1e66e246&itok=lSl6ISiF
• https://www.delnext.com/blog/wp-content/uploads/2017/02/delnext_blog_tracking-945x630.jpg
• https://www.officevision.co.uk/wp-content/uploads/2018/11/maxresdefault.jpg
• https://www.spindox.it/wp-content/uploads/2016/07/database.jpg
• https://devclass.com/wp-content/uploads/2018/06/The-Agile-and-the-Continuous-Database-Drift%E2%80%A6Neat-film-title-but-
somethingtoavoid-copy.jpg
• https://images.techhive.com/images/article/2015/09/statistics-stats-big-data-analytics-100613892-large.jpg
• https://dechema.de/events_media/Veranstaltungen/2018/Smart+Sensors/SmartSensors-height-1357-width-1920-p-15906.jpg
• https://www.crookedmagazine.com.mx/wp-content/uploads/2018/09/mask1.jpg
• https://hbr.org/resources/images/article_assets/2014/12/dec14_15_159737162.jpg
• https://www.einfochips.com/blog/wp-content/uploads/2018/11/how-to-develop-machine-learning-applications-for-business-
featured.jpg
• https://futureoflife.org/wp-content/uploads/2015/11/artificial_intelligence_benefits_risk.jpg
• https://www.intheblack.com/-/media/intheblack/allimages/sponsored-content/2018/dexus-office-
space.jpg?rev=835b5eb0fcd5481b960b7abfeec3eed2
• http://legalexecutiveinstitute.com/artificial-intelligence-in-law-the-state-of-play-2016-part-1/
A felhasznált képek forrása

57. A prezentáció az Innovációs és Technológiai
Minisztérium Új Nemzeti Kiválósági
Programjának támogatásával készült.
Szolgálati közlemény