Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

Dr. Kollár Csaba PhD: A mesterséges intelligencia lehetőségei és kihívásai a biztonságtechnika területén

216 views

Published on

Dr. Kollár Csaba PhD: A mesterséges intelligencia lehetőségei és kihívásai a biztonságtechnika területén
SECURIFORUM Biztonságtechnikai és tűzvédelmi kiállítás és konferencia
2019. október 10.
Lurdy konferenciaközpont
Budapest

Published in: Science
  • Be the first to comment

  • Be the first to like this

Dr. Kollár Csaba PhD: A mesterséges intelligencia lehetőségei és kihívásai a biztonságtechnika területén

  1. 1. SECURIFORUM Biztonságtechnikai és tűzvédelmi kiállítás és konferencia 2019. október 10. Lurdy konferenciaközpont Budapest Dr. Kollár Csaba PhD A mesterséges intelligencia lehetőségei és kihívásai a biztonságtechnika területén
  2. 2. BEMUTATKOZÁS
  3. 3. DIGITÁLIS KOR társadalmi vetületei gazdasági hatásai információbiztonság humán aspektusa biztonságtudatosság fejlesztése ember-robot interakció emberi oldala intelligens városok A technológiák szinergiájának köszönhetően milyen fejlődési irányok képzelhetők el a mesterséges intelligencia és a biztonságtechnika metszéspontjában? mesterséges intelligencia
  4. 4. 1. A mesterséges intelligencia megjelenési formái és léptékei 2. A mesterséges intelligenciához kapcsolódó fontosabb technológiák bemutatása 3. Alapgondolatok a mesterséges intelligenciáról 4. A mesterséges intelligencia felhasználási területei a biztonságtechnikában 5. Néhány példa a gyakorlatból 6. Adat- és információbiztonsági kihívások 7. A mesterséges intelligencia hatása a foglalkoztatottságra a biztonságtechnika területén 8. Kitekintés a jövőbe Miről is lesz szó?
  5. 5. A mesterséges intelligencia megjelenési formái és léptékei
  6. 6. Az MI néhány általános formája Watson Sophia Deep Blue
  7. 7. • Testen viselhető okoseszközök (óra, cipő, póló, külső „csontváz”) • Testben levő okoseszközök (implantátumok, egészségügyi monitoring) • Hordozható okoseszközök (telefon, tablet) • Intelligens (önvezető) autók • Intelligens épületek/létesítmények (domotika) • Intelligens település/város • Intelligens ország (Digitális Jólét Program) • Intelligens Föld Az MI léptékei
  8. 8. A mesterséges intelligenciához kapcsolódó fontosabb technológiák
  9. 9. Az MI és egyéb technológiák kapcsolata Cloud - Felhő alapú számítástechnika Analytics - Big data analitika, adatbányászat Mobile - Mobil szolgáltatások és alkalmazások Social media - Közösségi média Security - Biztonság (kamerák, beléptetőrendszerek, stb.) AR - Kiterjesztett és kevert valóságok IoT - Dolgok internete Robots - Robotok és drónok Networks - Hálózatok, grid
  10. 10. Alapgondolatok a mesterséges intelligenciáról
  11. 11. • Az MI az intelligens gépek gyártásának tudománya és mérnöki gyakorlata • Az MI egy izgalmas erőfeszítés a számítógépek gondolkodóvá tételére, értelemmel bíró gépek létrehozására • Az MI az emberi gondolkodáshoz asszociált tevékenységek, mint döntéshozatal, problémamegoldás, tanulás automatizálása vizsgálata • Az MI olyan funkciók megvalósítására alkalmas gépek megalkotásának a tudománya, mely funkciókhoz intelligenciára van szükség, amennyiben azokat emberek valósítják meg • Az MI annak tanulmányozása, hogyan lehet számítógépekkel olyan dolgokat tenni, amelyeket jelenleg az emberek jobban tudnak • A számítástudomány azon részterülete, amely intelligens számítógépes rendszerek, MI programok kifejlesztésének kérdéseivel foglalkozik • A számítástudomány azon ága, amelynek célja olyan ágensek megépítése, amelyek az intelligens viselkedés egyes vonásaival rendelkeznek • Az MI az emberi gondolkodás, a természeti törvények modellezése számítógéppel Definíciók* *McCarthy, Futó, Borgulya
  12. 12. 1. Számítási kapacitások exponenciális növekedése 2. Rendelkezésre álló adatok mennyisége 3. Fejlett algoritmusok 4. Technológiák fejlődése és összekapcsolódása Miért most?
  13. 13. Az MI fontosabb tudományterületi kapcsolatai Számítástudo- mány, informatika Kommunikáció- és nyelvtudomány Biztonság- tudomány Biológia és orvostudomány Idegtudomány Pszichológia Szociológia Filozófia Matematika, statisztika Műszaki tudományok
  14. 14. Az MI kapcsolódó fogalmai
  15. 15. Különbség a program és az MI között* program MI • Programozó írta • Determinisztikus: ugyan arra a kérdésre ugyan azt a választ adja • Igen-nem, 0-1 jellegű eredményt ad • Az ember mondja meg, hogy mi a helyes eredmény • Szabályokat futtat, nincs helye a szabályok felülírásának • Programozó írta • Valószínűséggel dolgozik: bizonyos eséllyel ugyan az a válasz az adott kérdésre • Kevésbé-jobban, 85%-15% jellegű eredményt ad • A programozó a célt adja meg, a gép kísérletezi ki a helyes eredményeket • Mintákat vizsgál • Helye van a meglepetéseknek és a hangsúlyok eltolásának *Biczó (2017) alapján
  16. 16. Az MI rendszerábrája
  17. 17. A mesterséges intelligencia felhasználási területei a biztonságtechnikában
  18. 18. • Valószínűségi modellek • Kockázatfelismerés • Kockázatelemzés • Kockázatértékelés és válasz • Kockázatfigyelés • Kockázattervezés • Különböző kockázati tényezők/faktorok közötti összefüggések (korreláció) valószínűségi vizsgálata • Kockázat előrejelzés/predikció • Optimalizálás, vezérlés/szabályozás a kockázatok bekövetkezési valószínűségének a csökkentése Kockázatkezelés
  19. 19. Szövegfelismerés és -elemzés • Nyomtatott, kontúros háttérrel rendelkező szöveg beolvasása – OCR (pl.: Recognita 1.0, 1987) • Szép betűkkel megformált kézírás beolvasása • Kézírás beolvasása • Szennyezett (piszkos) papíron levő kézírás beolvasása • Beolvasott szöveg értelmezése • Beolvasott és értelmezett szöveg hibáinak kijavítása (pl.: elírás, hiányzó, vagy nem olvasható betűk, szavak) • Beolvasott szöveg fordítása • Beolvasott és értelmezett szöveg fordítása • Szövegalkotás stílus alapján
  20. 20. • Mintázatfelismerés (pl.: ujjlenyomat) • Egyszerűbb alakfelismerés (háromszög, kör, négyzet) • Bonyolultabb alakfelismerés • Bonyolultabb alakfelismerés és megkülönböztetés más tárgyaktól • Részletkutatás (kép egyes részei alapján tartalmak összekapcsolása) • Arcfelismerés • Arcfelismerés, beazonosítás, megkülönböztetés másoktól • Mozgásfelismerés • Követés (pl.: videón) • Felismerés rossz körülmények mellett (sötét, rossz felbontás, hiányos képi tartalom) • Szándékfelismerés (predikció) Képfelismerés és -elemzés
  21. 21. • Zajos környezet hangtisztítása • Egyszerűbb hangfelismerés és megkülönböztetés (ember hangját a környezettől) • Hang nonverbális elemeinek (hangszín, hangerő, stb.) felismerése • Nonverbális elemek elemzése révén szándék-predikció • Szavak felismerése • Mondatok felismerése és értelmezése • Adott személy beszédének felismerése és kiszűrése a környezetéből • Kontextuális beszédtartalom elemzés • Beszédgenerálás adott stílus szerint Beszédfelismerés és -elemzés
  22. 22. • Felderítés • Mintázatok felismerése • Kép, hang, szövegfelismerés • Kapcsolati háló feltérképezése • Nyomkövetés, haladási útvonal predikciója • Elkövetői csoport megrajzolása • Elkövetői profil megrajzolása Forenzikus területek
  23. 23. • Támadásdetektálás • Riasztáskezelés • Incidenskezelés • Hálózati behatolásérzékelés és megelőzés • Csalások felderítése • Botnet-vadászat • Biztonságos felhasználói azonosítás • Spamszűrés • Támadói mintázat/viselkedés meghatározása • Prediktív előrejelzések • Logfájlok mélyelemzése • Különböző, mesterséges intelligenciára épülő védelmi megoldások együttműködése • Eseményvizualizáció Kiberbiztonság
  24. 24. • Biztonsági rendszerek • Kényelmesebb élet • Élhetőbb város • Rend a káoszban (tömegközlekedés) • Energiaellátás • Hulladékgazdálkodás • Víz- és szennyvízgazdálkodás • Környezetvédelem • Megfigyelőrendszerek Épületek, városok
  25. 25. Néhány példa a gyakorlatból
  26. 26. Kiterjesztett valóság MI
  27. 27. Ipar 4.0 MI
  28. 28. Intelligens épület MI
  29. 29. Intelligens város MI
  30. 30. Hagyományos adatok Közösségi adatok Online adatok Társadalmi Kredit Rendszere 111111111111111111 MI
  31. 31. Adatok, bemenetek Jövedelemadó Kölcsön visszafizetése Hitelkártya számla Rezsiszámlák Perköltség megfizetése Közlekedési szabályok betartása Családtervezési korlátok betartása Fizetés a tömegközlekedésért Becsületesség Önkéntesség Jó szülő Bűnözési rekord Kapcsolat a többi internet-felhasználóval Online közzétett hírek megbízhatósága Vásárlási szokások
  32. 32. • A szakemberek hatékonyabb munkát tudnak végezni • Kiszűrhetők arcfelismerés alapján a veszélyes elemek • Akinek az arca nincs a rendszerben regisztrálva az gyanús (rejtőzködik, vagy külföldi) • Viselkedésalapú elemzés alapján kiszűrhetők azok, akik valamilyen (terror)cselekményt akarnak elkövetni • A rossz úton járókat beazonosítás után meg lehet szólítani • Korreláció, valószínűségszámítás, szociometria és hálózatelemzés alapján rejtett összefüggések is feltárhatók az egyes emberek, helyszínek, események között • Nyomon követhető egy személy fejlődése/leépülése • Nyomozás forró nyomon • Városok (és vidék) védelme a belső ellenségtől • Valós idejű nemzetbiztonsági átvilágítás lehetősége • Visszaszorulnak az álhírek Nemzetbiztonsági hatás
  33. 33. A mesterséges intelligencia adat- és információbiztonsági kihívásai
  34. 34. Visszaélés az egyén arcával
  35. 35. Visszaélés az egyén adataival és eszközeivel
  36. 36. Egyén illetéktelen követése
  37. 37. Hibásan működő szenzorok
  38. 38. Rendszerelemek közötti kommunikációs és hálózati hiba
  39. 39. Adatbázis - struktúrahiba
  40. 40. Adatbázisok hibás összekapcsolása
  41. 41. Rossz, hibás BDA
  42. 42. Hibás algoritmusok
  43. 43. Gépi tanulási hibák
  44. 44. A mesterséges intelligencia hibái
  45. 45. Emberi (szándékos) károkozás
  46. 46. A mesterséges intelligencia hatása a foglalkoztatottságra a biztonságtechnika területén
  47. 47. Mesterséges intelligencia Humán intelligencia • Képes az emberi viselkedés és a kognitív folyamatok szimulációjára • Megragadja és megőrzi az emberi szakértelmet és kommunikált tapasztalatot • Nagy mennyiségű adatot képes gyorsan megérteni, gyorsan ad választ • Nincs józan ész • Nem tud egyszerre vegyes tudással foglalkozni • Sokba kerül a fejlesztése • Jogi és etikai kérdéseket és problémákat vet fel • Intuíció, józan ész, ítélet, kreativitás, hit • Az intelligencia bemutatásának képessége hatékony kommunikáció révén • Érvelés és kritikus gondolkodás • Az ember hibázik • Korlátozott tudásbázis • A számítógéphez képest az adatfeldolgozás lassan történik az agyban • Az ember nem képes nagy mennyiségű adat tárolására a memóriájában
  48. 48. 1. az emberek és aktivitásaik észlelése 2. a verbális kifejezések generálása (beszéd), illetve a beszéd megértése 3. nonverbális kifejezések generálása, illetve a nonverbális jelzések megértése 4. az érzelmi állapotok modellezése, kifejezése és megértése 5. a szándékos cselekvések felismerése és közvetítése 6. együttműködés az emberekkel 7. navigálás (fizikai helyzetfelismerés) az emberek környékén és környezetében 8. társadalmi kontextusban tanulni az emberektől Az MI mérföldkövei
  49. 49. 1. Nem nyújt semmilyen segítségét, mindent az ember csinál. 2. Teljes körű cselekvési alternatívákat kínál. 3. Leszűkíti a cselekvést néhány választási lehetőségre. 4. Egyetlen tevékenységet/műveletet végez. 5. Végrehajtja a műveletet, ha az ember jóváhagyja azt. 6. Mielőtt a műveletet végrehajtaná, lehetőséget ad az embernek, hogy azt megvétózza. 7. Automatikusan hajtja végre a műveletet, de erről feltétlenül tájékoztatja az embert. 8. A művelet automatikus végrehajtás után csak akkor tájékoztatja az embert, ha az kéri. 9. A művelet automatikus végrehajtása után csak akkor tájékoztatja az embert, ha ilyen döntést hoz. 10. Maga dönt el mindent, automatikusan működik, figyelmen kívül hagyva az embert. A gép autonómiája – A számítógép…
  50. 50. Kitekintés a jövőbe
  51. 51. • Az MI mindenhol megjelenik, köszönhetően a mobileszközökbe integrált MI platformoknak • A műszaki-informatikai fejlesztések mellett egyre nagyobb hangsúlyt kap az MI etikai és humán oldala • Az MI lényegesen hatékonyabbá fogja tenni a munkafolyamatokat • Az MI segítségünkre lesz, hogy a dolgokat jobban csináljuk • Az MI révén az életünk kényelmesebbé válik • Szakmák eltűnése, új szakmák születése • Együtt fogunk dolgozni az MI-ra épülő megoldásokkal Az MI jövője I.
  52. 52. • A veszélyes munkaterületeken az MI-ra épülő megoldások helyettesítik az embert • Egyre nagyon hangsúlyt kap az MI-vel kapcsolatos informatikai rendszerek védelme • Új hibajavító algoritmusok fejlesztése • Megbízható emberek kiválasztása és alkalmazása a hibás mesterséges intelligencia döntéseinek vizsgálatára, elemzésére, módosítására, felülírására • Új társadalmi gondolkodás megjelenése • Új törvények elfogadása Az MI jövője II.
  53. 53. • Társadalmi kredit rendszere adat- és információbiztonsági kihívásainak kutatása • Aláírásazonosítás és –hamisításdetektálás mesterséges intelligencia segítségével (kutatás a Nemzetbiztonsági Szakszolgálat Szakértői Intézetével közösen) • Mesterséges Intelligencia Műhely • Mesterséges intelligencia a biztonságtechnikában című tantárgy • Releváns szak- és diplomadolgozati, illetve TDK témák • Konferenciaelőadások és szakmai tanulmányok Kapcsolódó aktivitásunk a Bánki Karon
  54. 54. Dr. Kollár Csaba PhD Kibernetikus, doktorandusz Óbudai Egyetem Biztonságtudományi Doktori Iskola https://www.linkedin.com/in/drkollarcsaba | http://www.slideshare.net/drkollarcsaba Köszönöm megtisztelő figyelmüket!
  55. 55. • https://www.csc.gov.sg/images/default-source/ethos-images/ethos-issue-21/rahhuld_jevont-lead-image.jpg • https://e3zine.com/wp-content/uploads/2018/01/robotic_process_automation_rpa_shutterstock_463259987web-990x693.jpg • https://cultura.hu/wp-content/uploads/2017/08/banki-donat-cigar-head.jpg • https://static.independent.co.uk/s3fs-public/thumbnails/image/2011/10/31/20/48-John-McCarthy-AP.jpg • https://blog.se.com/wp-content/uploads/2015/08/Smart-Cities-Segments.jpg • http://newsignal.es/sites/default/files/smart_home_system.png • http://www.industry4.hu • https://i.ytimg.com/vi/yQviYedbifM/maxresdefault.jpg • https://www.rathenau.nl/sites/default/files/styles/keyvisual_large_1920x1000/public/2018- 04/shutterstock_41674012.jpg?h=1e66e246&itok=lSl6ISiF • https://www.delnext.com/blog/wp-content/uploads/2017/02/delnext_blog_tracking-945x630.jpg • https://www.officevision.co.uk/wp-content/uploads/2018/11/maxresdefault.jpg • https://www.spindox.it/wp-content/uploads/2016/07/database.jpg • https://devclass.com/wp-content/uploads/2018/06/The-Agile-and-the-Continuous-Database-Drift%E2%80%A6Neat-film-title-but- somethingtoavoid-copy.jpg • https://images.techhive.com/images/article/2015/09/statistics-stats-big-data-analytics-100613892-large.jpg • https://dechema.de/events_media/Veranstaltungen/2018/Smart+Sensors/SmartSensors-height-1357-width-1920-p-15906.jpg • https://www.crookedmagazine.com.mx/wp-content/uploads/2018/09/mask1.jpg • https://hbr.org/resources/images/article_assets/2014/12/dec14_15_159737162.jpg • https://www.einfochips.com/blog/wp-content/uploads/2018/11/how-to-develop-machine-learning-applications-for-business- featured.jpg • https://futureoflife.org/wp-content/uploads/2015/11/artificial_intelligence_benefits_risk.jpg • https://www.intheblack.com/-/media/intheblack/allimages/sponsored-content/2018/dexus-office- space.jpg?rev=835b5eb0fcd5481b960b7abfeec3eed2 • http://legalexecutiveinstitute.com/artificial-intelligence-in-law-the-state-of-play-2016-part-1/ A felhasznált képek forrása
  56. 56. A prezentáció az Innovációs és Technológiai Minisztérium Új Nemzeti Kiválósági Programjának támogatásával készült. Szolgálati közlemény

×