Dr. Kollár Csaba PhD Orwell szelleme köztünk él? A társadalom globális megfigyelésének demokratikus és diktatórikus lehetőségei KUTATÓK ÉJSZAKÁJA 2019 2019. szeptember 27. Óbudai Egyetem Bánki Donát Gépész és Biztonságtechnikai Mérnöki Kar Budapest

1. KUTATÓK ÉJSZAKÁJA 2019
2019. szeptember 27.
Óbudai Egyetem Bánki Donát Gépész és Biztonságtechnikai Mérnöki Kar
Budapest
Dr. Kollár Csaba PhD
ORWELL SZELLEME KÖZTÜNK ÉL?
A társadalom globális megfigyelésének demokratikus
és diktatórikus lehetőségei

2. BEMUTATKOZÁS

3. DIGITÁLIS KOR társadalmi vetületei
gazdasági hatásai
információbiztonság
humán aspektusa
biztonságtudatosság
fejlesztése
ember-robot interakció
emberi oldala
intelligens városok
1.) Mit jelent a
társadalomban a
(globális) megfigyelés?
2.) Melyek a megfigyelés
demokratikus és
diktatórikus lehetőségei?
3.) A rendszernek milyen
információbiztonsági
kihívásoknak kell
megfelelnie?mesterséges intelligencia

4. A társadalmat csak a hozzá
tartozó üzenetek és közlési
lehetőségek tanulmányozása
alapján lehet megérteni.
Norbert Wiener

5. • Marketing, kereskedelem
• Pontgyűjtő kártya
• Nyereményjátékok
• Direkt marketing
• Vonalkód
• Online vásárlás (regisztráció)
• Munkaügy
• Önéletrajz
• Diplomamásolatok
• Pénzügy
• Bankkártyás fizetés
• Hitelfelvételnél bírálat
• Közigazgatás
• Adószám, TAJ
• Oktatás
• Neptun
• Napló, e-napló
• Közösségi média
• Regisztráció
• Ismerősök hálója
• Médiatartalom-fogyasztási
szokások
• Okostelefon
• GPS
• Médiatartalom-fogyasztási
szokások
Néhány előzmény
Elolvastuk a szerződést/használati feltételeket?

6. • Bank (bankszámla)
• Csomagküldő szolgáltatások
• Gépjárművünkkel kapcsolatos nyilvántartások
• Ismerőseink címlistái (Google címtár)
• Ismerőseink telefonja
• Kereskedelmi és e-kereskedelmi vállalkozások
• Kézbesítő szolgáltatók (posta, gyorsposta)
• Könyvtár (kölcsönzés)
• Közösségi média (Facebook, Linkedin, Youtube, Slideshare)
• Közüzemi szolgáltatók
• Lakcímnyilvántartás
• Munkahely/iskola (HR, bérszámfejtés, beléptetés, neptun)
• NAV (adószám)
• Nemzeti Egészségbiztosítási Alapkezelő (TAJ)
• Szakmai regiszterek
• Szakmai szervezetek, szövetségek tagnyilvántartásai
• ugyfelkapu.gov.hu
• Újságok, kiadók, posta (előfizetés)
Hány adatbázisban vagyunk regisztrálva?

7. • Név
• Lakcím
• Telefonszám
• Email cím
• Fizikai cím (lakcím, tartózkodási hely)
• Végzettségek
• Munkahely(ek)
• Családi állapot
• Rokonok, ismerősök
• Közösségi oldalakon ismerősök, aktivitások,
posztolások, lájkolások, megosztások
• Fizetési/pénzhasználati szokások
• Vásárlási szokások
• Antropometriai jellemzők
• Alvási szokások
• Viselkedés
• Kulturális fogyasztás
• Hanghordozás, beszédstílus
• Nyelvismeret és egyéb ismeretek
• Szociális készségek
Mit tudhatnak rólunk?

8. Munkahelyi
(180°/360°/540°)
Karrier, előre menetel, fizetésemelés, elbocsátás
Linkedin (Skills &
Endorsements)
Ha az adott területen elismert ember értékel, akkor szakmai
személyes márka épül, releváns állásajánlatok
Iskolai (osztályzat,
aláírás, felmentés)
Sikeres/sikertelen vizsga, félév, diploma, diplomás munkahely
Sportversenyek Kvalifikáció, részvétel lehetősége rangos versenyeken
Közösségi média
(lájk, komment)
Önértékelés növelése/csökkenése, nárcisztikusság,
öngyilkosság, személyes márka építése
Hitelminősítés
Kedvezőbb/kedvezőtlenebb hitelkonstrukció, eladósodás,
csőd, célok elérése
Vásárlás (vásárló) Hűségpontok, kedvezmények, ajándékok
Vásárlás (eladó) Jó/rossz (megbízhatatlan) kereskedő, gyártó, profitcsökkenés
Értékelés és következményei

9. • Hatalmi szóval
• Társadalmi elvárásként előadva
• Gamification
Jutalmak
• ajándékok
• pontok
• jelvények
• újabb szintre lépés
• kedvezmények
• kiváltságok
• újabb eszközök a játékhoz
• virtuális fizetőeszközök
• folyamat állapotát jelző csík töltődése
• ranglistás helyek
• státuszjutalmak
Mivel, s hogyan vegyük rá az embereket az aktivitásra?

10. Elolvasta a felhasználási feltételeket?
RENDSZERINT NEM
Elégedett az adott szolgáltatással?
+/-
Hallott a társadalmi kredit rendszeréről?
NEM, VALAMIT
Elfogadja a társadalmi kredit rendszerét?
Amennyiben a rendszer átlátható és demokratikus
módon kerül kialakításra, s a megfelelő független
ellenőrzés biztosított, akkor elfogadja.
Mit mondanak a kutatási eredmények?

11. Mi lenne, ha a különböző
értékelési helyeket
összekapcsolnánk?
Milyen előnyök/hátrányok
származnának belőle?
Hogyan tudnánk ezt
jogszerű(nek tűnő)en
csinálni?

12. A TÁRSADALMI KREDIT RENDSZERE

13. • Hivatalos bejelentés: 2014
• Bevezetés: 2020
• Polgárok száma: 1,3 milliárd fő
• Technológiák összekapcsolása
• Adatbázisok összekapcsolása
• Azonosítás: személyi igazolvány (azonosítószám) alapján
• Érintettség: egyének, vállalatok, intézmények
• Területek: politika, üzleti élet, társadalom,
igazságszolgáltatás
• Következmények:
• Jutalmak
• Büntetések
Alapinformációk a kínai társadalmi kredit rendszeréről

14. • Ki a társadalom/kormányzat által jónak értékelt ember?
• Hogyan lehet valakit objektíven értékelni?
• Mi számít bele az értékelésbe?
• 24/7 idő
• Rokonok, barátok
• Eddigi életút
• Szűkös erőforrásokhoz való igazságos hozzáférés (egy
börtönviselt ember és egy tanár egyaránt új vesére vár,
ki kapja meg előbb?)
• Mennyi az a lélektani küszöb, ami felett már elfogadjuk
a (totális) megfigyelést? (kedvezmények mértéke, fajtái)
Bevezető gondolatok

15. • Okostelefonok (GSM, GPS)
• Testen viselhető okoseszközök (óra, karkötő, cipő, póló)
• Beléptető rendszerek
• Biometrikus
• Kártyás
• RFID-s
• Kamera
• Utcai/közterület
• Járműveken
• Beltéri (iroda)
• Okostelefon/tablet
Megfigyelés BE

16. • Telefont kikapcsolja, eldobja
• Testen viselhető okoseszközt kikapcsolja, eldobja, leveszi
• Beléptető rendszerek
• Biometrikus – nem lép be, más testlenyomatával lép be
• Kártyás – más kártyáját használja
• RFID-s – más eszközét használja
• Kamera – smink, paróka, napszemüveg
• Utcai/közterület
• Járműveken
• Beltéri (iroda)
• Okostelefon/tablet – kikapcsolja, kamerát letakarja
Kilépési pont: szürke zónák, ha ide téved az ember, akkor
„elveszik”, de drónokkal tovább figyelhető
Megfigyelés KI

17. • 2007-ben az Állami Tanács tárcaközi konferenciája a
társadalmi kredit rendszerének fejlesztéséről
• A keretrendszer megalkotása
• Főbb politikai intézkedések kutatása és kidolgozása
• Hibaelhárítás
• Politikai végrehajtás felügyelete
• Három kiemelt feladat
1. A piacgazdaság jobb hitelinformációs rekordjainak létrehozása
2. Hitelinformációs rendszerek létrehozása különösen a pénzügyi
szektor számára
3. Hitelszolgáltató piac fejlesztése a kormányzat számára is
átlátható adatokkal, információkkal
• A társadalmi kredit fókusza gazdasági
• Információcsere a gazdasági, kormányzati szereplők között
Előzmények 1.

18. • 2010, Suining megye, Jiangsu tartomány
• Tömeghitel (dazhong xinyong)
• Egyéni magatartás mérése és értékelése
• 1000 kreditpont (jogi, közigazgatási, erkölcsi normák)
• 4 kategóriába sorolták az embereket
• Következmények
• Előnyös hozzáférés a foglalkoztatási lehetőségekhez (+)
• Szigorúbb ellenőrzés (-)
1. Párttagság vizsgálata, hadseregbe való felvétel, köztisztviselő
kinevezése
2. Alacsony költségű állami lakások, szociális jólét
3. Vállalkozóvá válás támogatása, letelepedéshez szükséges
engedélyek
4. Állami támogatás, alacsonyabb kamatozású hitelek, kormány által
támogatott képzésen való részvétel
Előzmények 2.

19. 1. őszinteség a kormányzati ügyekben
2. üzleti becsületesség
3. társadalmi becsületesség
4. igazságügyi hitelesség
Fókuszterületek

20. • Algoritmizálás
• BDA (big data analitika)
• Felhő alapú számítástechnika (cloud)
• GPS
• Hálózatkutatás
• IoT
• Kamerarendszerek
• Kiterjesztett és kevert valóságok
• Közösségi média
• Mobilkommunikáció (3G, 4G, 5G, BT, wifi, zigbee)
• Robotok, drónok
• Szenzortechnológia
• Mesterséges intelligencia
Kapcsolódó technológiák

21. ADATOK
Rengeteg adat áll rendelkezésre, ezek mennyisége
folyamatosan növekszik
SZÁMÍTÁSI KAPACITÁS
Olyan számítások is elvégezhetők belátható időn belül, amire
tíz évvel ezelőtt még a szuperszámítógépek sem voltak képesek
ALGORITMUSOK
Az AI-t támogató tanulóalgoritmusok, statisztika és
valószínűségszámítás, regressziós modellek, klasszifikáció,
klaszterizáció, lágyszámítási módszerek megjelenése a
gyakorlati, összetett, komplex, bonyolult problémák
megoldásában
Miért éppen 2020?

22. Hagyományos adatok
Közösségi adatok
Online adatok
Működés
AI
111111111111111111

23. Adatok, bemenetek
Jövedelemadó
Kölcsön
visszafizetése
Hitelkártya
számla
Rezsiszámlák
Perköltség
megfizetése
Közlekedési
szabályok betartása
Családtervezési
korlátok betartása
Fizetés a
tömegközlekedésért
Becsületesség
Önkéntesség
Jó szülő
Bűnözési rekord
Kapcsolat a többi
internet-felhasználóval
Online közzétett hírek
megbízhatósága
Vásárlási szokások

24. Feketelista vs. „Jógyerek”

25. INFORMATIKAI HÁTTÉR

26. A kormány törekvése informatikai eszközökkel és
megoldásokkal
• Az állam és a társadalom irányítása
• horizontális és vertikális információmegosztás
• a protekcionizmus felszámolása
• a papíralapon levő adatok digitalizálása
Kormányzati szándék

27. Minden állampolgár és vállalkozás azonosítható legyen
• egyedi azonosítás (18-digites kód az állampolgároknak)
lehetővé tétele minden szükséges helyzetben/helyen
• a beazonosít nélküli működés (életvitel) lehetetlenné
tétele (avatarok, anonim digitális részvétel tiltása)
Adatbázisok összekapcsolásának megtervezése
• hivatalok adatbázisai
• mobiltelefonszám és -előfizetés
• közöségi média
• online szolgáltatások
• biometrikus azonosítás
Első lépés

28. • Olyan adatbázisok létrehozása, amelyek tartalma az
egyedi azonosító alapján összekapcsolható
• Baidu (nem anonim) keresőtalálatainak elemzése,
ezeknek az adatbázisok a hozzákapcsolása a többi
adatbázishoz
Második lépés

29. • Tárolt adatok és információk feldolgozása és
felhasználása
• Big data elemzés
• Korrelációszámítás
• Regressziószámítás
• Klasszifikáció (osztályozás)
• Klaszteranalízis (valószínűségszámítás alapján egyének
csoportokba sorolása)
• Szociometria, hálózatkutatás
• Algoritmusok használata
• Feketelisták működésének a fejlesztése
Harmadik lépés

30. • Hibajavítás
Negyedik lépés

31. ADAT- ÉS INFORMÁCIÓBIZTONSÁGI KIHÍVÁSOK(K)

32. Visszaélés az egyén arcával

33. Visszaélés az egyén adataival és eszközeivel

34. Egyén illetéktelen követése

35. Hibásan működő szenzorok

36. Rendszerelemek közötti kommunikációs és hálózati hiba

37. Adatbázis - struktúrahiba

38. Adatbázisok hibás összekapcsolása

39. Rossz, hibás BDA

40. Hibás algoritmusok

41. Gépi tanulási hibák

42. A mesterséges intelligencia hibái

43. Hivatalnokok károkozása

44. GAZDASÁGI ÉS TÁRSADALMI HATÁS

45. • Féken tartja az illegális magatartást, segítheti az egyének
és a vállalatok gazdasági megbízhatóságát
• Hozzájárul a társadalmilag és környezetileg
felelősségteljes új magatartás kialakításához (nevelés)
• A vállalatok transzparens működésének támogatása
• Az üzleti partnerek jobb megítélése
• Meglevő gazdasági statisztikák jóságának növelése
• A big data elemzések új vállalati lehetőségeket
teremtenek
• Megéri „jógyereknek” lenni
Pozitív hatás

46. • Nem kiforrott még a technológia és a minősítő rendszer sem,
nagy a kockázata a téves értékelésnek
• Folyamatosan nagyon sok adatot kezel a rendszer
• adatszivárgás révén illetéktelenek kezébe kerülhetnek titkos és
személyes adatok
• nő az adatlopás esélye
• adatvesztés hatalmas gazdasági károkat okozhat
• Az állam és a vállalatok mindent tudhatnak az emberről
• Megszűnik a magánszféra
• Az üzleti élet szereplői – ha nem képesek betartani a
szabályokat – ellehetetlenedhetnek
• Mivel az állam az adatokhoz korlátlanul férhet hozzá, a
hivatalnokok a számukra nem szimpatikus egyént/vállalatot
ellehetetleníthetik
• Kína üzleti tevékenysége kiszámíthatatlanná válik
Negatív hatás

47. • A nemzetközi vállalatok – hogy elkerüljék a büntetést –
megpróbálnak beilleszkedni a rendszerbe
• Adatmegosztás révén a kínai vásárlók adatai külföldre
kerülhetnek
• Kína a rendszer révén hozzáférhetne a külföldi vállalatok
csúcstechnológiai adataihoz (know-how)
• A társadalmi kredit rendszere kiváló exportcikk (nem
csak) az olyan országok számára, amelyeknél fontos a
gazdaság állami irányításának megerősítése
Nemzetközi hatás

48. Egyesült Királyság
• 2018 New Economics Foundation összehasonlítása a kínai és az angol
rendszerekről
• Adatok: polgári kredit pontszám, telefonhasználat, bérleti díj
• Adatok felhasználása: munkaköri alkalmazások szűrése, szociális
szolgáltatások igénybevétele, személyre szabott reklámok
Németország
• 2018 február Handelsblatt Global beszámolója
• Lassú közeledés a kínai társadalmi kredit rendszeréhez hasonló rendszer
kiépítéséhez
• Adatok: egyetemes hitelminősítő rendszer, földrajzi helyek, egészségügyi
nyilvántartások
• Adatok felhasználása: hitelbírálat, egészségbiztosításhoz való hozzáférés
A társadalmi kredit megjelenése Európában

49. Kitekintés
a jövőbe* *Future Today Institute,
Gartner, PREMA

50. 1. Részleteiben szinte minden országban megjelenik
2. Nagyon hangsúlyt kap az informatikai rendszerek
védelme
3. Új hibajavító algoritmusok
4. Megbízható emberek kiválasztása és alkalmazása a
hibás mesterséges intelligencia döntéseinek
vizsgálatára, elemzésére, módosítására, felülírására
5. Társadalmi értékrend átalakulása és diverzifikálódása
(elfogadás, elutasítás, nomádok, egyéni
szabadságharcosok, kiskapuk keresése, must go zónák
állami felügyelet mellett)
6. Új törvények
A társadalmi kredit rendszer(ek) jövője

52. • Társadalmi kredit rendszere adat- és
információbiztonsági kihívásainak kutatása
• Aláírásazonosítás és –hamisításdetektálás mesterséges
intelligencia segítségével (kutatás a Nemzetbiztonsági
Szakszolgálat Szakértői Intézetével közösen)
• Mesterséges Intelligencia Műhely
• Mesterséges intelligencia a biztonságtechnikában című
tantárgy
• Releváns szak- és diplomadolgozati, illetve TDK témák
• Konferenciaelőadások és szakmai tanulmányok
Kapcsolódó aktivitásunk a Bánki Karon

53. Dr. Kollár Csaba PhD
Óbudai Egyetem Biztonságtudományi Doktori Iskola
https://www.linkedin.com/in/drkollarcsaba | http://www.slideshare.net/drkollarcsaba
Köszönöm megtisztelő figyelmüket!

54. • https://i2.wp.com/www.brainpickings.org/wp-content/uploads/2018/06/norbertweiner.jpg?fit=600%2C315&ssl=1
• https://www.technocracy.news/interest-in-orwells-classic-1984-still-endures-after-70-years/
• https://i.redd.it/ndl8tw8k5qp11.jpg
• https://www.chinatechnews.com/2014/03/27/20394-jd-com-coolpad-sign-cny10-billion-contract-for-made-in-china-smartphones
• https://museum-id.com/wp-content/uploads/2018/02/TerracottaArmy.jpg
• https://cultura.hu/wp-content/uploads/2017/08/banki-donat-cigar-head.jpg
• https://media.pixcove.com/C/2/2/Paper-Newspaper-Parchment-Stationery-Parchment-Pap-4544.jpg
• https://images-na.ssl-images-amazon.com/images/I/818XhUoFQ9L._SY679_.jpg
• https://cdn1.i-scmp.com/sites/default/files/styles/1200x800/public/images/methode/2018/08/04/9c28d77e-955b-11e8-acb0-
2eccab85240c_1280x720_231542.JPG?itok=Rc9OGrQt
• https://de.blog.marketo.com/content/uploads/sites/3/2019/01/GettyImages-155444736-Concert-crowd-cheering-and-watching-a-band-on-
stage-blinded-by-stage-lights.gif
• https://cyberdefenses.com/wp-content/uploads/2018/03/iStock-865739462-1000x563.jpg
• https://i.ytimg.com/vi/yQviYedbifM/maxresdefault.jpg
• https://www.rathenau.nl/sites/default/files/styles/keyvisual_large_1920x1000/public/2018-
04/shutterstock_41674012.jpg?h=1e66e246&itok=lSl6ISiF
• https://www.delnext.com/blog/wp-content/uploads/2017/02/delnext_blog_tracking-945x630.jpg
• https://www.officevision.co.uk/wp-content/uploads/2018/11/maxresdefault.jpg
• https://www.spindox.it/wp-content/uploads/2016/07/database.jpg
• https://devclass.com/wp-content/uploads/2018/06/The-Agile-and-the-Continuous-Database-Drift%E2%80%A6Neat-film-title-but-
somethingtoavoid-copy.jpg
• https://images.techhive.com/images/article/2015/09/statistics-stats-big-data-analytics-100613892-large.jpg
• https://dechema.de/events_media/Veranstaltungen/2018/Smart+Sensors/SmartSensors-height-1357-width-1920-p-15906.jpg
• https://www.crookedmagazine.com.mx/wp-content/uploads/2018/09/mask1.jpg
• https://hbr.org/resources/images/article_assets/2014/12/dec14_15_159737162.jpg
• https://www.einfochips.com/blog/wp-content/uploads/2018/11/how-to-develop-machine-learning-applications-for-business-featured.jpg
• https://futureoflife.org/wp-content/uploads/2015/11/artificial_intelligence_benefits_risk.jpg
• https://www.intheblack.com/-/media/intheblack/allimages/sponsored-content/2018/dexus-office-
space.jpg?rev=835b5eb0fcd5481b960b7abfeec3eed2
• http://blog.eleggua.es/wp-content/uploads/2014/07/Crystal-ball.jpg
• https://static.bhphotovideo.com/explora/sites/default/files/styles/top_shot/public/ts-cinema-vs-photography-lenses.jpg?itok=SyDFM-3w
A felhasznált képek forrása

55. A prezentáció az Innovációs és Technológiai
Minisztérium Új Nemzeti Kiválósági
Programjának támogatásával készült.
Szolgálati közlemény