Kollár Csaba: Rabok legyünk, vagy szabadok? (Városi) kényelmünk és biztonságunk a társadalmi kredit fókuszában
A ROBOTHADVISELÉS 2018 Robottechnológia és kiberbiztonság tudományos konferencián elhangzott előadás prezentációja
időpont: 2018. november 27.
helyszín: Nemzeti Közszolgálati Egyetem Zrínyi Miklós Laktanya és Egyetemi Campus, Budapest
Szolgálati közlemény: A prezentáció az Emberi Erőforrások Minisztériuma ÚNKP-18-3-I-OE-96 kódszámú Új Nemzeti Kiválósági Programjának támogatásával készült.
A COVID-19 hatása a hátrányos helyzetben élő családok társadalmi és gazdasági...
Rabok legyünk, vagy szabadok? (Városi) kényelmünk és biztonságunk a társadalmi kredit fókuszában
1. ROBOTHADVISELÉS 2018
Robottechnológia és kiberbiztonság tudományos konferencia
2018. november 27.
Nemzeti Közszolgálati Egyetem Zrínyi Miklós Laktanya és Egyetemi Campus
Budapest
Kollár Csaba
Rabok legyünk, vagy szabadok?
(Városi) kényelmünk és biztonságunk a társadalmi kredit fókuszában
3. DIGITÁLIS KOR társadalmi vetületei
gazdasági hatásai
információbiztonság
humán aspektusa
biztonságtudatosság
fejlesztése
ember-robot interakció
emberi oldala
intelligens városok
Hogyan építhető fel
egy olyan rendszer,
amelyik a városlakók
számára nagyfokú
biztonságot nyújt, s
társadalmi és
gazdasági hatása is
jelentős?
4. • Hivatalos bejelentés: 2014
• Bevezetés: 2020
• Polgárok száma: 1,3 milliárd fő
• Azonosítás: személyi igazolvány (azonosítószám) alapján
• Érintettség: egyének, vállalatok, intézmények
• Területek: politika, üzleti élet, társadalom,
igazságszolgáltatás
• Következmények:
• Jutalmak
• Büntetések
Alapinformációk a kínai társadalmi kredit
rendszeréről
5. • Ki a társadalom/kormányzat által jónak értékelt ember?
• Hogyan lehet valakit objektíven értékelni?
• Mi számít bele az értékelésbe?
• 24/7 idő
• Rokonok, barátok
• Eddigi életút
• Szűkös erőforrásokhoz való igazságos hozzáférés (egy
börtönviselt ember és egy tanár egyaránt új vesére vár,
ki kapja meg előbb?)
• Mennyi az a lélektani küszöb, ami felett már elfogadjuk
a (totális) megfigyelést? (kedvezmények mértéke, fajtái)
Bevezető gondolatok
7. • Telefont kikapcsolja, eldobja
• Testen viselhető okoseszközt kikapcsolja, eldobja, leveszi
• Beléptető rendszerek
• Biometrikus – nem lép be, más testlenyomatával lép be
• Kártyás – más kártyáját használja
• RFID-s – más eszközét használja
• Kamera – smink, paróka, napszemüveg
• Utcai/közterület
• Járműveken
• Beltéri (iroda)
• Okostelefon/tablet – kikapcsolja, kamerát letakarja
• Kilépési pont: szürke zónák, ha ide téved az ember, akkor
„elveszik”, de drónokkal tovább figyelhető
Megfigyelés KI
9. • NAV (adószám)
• Nemzeti Egészségbiztosítási Alapkezelő (TAJ)
• Bank (bankszámla)
• Munkahely/iskola (HR, bérszámfejtés, beléptetés, neptun)
• Könyvtár (kölcsönzés)
• Ismerőseink címlistái (Google címtár)
• Ismerőseink telefonja
• Közüzemi szolgáltatók
• Lakcímnyilvántartás
• Újságok, kiadók, posta (előfizetés)
• Gépjárművünkkel kapcsolatos nyilvántartások
• ugyfelkapu.gov.hu
• Szakmai szervezetek, szövetségek tagnyilvántartásai
• Szakmai regiszterek
• Közösségi média (Facebook, Linkedin, Youtube, Slideshare)
• Csomagküldő szolgáltatások
• Kézbesítő szolgáltatók (posta, gyorsposta)
• Kereskedelmi és e-kereskedelmi vállalkozások
Hány adatbázisban vagyunk regisztrálva?
10. • Név
• Lakcím
• Telefonszám
• Email cím
• Fizikai cím (lakcím, tartózkodási hely)
• Végzettségek
• Munkahely(ek)
• Családi állapot
• Rokonok, ismerősök
• Közösségi oldalakon ismerősök, aktivitások,
posztolások, lájkolások, megosztások
• Fizetési/pénzhasználati szokások
• Vásárlási szokások
• Antropometriai jellemzők
• Alvási szokások
• Viselkedés
• Kulturális fogyasztás
• Hanghordozás, beszédstílus
• Nyelvismeret és egyéb ismeretek
• Szociális készségek
Mit tudhatnak rólunk?
11. Munkahelyi
(180°/360°/540°)
Karrier, előre menetel, fizetésemelés, elbocsátás
Linkedin (Skills &
Endorsements)
Ha az adott területen elismert ember értékel, akkor
szakmai személyes márka épül, releváns állásajánlatok
Iskolai (osztályzat,
aláírás, felmentés)
Sikeres/sikertelen vizsga, félév, diploma, diplomás
munkahely
Sportversenyek Kvalifikáció, részvétel lehetősége rangos versenyeken
Közösségi média
(lájk, komment)
Önértékelés növelése/csökkenése, nárcisztikusság,
öngyilkosság, személyes márka építése
Hitelminősítés Kedvezőbb/kedvezőtlenebb hitelkonstrukció,
eladósodás, csőd, célok elérése
Vásárlás (vásárló) Hűségpontok, kedvezmények, ajándékok
Vásárlás (eladó) Jó/rossz (megbízhatatlan) kereskedő, gyártó,
profitcsökkenés
Értékelés és következményei
12. • Hatalmi szóval
• Társadalmi elvárásként előadva
• Gamification
Jutalmak
• ajándékok
• pontok
• jelvények
• újabb szintre lépés
• kedvezmények
• kiváltságok
• újabb eszközök a játékhoz
• virtuális fizetőeszközök
• folyamat állapotát jelző csík töltődése
• ranglistás helyek
• státuszjutalmak
Mivel, s hogyan vegyük rá az embereket az aktivitásra?
13. Mi lenne, ha a
különböző értékelési
helyeket
összekapcsolnák?
Milyen
előnyök/hátrányok
származnának belőle?
Hogyan tudnák ezt
jogszerű(nek tűnő)en
csinálni?
15. • Első említés 2002-ben Jiang Zemin főtitkár a 16.
pártkongresszuson
• Javítani kell a modern piaci rendszert
• Meg kell erősíteni és javítani kell a makrogazdasági
szabályozást és ellenőrzést
• Pénzügyi hitelképesség ellenőrzése
• A piacon a bizalom és a becsületes magatartás elősegítése
Előzmények 1.
16. • A Kínai Jegybank
• Intézkedések a késedelmes fizetések számának csökkentésére
• Bankhitel nyilvántartó és tanácsadó rendszer (1997)
• Hitelkeret központ (2006)
• Bankok és pénzügyi szervezetek kötelesek jelenteni
ügyfeleik hitelképességét
• Nem pénzügyi információk bíróságoktól, kormányzati
szervektől, távközlési vállalatoktól, adóhatóságtól
• Probléma: 2012-ben csak 280 millió polgárról (20%) állt
rendelkezésre hitelriport
Előzmények 2.
17. • 2007-ben az Állami Tanács tárcaközi konferenciája a
társadalmi kredit rendszerének fejlesztéséről
• A keretrendszer megalkotása
• Főbb politikai intézkedések kutatása és kidolgozása
• Hibaelhárítás
• Politikai végrehajtás felügyelete
• Három kiemelt feladat
1. A piacgazdaság jobb hitelinformációs rekordjainak létrehozása
2. Hitelinformációs rendszerek létrehozása különösen a pénzügyi
szektor számára
3. Hitelszolgáltató piac fejlesztése a kormányzat számára is
átlátható adatokkal, információkkal
• A társadalmi kredit fókusza gazdasági
• Információcsere a gazdasági, kormányzati szereplők között
Előzmények 3.
18. • 2010, Suining megye, Jiangsu tartomány
• Tömeghitel (dazhong xinyong)
• Egyéni magatartás mérése és értékelése
• 1000 kreditpont (jogi, közigazgatási, erkölcsi normák)
• 4 kategóriába sorolták az embereket
• Következmények
• Előnyös hozzáférés a foglalkoztatási lehetőségekhez (+)
• Szigorúbb ellenőrzés (-)
1. Párttagság vizsgálata, hadseregbe való felvétel, köztisztviselő
kinevezése
2. Alacsony költségű állami lakások, szociális jólét
3. Vállalkozóvá válás támogatása, letelepedéshez szükséges
engedélyek
4. Állami támogatás, alacsonyabb kamatozású hitelek, kormány által
támogatott képzésen való részvétel
Előzmények 4.
19. • Arany Pajzs Projekt (2003-, Közbiztonsági Minisztérium)
• Az információáramlás ellenőrzése cenzúrázási
rendszeren keresztül, beleértve:
• IP blokkolás
• DNS szűrés és átirányítás
• URL és csomagszűrés
• VPN/SSH forgalomfelismerés
• Beszéd- és arcfelismerés
• Külföldi tartalmak cenzúrázása
• Hazai felhasználók által készített tartalmak (P2P, helyi/belső
szerverek)
• Öncenzúra kultúrája
• Internetes rendőrség (több mint 200.000 fő)
Előzmények 5.
26. A kormány törekvése informatikai eszközökkel és
megoldásokkal
• Az állam és a társadalom irányítása
• horizontális és vertikális információmegosztás
• a protekcionizmus felszámolása
• a papíralapon levő adatok digitalizálása
Kormányszándék
27. Minden állampolgár és vállalkozás azonosítható legyen
• egyedi azonosítás (18-digites kód az állampolgároknak)
lehetővé tétele minden szükséges helyzetben/helyen
• a beazonosít nélküli működés (életvitel) lehetetlenné
tétele (avatarok, anonim digitális részvétel tiltása)
Adatbázisok összekapcsolásának megtervezése
• hivatalok adatbázisai
• mobiltelefonszám és -előfizetés
• közöségi média
• online szolgáltatások
• biometrikus azonosítás
Első lépés
28. • Olyan adatbázisok létrehozása, amelyek tartalma az
egyedi azonosító alapján összekapcsolható
• Baidu (nem anonim) keresőtalálatainak elemzése,
ezeknek az adatbázisok a hozzákapcsolása a többi
adatbázishoz
Második lépés
29. • Tárolt adatok és információk feldolgozása és
felhasználása
• Big data elemzés
• Korrelációszámítás
• Klaszteranalízis (valószínűségszámítás alapján egyének
csoportokba sorolása)
• Szociometria, hálózatkutatás
• Algoritmusok használata
• Feketelisták működésének a fejlesztése
Harmadik lépés
31. • Személyes hitelminősítő rendszer
• Sesame Credit (Ant Financial Group)
• Hitelminősítés + hűségprogram
• 350-950 pont 5 kategória alapján
1. Hiteltörténet, korábbi hitelek visszafizetése
2. Viselkedési tendenciák (vásárlási magatartás, fizetések
feldolgozása, számlák rendezése, pénzügyek kezelése)
3. Meglevő vagyon (stabil bevételek, személyes vagyontárgyak)
4. A tagok által rendelkezésre bocsátott, ellenőrzött,
megbízható információk
5. Társadalmi kapcsolatok (kapcsolatba lépés és viselkedés a
barátokkal)
• Pontozási algoritmus (35%, 25%, 20%, 15%, 5%)
33. • Féken tartja az illegális magatartást, segítheti az egyének
és a vállalatok gazdasági megbízhatóságát
• Hozzájárul a társadalmilag és környezetileg
felelősségteljes új magatartás kialakításához (nevelés)
• A vállalatok transzparens működésének támogatása
• Az üzleti partnerek jobb megítélése
• Meglevő gazdasági statisztikák jóságának növelése
• A big data elemzések új vállalati lehetőségeket
teremtenek
• Megéri „jógyereknek” lenni
Pozitív hatás
34. • Nem kiforrott még a technológia és a minősítő rendszer sem,
nagy a kockázata a téves értékelésnek
• Folyamatosan nagyon sok adatot kezel a rendszer
• adatszivárgás révén illetéktelenek kezébe kerülhetnek titkos és
személyes adatok
• nő az adatlopás esélye
• adatvesztés hatalmas gazdasági károkat okozhat
• Az állam és a vállalatok mindent tudhatnak az emberről
• Megszűnik a magánszféra
• Az üzleti élet szereplői – ha nem képesek betartani a
szabályokat – ellehetetlenedhetnek
• Mivel az állam az adatokhoz korlátlanul férhet hozzá, a
hivatalnokok a számukra nem szimpatikus egyént/vállalatot
ellehetetleníthetik
• Kína üzleti tevékenysége kiszámíthatatlanná válik
Negatív hatás
35. • A szakemberek hatékonyabb munkát tudnak végezni
• Kiszűrhetők arcfelismerés alapján a veszélyes elemek
• Akinek az arca nincs a rendszerben regisztrálva az gyanús (rejtőzködik,
vagy külföldi)
• Viselkedésalapú elemzés alapján kiszűrhetők azok, akik valamilyen
(terror)cselekményt akarnak elkövetni
• A rossz úton járókat beazonosítás után meg lehet szólítani
• Korreláció, valószínűségszámítás, szociometria és hálózatelemzés
alapján rejtett összefüggések is feltárhatók az egyes emberek,
helyszínek, események között
• Nyomon követhető egy személy fejlődése/leépülése
• Nyomozás forró nyomon
• Városok (és vidék) védelme a belső ellenségtől
• Valós idejű nemzetbiztonsági átvilágítás lehetősége
• Visszaszorulnak az álhírek
Nemzetbiztonsági hatás
36. • A nemzetközi vállalatok – hogy elkerüljék a büntetést –
megpróbálnak beilleszkedni a rendszerbe
• Adatmegosztás révén a kínai vásárlók adatai külföldre
kerülhetnek
• Kína a rendszer révén hozzáférhetne a külföldi vállalatok
csúcstechnológiai adataihoz (know-how)
• A társadalmi kredit rendszere kiváló exportcikk (nem
csak) az olyan országok számára, amelyeknél fontos a
gazdaság állami irányításának megerősítése
Nemzetközi hatás
37. Egyesült Királyság
• 2018 New Economics Foundation összehasonlítása a kínai és az angol
rendszerekről
• Adatok: polgári kredit pontszám, telefonhasználat, bérleti díj
• Adatok felhasználása: munkaköri alkalmazások szűrése, szociális
szolgáltatások igénybevétele, személyre szabott reklámok
Németország
• 2018 február Handelsblatt Global beszámolója
• Lassú közeledés a kínai társadalmi kredit rendszeréhez hasonló rendszer
kiépítéséhez
• Adatok: egyetemes hitelminősítő rendszer, földrajzi helyek, egészségügyi
nyilvántartások
• Adatok felhasználása: hitelbírálat, egészségbiztosításhoz való hozzáférés
A társadalmi kredit megjelenése Európában
39. • Intelligens digitális háló kiépítése
• Mesterséges intelligencia a rendszerek többségében
• A digitális és a fizikai világ összekapcsolása
• Háló: emberek, gépek, folyamatok összekapcsolása
• Autonóm dolgok (AIoT)
• Kibővített elemzés (Big Data)
• Mesterséges intelligencia által vezérelt fejlesztés
• Digitális megkettőzés (valódi világ lenyomata)
• Összekapcsolt tapasztalat (ember-gép interakció)
• Blokklánc (algoritmus alapú bizalmi modell)
• Intelligens helyek
• Magánéleti zónák és az etika változása
• Kvantum-számítástechnika
40. Amit igazán
követelünk a
létezéstől, az nem az,
hogy más ember
utópiájába kerüljünk,
hanem, hogy olyan
helyzetbe kerüljünk,
hogy saját utópiát
alakítsunk ki.
Clifford Hugh Douglas
mérnök, a Social Credit gazdasági
reformmozgalom úttörője
41. Dr. Kollár Csaba PhD
Nemzeti Közszolgálati Egyetem Katonai Műszaki Doktori Iskola
Óbudai Egyetem Biztonságtudományi Doktori Iskola
Szent István Egyetem Gazdaság- és Társadalomtudományi Kar
https://www.linkedin.com/in/drkollarcsaba | http://www.slideshare.net/drkollarcsaba
Köszönöm megtisztelő figyelmüket!
43. A prezentáció az Emberi Erőforrások
Minisztériuma ÚNKP-18-3-I-OE-96 kódszámú
Új Nemzeti Kiválósági Programjának
támogatásával készült.
Szolgálati közlemény