Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

Fingerprinting

3,929 views

Published on

26. 11. 2014 Josef Šlerka, Socialbakers, @stunome
MLMU Praha

Published in: Data & Analytics
  • Be the first to comment

Fingerprinting

  1. 1. Fingerprinting případová studie 26. 11. 2014 Josef Šlerka, Socialbakers, @stunome MLMU Praha
  2. 2. Kdo jsem... stručné představení...
  3. 3. Josef Šlerka Head of R&D v Socialbakers V minulosti šéf Ataxo Interactive Stojím za projekty jako je Social Insider a další Vedu Studia nových médií na FF UK
  4. 4. Social Insider a Listening a jejich specifické problémy...
  5. 5. Social Insider & co. Social Insider je social media monitoring pro český a slovenský trh, který ma světovou mutací Social Listening. Technologicky využíváme Amazon, Elasticsearch, Redis, Ruby a další.
  6. 6. Běžné problémy Datové zdroje jsou zcela asynchronní (stream api v frekvenční api). Tlak je proměnlivý podle typu události. Data jsou relativně velká (půl miliardy zmínek konstatně se měnící v čase). Není předem jasné použití. Nejsou tu jasné reporty.
  7. 7. Specifické požadavky Asynchronost dat kupříkladu jinak postavený interface. Nelze kupříkladu stránkovat. (ukázka) Drill-down menu je analytikou, nikoli navigací. Není jasné kolik dat se bude exportovat, je proto třeba exportů na pozadí. Specifický problém při aggregacích spojený s konstatním tlakem dat.
  8. 8. Specifické požadavky Asynchronost dat kupříkladu jinak postavený v interface, nelze kupříkladu stránkovat. (ukázka) Drill-down menu je analytikou, nikoli navigací. Není jasné kolik dat se bude exportovat, je proto třeba exportů na pozadí. Specifický problém při aggregacích spojený s konstatním tlakem dat.
  9. 9. Nejvíc sdílený obsah Etuda na téma podobné příspěvky aneb fingerprinting
  10. 10. Požadavek najdi mi nebo posty, které jsou si hodně podobné: “třeba tak na 90% nebo tak nějak” příklad: #Rusko poprvé soudí žoldáka za válčení v řadách separatistů na Ukrajině. Média ho označují za nacionalistu a fašistu. http://t.co/7JtHsc3YV0 RT @Aktualnecz: #Rusko poprvé soudí žoldáka za válčení v řadách separatistů na Ukrajině. Média ho označují za nacionalistu a fašistu. http:…
  11. 11. Klasika Levenstheinova distance, NCD a další nearest neighbor methods
  12. 12. Levensthein & Co. Hammingova distance - počet substitucí znaků, které je nutno změnít aby se jeden řetezec proměnil v druhý (předpokládá se stejná vzdálenost) Levenstheinova distance - počet substitucí, vložení a smazání které je třeba pro změnu jednoho řetězce v druhý (řetězce mohou být různě dlouhé)
  13. 13. NCD Normalized compression distance. Abstraktní měření vzdálenosti řetězců pomocí kompresí. Autory jsou Rudi Cilibrasi a Paul M. B. Vitanyi Podobné věci sdílí stejné vlastnosti Dvě reprezentace jsou si tím podobnější, čím méně složitých změn je třeba k převodu jedné v druhou
  14. 14. NCD
  15. 15. Pro a proti rostoucí komplexita: n(n-1)/2 (u tranzitivních!) 3000 řádku vyžaduje 4.5 million kalkulací proměnlivá velikost textů jde optimalizovat, ale POZOR máme tu konstatní tlak dat a případný clustering musíme dělat on-the-fly umožňuje jemnější klastrování, někdy ale není jasné proč
  16. 16. Znovu a lépe key collision methods aneb fingerprinting (a taky perceptual hashing)
  17. 17. Základní idea vytvořit takovou reprezentaci obsahu, která bude různé podoby obsahu normalizovat do jednoho klíče de facto je to převrácená podoba hashování místo co nejkratší reprezenace unikátního obsahu tu chcem mít reprezentaci, která postihne co největší variablitu obsahu podobné příspěvky pak získáváme třeba agregací
  18. 18. Příklady Fingerprint N-Gram Fingerprint findimagedupes.pl
  19. 19. Fingerprint převést na běžnou ASCII reprezentac (zbabit je diakritiky) odmazat všechny přebytečné prázdné mezery všechny znaky změnit na malé odmazat všechny interpunkční znaménka rozdělit řetězec do samostatnách tokenů přes prázdné mezery seřadit tokeny podle abecedy a odmazat duplikující se spojit je všechny opět do jednoho řetězce
  20. 20. Detaily řeší specifický problém s diakritikou a šumem znaků pořadí slov v textu je pro něj nerelevatní možnosti vylepšení: odstranění speficických slov (jak stopwords, tak RT či via), lemmatizace či stemming možnostu ušteření místa pomocí klasíckého hash
  21. 21. N-Gram Fingerprint převeď na ASCII reprezentaci změň všechny znaky na malé odmaž všechnu interpunkci a všechny speciální znaky získej seznam n-gramů spoj je dohromady
  22. 22. Detaily příklad: “bratislava” ma 1-gram “abilrstv” oproti předchozímu ve variantě s 1-gramy a 2-gramy dokáže řešit specifické varianty: "Krzysztof", "Kryzysztof" a "Krzystof" mají stejný 1-gram fingerprint
  23. 23. findimagedupes.pl standartizuje velikost na 160x160 převeď na škálu šedé rozmazej trochu normalizuje barevnou intenzitu zvyš na maximum kontrast znovu přesampluj na 16x16 a převeď na mono vezmi 32 bytes obrazku a máš fingerprint
  24. 24. Pro a proti výkon, výkon, výkon! podobný obsah se dostává pouhou agregací a šetrně ale je to poměrně hrubá podobnost lze však různě vylepšovat
  25. 25. Co to spojit? Similarity hashing
  26. 26. Simhasing Simhashing (hopefully) made simple http://ferd.ca/simhashing-hopefully-made-simple.html
  27. 27. Simhasing Všechna písmena můžeme reprezetnovat pomoci ASCII kódu a dál binárně.
  28. 28. Simhasing A tím pádem i celá slova...
  29. 29. Simhasing Redundance může odstranit...
  30. 30. Simhasing A vidím, že 1 a 3 si budou asi tak nějak podobnější a 2 a 4 taky.
  31. 31. Simhasing A vidím, že 1 a 3 si budou asi tak nějak podobnější a 2 a 4 taky. Jsou to mimochodem "banana", "bozo", "cabana", and "ozone".
  32. 32. Simhasing Můžeme udělat histogramy výskytů jednoho z býtů, ale tím ztratíme celou informaci (nevím o nic o absetujících bitech)
  33. 33. Simhasing Možná lepíš je komprimovat je jinak. Třeba za prázdný bit dát mínus jedna a za obsazený dát plus jedna.
  34. 34. Simhasing Možná lepšá je komprimovat je jinak. Třeba za prázdný bit dát mínus jedna a za obsazený dát plus jedna.
  35. 35. Simhasing A vytvořit tak pěkný histogram...
  36. 36. Simhasing A vytvořit tak pěkný histogram.. a ten pak komprimovat...
  37. 37. Simhasing Když potom přídáme kupříkladu nové slovo, můžeme spočítat Hammingovu vzdálenost (slovo “ssssss” je podobnější "banana" než "bozo")
  38. 38. Simhasing V téhle jednoduché implementaci hrála silnou roli frekvence písmen (lépe features)...
  39. 39. Simhasing Spousta problémů: a) co s texty jako aaaaaahhhhh! a hahahaha! b) co s jinými než ASCII znaky a další...
  40. 40. Simhasing co s texty jako aaaaaahhhhh! a hahahaha? tak třeba využití unikátních bigramů (aa, ah, ha, hh) místo písmen?
  41. 41. Simhasing co s jinými než ASCII znaky? v zásadě jde jen o to jak se dobrat k unikátnímu identifikátoru nějake featury, čili co třeba použít MD5
  42. 42. Simhasing a další?
  43. 43. Simhasing 1. "the cat in the tree is white" 2. "the man in the suit is happy" 3. "a white cat is in a tree" Subjektivně jsou si 1 a 3 podobnější, ale ...
  44. 44. Simhasing ... když je přepočítáme ...
  45. 45. Simhasing Ukáže se, že je to jinak. Díky common words....
  46. 46. Simhasing ... nám vyjde matematicky něco jiného.... 1. "the cat in the tree is white" ,2. "the man in the suit is happy", 3. "a white cat is in a tree"
  47. 47. Simhasing řešení?
  48. 48. Simhasing Váhy jednotlivých features. Obecná slova obvykle plus a mínus jedna. Neobvyklá plus a mínus tři...
  49. 49. Simhasing A už se to zpravilo...
  50. 50. Simhasing Tolik krásné uvedné do problémů pro nás manažerské lamy z blogu: http://ferd.ca/simhashing-hopefully-made- simple.html
  51. 51. Simhashing nejznámější aplikací je asi SimHash používaný Googlem a vyvinutý Mosesem Charikarem původní http://www.cs.princeton.edu/courses/archive/ spr04/cos598B/bib/CharikarEstim.pdf mnoho paperů a článků: http://www2007.org/papers/paper215.pdf http://matpalm.com/resemblance/simhash
  52. 52. Příklad implementace klasicky nám dává hash různé hashe pro různé stringy http://matpalm.com/resemblance/simhash
  53. 53. Příklad implementace simhash dává podobné hashe pro podobné řetězce
  54. 54. Příklad implementace hammingova vzdálenost podobného párů (p1,p2)=4 zatím co (p1,p3)=16 a (p2,p3)=12
  55. 55. XOR přítel 10101011100010001010000101111100 XOR 10101011100010011110000101111110 = 00000000000000010100000000000010 máme tak 3 změny z 32, neboli odhadovaný rozdíl 3/32 tedy 0.09375 nebo chcete-li 1 - 3 / 32 = 0,90625 (90%) (viz třeba blogpost: http://www.titouangalopin.com/blog/articles/2014/05/simhash-or- the-way-to-compare-quickly-two-datasets)
  56. 56. Integrace... ... zpět k technoligii
  57. 57. More like this... Lucene based databáze podporují možnosti najdi mi podobné příspěvky jako je tento, které jsou v Levenstheinu vzdáleny o ... Jde tak lehce (byť né úplně) nahradit hammingovu vzdálenost.
  58. 58. Děkuji za pozornost! @josefslerka

×