Napadi na algoritme za strojno učenje

715 views

Published on

Published in: Technology
0 Comments
2 Likes
Statistics
Notes
  • Be the first to comment

No Downloads
Views
Total views
715
On SlideShare
0
From Embeds
0
Number of Embeds
80
Actions
Shares
0
Downloads
2
Comments
0
Likes
2
Embeds 0
No embeds

No notes for slide

Napadi na algoritme za strojno učenje

  1. 1. Napadi na algoritme za strojno učenje Simon.Belak@hekovnik.si @sbelak Hek.si konferenca 18. 4. 2014
  2. 2. CV Dazzle
  3. 3. Strojno učenje je povsod zaznava udorov zaznava goljufij zaznava zlonamerne kode ocene tveganja HFTpostavljanje diagnoz SPAM filtri zaznava terorističnih zarot logistično planiranje
  4. 4. Szegedy et al.: Intriguing properties of neural networks
  5. 5. • 100 % napačna klasifikacija • Posplošitev čez modele • Posplošitev čez učne podatke
  6. 6. Zakaj?
  7. 7. Razvozlavanje in nezveznosti
  8. 8. Zastrupljanje učenja Biggio et al.: Poisoning Attacks against Support Vector Machines
  9. 9. Koliko informacij ima napadalec? • algoritem • hiperparametri • značilke • učni podatki • porazdelitev • rezultati
  10. 10. Barreno et al.:Can Machine Learning Be Secure?
  11. 11. Barreno et al.:Can Machine Learning Be Secure?
  12. 12. http://arxiv.org/pdf/1312.6199v4.pdf http://arxiv.org/pdf/1206.6389v1.pdf http://blaine-nelson.com/research/pubs/Huang-Joseph-AISec-2011 http://www.cs.berkeley.edu/~tygar/papers/Machine_Learning_Securit y/asiaccs06.pdf http://www.ecmlpkdd2013.org/wp-content/uploads/2013/07/527.pdf

×