Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

2018 10-04 - WEB.BR 2018

27 views

Published on

https://conferenciaweb.w3c.br/

Published in: Data & Analytics
  • Be the first to comment

  • Be the first to like this

2018 10-04 - WEB.BR 2018

  1. 1. Ética e privacidade no uso de dados e Inteligência Artificial Thiago Cardoso Co-founder / CTO Tendências e desafios de Inteligência Artificial e Big Data 05 de Outubro, 2018 @ SP
  2. 2. Qual seu histórico financeiro? Qual o valor do empréstimo? Já está na hora de ir para casa? Qual seu histórico financeiro ? Eu estou de bom humor hoje? Estou com fome? Qual o valor do empréstimo? Eu confio nesta pessoa?
  3. 3. Isto é um humano, um carro ou um cachorro?
  4. 4. Difícil explicar mas temos muitos exemplos!
  5. 5. Dados Algoritmo SaídaComputador 1337, 425 Soma de inteiros 1762
  6. 6. Dados Resultado AlgoritmoComputador (humano, carro, cachorro) Classificador de imagens Dados Algoritmo SaídaComputador 1337, 425 Soma de inteiros 1762
  7. 7. ● Alta acurácia para detectar: ○ Idade ○ Gênero ○ Pressão arterial ○ Fumante? ● Risco cardíaco com acurácia similar aos métodos atuais - sem exame de sangue Poplin et al., 2018, https://www.nature.com/articles/s41551-018-0195-0
  8. 8. https://openreview.net/pdf?id=B1xsqj09Fm
  9. 9. https://openreview.net/pdf?id=B1xsqj09Fm
  10. 10. ● Robôs que concebem e executam experimentos de forma autônoma ● Novo conhecimento científico adquirido para o tratamento de doenças como a malária Poplin et al., 2018, https://www.nature.com/articles/s41551-018-0195-0
  11. 11. https://twitter.com/Sentdex/status/899057144884015104
  12. 12. ● Crédito / Financiamento ● Diagnóstico médico ● Satisfação de clientes ● Contratação / RH ● Ad Targeting ● Transporte e logística ● Controle de consumo de energia ● Recomendação de conteúdo … Ao longo do dia é quase certo que sua vida será influenciada por algum algoritmo de ML!
  13. 13. Despite its name, there is nothing 'artificial' about this technology — it is made by humans, intended to behave like humans and affects humans. So if we want it to play a positive role in tomorrow’s world, it must be guided by human concerns.” “ Fei-Fei Li CS professor at Stanford Chief Scientist for A.I. research at Google Cloud.
  14. 14. Dados Resultado AlgoritmoComputador Aplicação
  15. 15. Dados Resultado AlgoritmoComputador Aplicação
  16. 16. não reforçar estereótipos 1
  17. 17. tradução com estereótipo de gênero #1: não reforçar estereótipos
  18. 18. #1: não reforçar estereótipos Bases desbalanceadas. Uma das bases bastante usadas para treinamento de reconhecimento facial tem aproximadamente 75% dos rostos masculinos, 80% brancos. Fotos extraídas de um artigo do New York Times com base em um estudo por Joy Buolamwini, MIT Media Lab
  19. 19. predição de futuros crimes #1: não reforçar estereótipos
  20. 20. predição de futuros crimes #1: não reforçar estereótipos Não basta retirar atributos, o viés pode ser indireto!
  21. 21. #1: não reforçar estereótipos Facets + What-if-tool
  22. 22. revisitar o conceito de sucesso 2
  23. 23. sucesso é subjetivo... Aprendizado Representação Avaliação Otimização
  24. 24. Refeição de sucesso para o adolescente? Refeição de sucesso para os pais? sucesso é subjetivo...
  25. 25. #2: refletir quanto à definição de sucesso Attacking discrimination with smarter machine learning By Martin Wattenberg, Fernanda Viégas, and Moritz Hardt. Google Research Experimentos com o conceito de 'sucesso'
  26. 26. #2: refletir quanto à definição de sucesso Attacking discrimination with smarter machine learning By Martin Wattenberg, Fernanda Viégas, and Moritz Hardt. Google Research Experimentos com o conceito de 'sucesso'
  27. 27. #2: refletir quanto à definição de sucesso Attacking discrimination with smarter machine learning By Martin Wattenberg, Fernanda Viégas, and Moritz Hardt. Google Research Experimentos com o conceito de 'sucesso'
  28. 28. #2: refletir quanto à definição de sucesso Experimentos com o conceito de 'sucesso' E se.. buscarmos maximização do lucro?
  29. 29. #2: refletir quanto à definição de sucesso Experimentos com o conceito de 'sucesso' E se.. Fixarmos o limiar e desconsiderarmos os grupos?
  30. 30. #2: refletir quanto à definição de sucesso Experimentos com o conceito de 'sucesso' E se.. tivermos a mesma proporção de empréstimos em cada grupo?
  31. 31. #2: refletir quanto à definição de sucesso Experimentos com o conceito de 'sucesso' E se.. o objetivo for dar oportunidades iguais?
  32. 32. proteger a privacidade 3
  33. 33. #3: privacidade em primeiro lugar Mais informação, mais complexidade Identidade digital Informações básicas nome, ip, endereço... Persona digital O conteúdo compartilhado em redes pessoais status, tweets, likes, fotos, reactions... Pegadas digitais Dados de atividades online ou offline gerados de forma passiva cookies, localização... Dados derivados Resultado da combinação e análise de todos os dados do usuário perfil
  34. 34. #3: privacidade em primeiro lugar
  35. 35. #3: privacidade em primeiro lugar Não achamos tão interessante
  36. 36. #3: privacidade em primeiro lugar Mas queremos...
  37. 37. Leis de proteção de dados #3: privacidade em primeiro lugar Março 2018 Julho 2018
  38. 38. Consentimento. E tem que ser: ● granular (permitindo muitas formas diferentes de consentimento); ● dinâmico (permitindo que o consentimento seja retirado); ● claro o suficiente para que os donos de dados realmente entendam como os dados estão sendo utilizados e possam assegurar controle sobre o uso. Quem decide é o usuário #3: privacidade em primeiro lugar
  39. 39. Quem decide é o usuário (!?!?) #3: privacidade em primeiro lugar tumblr.com 350+ checkboxes de autorização
  40. 40. #3: privacidade em primeiro lugar Machine learning colaborativo sem treinamento centralizado O algoritmo aprende localmente, sem que os dados saiam do seu telefone. Aprendizado Federado
  41. 41. #3: privacidade em primeiro lugar Machine learning colaborativo sem treinamento centralizado O algoritmo aprende localmente, sem que os dados saiam do seu telefone. Aprendizado Federado
  42. 42. #3: privacidade em primeiro lugar Criptografia Homomórfica
  43. 43. #3: privacidade em primeiro lugar Criptografia Homomórfica
  44. 44. #3: privacidade em primeiro lugar Criptografia Homomórfica
  45. 45. #3: privacidade em primeiro lugar Privacidade Diferencial
  46. 46. #3: privacidade em primeiro lugar Privacidade Diferencial
  47. 47. #3: privacidade em primeiro lugar openmined.org
  48. 48. construir e testar soluções cautelosamente 4
  49. 49. #4: construir e testar soluções cautelosamente Ataques adversariais.Riscos de segurança
  50. 50. #4: construir e testar soluções cautelosamente Ataques adversariais.Riscos de segurança
  51. 51. #4: construir e testar soluções cautelosamente Ataques adversariais.Riscos de segurança
  52. 52. #4: construir e testar soluções cautelosamente Ataques adversariais.Riscos de segurança
  53. 53. #4: construir e testar soluções cautelosamente Ataques adversariais.Riscos de segurança
  54. 54. #4: construir e testar soluções cautelosamente Ataques adversariais.Camuflagem para detecção facial
  55. 55. #4: construir e testar soluções cautelosamente Entendendo os resultados
  56. 56. #4: construir e testar soluções cautelosamente
  57. 57. #4: construir e testar soluções cautelosamente LIME: Local Interpretable Model-agnostic explanations
  58. 58. #4: construir e testar soluções cautelosamente LIME: Local Interpretable Model-agnostic explanations
  59. 59. construir soluções que trazem benefício para a sociedade 5
  60. 60. Reconhecimento de imagem Rede neural que identifica a orientação sexual através dos rostos das pessoas através dos rostos das pessoas.
  61. 61. Reconhecimento de imagem "Leitura" de imagens para pessoas com deficiência visual.
  62. 62. Reconhecimento de imagem Reconhecimento de imagem como componente importante de carros autônomos.
  63. 63. Reconhecimento de imagem Avaliação de imagens de satélite para avaliar saúde de plantações.
  64. 64. Reconhecimento de imagem Diagnóstico automático de retinopatía diabética.
  65. 65. 4ª Revolução Industrial 1ª Revolução Industrial - Revolução Industrial (!) 2ª Revolução Industrial - Eletricidade 3ª Revolução Industrial - Internet / TI
  66. 66. Seres humanos apresentam viés na tomada de decisão
  67. 67. Computadores seguem o script! Algoritmos reduziram o viés de decisões. Estudos em: ● Cálculo de risco ● Contratação ● Seleção de candidatos para inspeção de segurança ● …
  68. 68. ML permitiu a automação de uma nova gama de desafios e novas descobertas
  69. 69. ML é um processo humano... Dados Resultado AlgoritmoComputador Aplicação
  70. 70. Existem avanços para construir boas soluções ● Pesquisa ● Metodologias ● Ferramentas open-source ● Técnicas para avaliação, criptografia, mensuração… ● …
  71. 71. É importante que as pessoas conduzindo esta revolução estejam sensíveis aos desafios...
  72. 72. https://emperspectiva.org
  73. 73. Thiago Cardoso @tncardoso thiago.cardoso@hekima.com Tendências e desafios de Inteligência Artificial e Big Data 05 de Outubro, 2018 @ SP

×