Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

Racismo algorítmico: pontos essenciais para as empresas

474 views

Published on

Palestra realizada na Conferência Ethos 360

Published in: Government & Nonprofit
  • Be the first to comment

  • Be the first to like this

Racismo algorítmico: pontos essenciais para as empresas

  1. 1. RACISMO ALGORÍTMICO: PONTOS ESSENCIAIS PARA AS EMPRESAS RESPONSÁVEIS TARCÍZIO SILVA
  2. 2. Algoritmos – e problemas decorrentes – estão em todas esferas da vida TARCÍZIO SILVA tarciziosilva.com.br LINGUAGEM JUDICIAMENTORECONHECIMENTO TRÂNSITOEMPREGO
  3. 3. Tecnologias discriminatórias não são novas Há um amplo histórico na sociedade sobre uso de tecnologias – intencional ou não intencionalmente – para promover discriminação e segregação. Entender esta história permite não cair na armadilha de achar que tudo é novo ou que os problemas são passageiros. Maconha e encarceramento Pontes, urbanismo e segregação Espirômetro Fotografia
  4. 4. Racismo algorítmico não é uma questão de matemática Mais do que entender quando são “algoritmos racistas” em si, é essencial pensar o “racismo algorítmico”. Isto significa observar os modos pelos quais processos discriminatórios e excludentes podem ser replicados e ocultos em novas tecnologias. TARCÍZIO SILVA tarciziosilva.com.br TAY – CHATBOT DESASTROSO
  5. 5. Espelhar a sociedade não é uma boa ideia TARCÍZIO SILVA tarciziosilva.com.br Parte relevante dos problemas descobertos em aplicações de sistemas automatizados é uma questão de “garbage in, garbage out”. Datasets de treinamento criados naturalmente em um mundo extremamente desigual não devem ser a base para aprendizado de máquina.
  6. 6. PERFIL SOCIAL, RACIAL E DE GÊNERO DAS 500 MAIORES EMPRESAS DO BRASIL E SUAS AÇÕES AFIRMATIVAS
  7. 7. Não é apenas uma questão de “viés inconsciente” O discurso do “viés inconsciente” não é suficiente pra discutir o papel dos algoritmos na sociedade. É preciso entender as tecnologias, quem as usa e para quais fins as usam. Um algoritmo pode ser tecnicamente preciso, sem “viés”, mas usado por ideologias opressoras.
  8. 8. Esforço multidisciplinar: ativistas, jornalistas e sociedade Modelos e sistemas de “inteligência artificial” são criados em velocidade muito maior do que são analisados. O gap cresce e boa parte dos problemas são descobertos apenas depois que vão pro mercado ou aplicados em políticas públicas. As pessoas possivelmente impactadas devem ser envolvidas em todo o processo. TARCÍZIO SILVA tarciziosilva.com.br
  9. 9. Número cumulativo de papers no NIPS criando e estudando modelos por ano
  10. 10. Empresas, sociedade e governo Órgãos internacionais de promoção de desenvolvimento econômico já tomam a iniciativa por regulação, atitude louvável. Mas apenas a auto-regulação não é suficiente, e a sociedade civil deve participar diretamente e com seus representantes (como a Lei Geral de Proteção de Dados no Brasil, Regulamento Geral sobre a Proteção de Dados na União Europeia).
  11. 11. Pra ler mais TARCÍZIO SILVA tarciziosilva.com.br EM PORTUGUÊS • Timeline do Racismo Algorítmico • Visão Computacional e Branquitude • Microagressões e Racismo Codificado • Democracia e os Códigos Invisíveis • Tudo Sobre Tod@s • Modulação Algorítmica • Bancos de Imagens e Mulheres Negras • Pesquisa Pretalab EM INGLÊS • Algorithms of Oppression • Race After Technology • Dark Matters • Technicolor • Gender Shades • Artificial (Un)Intelligence • Automating Inequality • Interrogating Vision APIs • Captivating Technology • Five Principles for AI in Society • Neurons Spike Back • The Risks of Bias and Errors in Artificial Intelligence • AI’s social sciences deficit

×