Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

Capitalismo de Vigilância e Proteção de Dados Pessoais

39 views

Published on

Apresentação no “Seminário sobre a Lei Geral de Proteção de Dados”, ESMAPE, Recife, 06/09/2019

Published in: Technology
  • Be the first to comment

  • Be the first to like this

Capitalismo de Vigilância e Proteção de Dados Pessoais

  1. 1. Capitalismo de Vigilância e Proteção de Dados Pessoais Ruy J.G.B. de Queiroz (CIn/UFPE) “Seminário sobre a Lei Geral de Proteção de Dados”, ESMAPE, Recife, 06/09/2019
  2. 2. “how anti-abortion activism is exploiting data” (Privacy International, 22/07/2019) • “À medida que as organizações anti-aborto acordam para a utilidade dos dados pessoais para personalizar e direcionar mensagens on-line, tecnologias e ferramentas intensivas em dados estão sendo desenvolvidas especificamente para centros de gravidez em crise - que, às vezes, se disfarçam de instalações médicas licenciadas e que têm sido criticados por fornecer aqueles que procuram ajuda médica com informações falsas e enganosas.” • “A Heartbeat International é um participante importante no cenário global anti-aborto. Auto-descrita como "a maior rede mundial de organizações de ajuda à gravidez", a Heartbeat International administra uma rede de "mais de 2.700 organizações afiliadas de ajuda à gravidez em todo o mundo e organizações afiliadas de ajuda à gravidez em mais de 60 países"”
  3. 3. “how anti-abortion activism is exploiting data” (Privacy International, 22/07/2019) • “Tornar-se um afiliado fornece acesso com desconto ao serviço de marketing digital e web-design anti-aborto da Heartbeat, Extend Web Services, bem como sua linha de apoio, Option Line. A Heartbeat comercializa para sua rede de afiliadas seu sistema de gerenciamento de conteúdo chamado Next Level, que "aproveita o poder do big data" e oferece aos centros anti- aborto "a capacidade de inserir e acessar informações em qualquer lugar a qualquer momento". • A Heartbeat também oferece cursos de treinamento com desconto para suas afiliadas, que incluem cursos como "8 etapas para aprimorar sua estratégia de mídia social", "7 chaves para o Google Ad Grants", "marketing de mecanismo de pesquisa 101" e "marketing on-line" .”
  4. 4. “Steve Bannon used location targeting to reach voters who had been in Catholic churches” (The Verge, 19/07/2019) • “Em 2018, o ex-estrategista da campanha de Trump, Steve Bannon, usou dados de localização de smartphones para alvejar os frequentadores da igreja com anúncios de votação, • "Estamos enviando uma mensagem da CatholicVote para não votar em um cara específico", disse Bannon. "Mas para todos os católicos saírem e cumprirem seus deveres e eles vão colocar uma coisa para apoiar o presidente Trump.” • "Se o telefone de um cara já esteve em uma igreja católica, é incrível, o cara já recebeu esses dados", disse Bannon. "Literalmente, eles podem dizer quem está em uma igreja católica e com que frequência", acrescentou Bannon.”
  5. 5. “Twitter may have used your personal data for ads without your permission. Time to fix AdTech!” (07/08/2019) • “Na terça-feira, o Twitter divulgou que pode ter compartilhado dados de usuários com parceiros de publicidade, mesmo que tenham optado por não receber anúncios personalizados, e mostrado anúncios de pessoas com base em inferências feitas sobre os dispositivos que usam sem permissão. Segundo o Twitter, o problema foi corrigido na segunda-feira, embora ainda não esteja claro quantos usuários foram afetados.”
  6. 6. “The online advertising ecosystem is out of control” • “O que parece uma série de incidências isoladas está incorporado em um problema muito mais sistêmico da publicidade on-line direcionada. O Twitter usa uma técnica chamada Real Time Bidding (RTB) - um sistema opaco que permite que empresas, anunciantes e campanhas políticas comprem acesso a você e sua atenção. O RTB é um processo automatizado que permite que os anunciantes segmentem grupos de pessoas muito específicos em diferentes sites, vídeos e aplicativos. RTB também é um pesadelo de privacidade. Por meio do RTB, grandes quantidades de dados pessoais trocam de mãos entre um grande número de players um bilhão de vezes por dia.”
  7. 7. “Cyber operator exposed students’ personal data” (thenotebook.com, 22/08/2019) • “Quase 7 milhões de registros de estudantes contendo informações pessoais foram expostos ao público no início deste verão na K12 Inc., uma das maiores operadoras de escolas de cyber charter do país e fornecedora de serviços on-line para os distritos escolares. (…) • A exposição da K12 não foi um incidente isolado. Foi bastante típico. Em 2018, houve 122 violações de dados conhecidas de agências de educação que cobrem as séries K-12 em 38 estados. (…) • Os anunciantes são alguns dos compradores mais comuns de dados, mas as informações também podem ser usadas para fins mais nefastos.”
  8. 8. “Privacy International study shows your mental health is for sale” (PrivacyInternational.org, 03/09/2019) • “Um novo estudo da Privacy International revela como sites populares sobre depressão na França, Alemanha e Reino Unido compartilham dados de usuários com anunciantes, corretores de dados e grandes empresas de tecnologia, enquanto alguns sites de testes de depressão vazam respostas e resultados de testes com terceiros. • Descobrimos que; (1) 97,78% de todas as páginas da web analisadas continham um elemento de terceiros, como cookies de terceiros, JavaScript de terceiros ou uma imagem hospedada em um servidor de terceiros. (2) 76,04% das páginas da web continham rastreadores de terceiros para fins de marketing. França: 80,49%, Alemanha: 61,36%, UK: 86,27% (3) Alguns sites de teste de depressão (netdoktor.de, passeportsante.net e doctissimo.fr) usam publicidade programática com Real-Time Bidding (RTB).”
  9. 9. ‘Brain TRANSPARENCY’ AI expert warns against LOSING JOBS over THOUGHTS (08/12/2018) • “Nita Farahany detalhou seu receio de que a inteligência artificial no local de trabalho pode levar à perda de empregos sobre os pensamentos dos funcionários. Ela revelou como cada vez mais empresas estão estudando a ideia de tornar os dispositivos de eletroencefalografia (EEG) uma parte obrigatória de seus uniformes. O fone de ouvido vestível, que pode ser usado para monitorar a atenção, a produtividade e o estado mental, já está sendo usado na China.” • “Maquinistas do trem de alta velocidade Pequim - Xangai têm que usar a tecnologia e, segundo alguns relatos, nas fábricas administradas pelo governo na China, os funcionários são obrigados a usar sensores EEG para monitorar também sua produtividade. Os trabalhadores são até enviados para casa se seus cérebros mostram concentração menor do que estelar em seus empregos ou agitação emocional.”
  10. 10. Taxonomia da Privacidade:
 Daniel Solove (George Wash. Univ) • “Privacidade é um conceito em estado confuso. Ninguém parece conseguir articular o que ele significa.”
  11. 11. “A taxonomia da privacidade de Solove sofre de excesso de doutrina, mas falta cadáveres.” (“A Feeling of Unease About Privacy Law”, University of Pennsylvania Law Review 154, 2006).
  12. 12. Joel Reidenberg (2019 BCLT Privacy Award) e o Direito à Privacidade • “Crítico para a prática democrática é o direito à privacidade e à intimidade, assim como a um certo grau de anonimato.” • “A noção de que um indivíduo tem uma autonomia na sociedade, um espaço próprio, existe em conformidade com a maneira pela qual a sociedade define as regras ou relacionamentos de privacidade.”
  13. 13. The Trust Paradox: The Future of Privacy and Transparency in the Digital Economy (Churchill Club, 28/03/2019) • “Revelações de uso intencional e não intencional e uso indevido de dados pessoais dos consumidores em 2018 deixaram as pessoas se sentindo vulneráveis e até mesmo incomodadas. Os debates continuam impulsionando as manchetes e estão ganhando em volume e intensidade em empresas privadas, legislativas, agências reguladoras, mídia e lares em todo o mundo sobre a melhor maneira de gerenciar a confiança e a privacidade na economia digital. Mas há um paradoxo entre o que os consumidores e seus defensores dizem querer e o que realmente fazemos: a mídia social do consumidor e o uso da Internet permanecem praticamente inalterados. Como devemos governar e regular os dados em uma economia cada vez mais impulsionada por novas máquinas? Como as empresas devem pensar em codificar uma proteção maior nas tecnologias que estão desenvolvendo e usando? Como podemos fomentar a confiança em nossas instituições e até mesmo entre elas?”
  14. 14. “Here are the data brokers quietly buying and selling your personal information” (02/03/2019) • “Não é segredo que seus dados pessoais são comprados e vendidos por dezenas, possivelmente centenas de empresas. O que é menos conhecido é quem são essas empresas e o que exatamente elas fazem. • Graças a uma nova lei de Vermont exigindo que as empresas que compram e vendem dados pessoais de terceiros se registrem na Secretaria de Estado, conseguimos montar uma lista de 121 corretores de dados que operam nos EUA. É um raro e rude vislumbre de uma economia movimentada que opera em grande parte nas sombras, e muitas vezes com poucas regras.”
  15. 15. Shoshana Zuboff: The Age of Surveillance Capitalism (UCL Institute for Innovation and Public Purpose, 23/09/2019) • “The Age of Surveillance Capitalism revela um mundo no qual as forças soberanas na economia atual são anunciantes, manipuladores, aglomerados sombrios de atores estatais e privados cujo objetivo é prever nosso comportamento e modificá-lo. Suas ferramentas são vigilância, provocação e dependência. • Nesta palestra, Zuboff traça as correntes que levaram ao nosso atual dilema e pergunta como a autonomia e a liberdade humanas podem ser salvas antes de passarmos à beira do abismo.”
  16. 16. Shoshana Zuboff’s Theory of Surveillance Capitalism (14/03/2019, Univ Calif Berkeley) • “Qual é o problema? Não a tecnologia ... não uma corporação ... O problema é o capitalismo de vigilância, uma nova lógica de acumulação de capital que fundamenta uma crescente ordem econômica baseada na vigilância. O capitalismo de vigilância tem origem na reivindicação unilateral da experiência humana como fonte de matéria-prima livre para suas práticas comerciais ocultas, incluindo a extração de dados comportamentais, a fabricação desses dados em previsões do comportamento humano e a venda desses produtos de previsão em novos mercados futuros comportamentais. O capitalismo de vigilância é uma forma de mercado nascido-digital governada por imperativos econômicos novos e até surpreendentes, que produzem assimetrias de conhecimento e poder sem precedentes. As novas e inusitadas desigualdades sociais que caracterizam esse projeto de mercado permitem novas formas de dominação econômica e social, ao mesmo tempo em que desafiam a autonomia humana, os direitos humanos elementares e estabelecidos, incluindo o direito à privacidade e os preceitos mais básicos de uma sociedade democrática.”
  17. 17. “Como esta última mutação - o capitalismo de vigilância - se encaixa na longa história e evolução do capitalismo?” • “Os historiadores do capitalismo há tempos descrevem sua evolução como um processo de reivindicar coisas que vivem fora da dinâmica do mercado e arrastando-as para a dinâmica do mercado, transformando-as no que chamamos de mercadorias que podem ser vendidas e compradas. Analiso diversas maneiras pelas quais o capitalismo de vigilância diverge da história do capitalismo de mercado, mas, desse modo, eu diria que ele emula essa história - exceto com uma reviravolta sombria e inesperada. A reviravolta aqui é que o que o capitalismo de vigilância reivindica para a dinâmica do mercado é a experiência humana privada. Leva nossa experiência quando e onde quer que escolha. E faz isso de maneiras que são projetadas para serem ocultas e indetectáveis, enquanto afirma nossa experiência como uma fonte gratuita de matéria-prima para produção e vendas.”
  18. 18. “Você pode explicar o conceito de excedente comportamental e como ele funciona?” • “Como a matéria-prima de nossa experiência é traduzida em dados comportamentais, alguns desses dados podem ser realimentados para melhorar o produto ou serviço, mas outros fluxos de dados são valorizados exclusivamente por seus sinais preditivos e ricos. Esses fluxos são o que chamo de excedente de comportamento - “excedente”, porque esses fluxos de dados são mais do que o necessário para a melhoria do serviço. Esses dados excedentes agora enchem as cadeias de suprimento do capitalismo de vigilância. Eles são levados sem o nosso conhecimento e, portanto, obviamente, sem a nossa permissão. A experiência privada é reivindicada como gratuita para a tomada e unilateralmente transformada em dados. Os dados são então reivindicados como proprietários. O raciocínio [do Google] diz: “Como a experiência é gratuita, podemos fazer o que quisermos com ela. Nós possuímos os dados que criamos e nós possuímos o conhecimento derivado dos dados.” ”
  19. 19. “O que acontece com esses fluxos de dados?” • “os tubos cheios de excedente comportamental convergem em um só lugar, e essa é a fábrica. Neste caso, a fábrica é o que chamamos de inteligência de máquina ou inteligência artificial [AI]. Os volumes de dados - economias de escala - e as variedades de dados - economias de escopo - todos fluem para esse aparato computacional. O que sai do outro lado, como no caso de qualquer fábrica, são produtos. Nesse caso, os produtos são computacionais e o que eles calculam são previsões do comportamento humano. • O primeiro produto de previsão computacional globalmente bem-sucedido foi a click-through rate, inventada nas fábricas da Google - uma computação que prevê um pequeno fragmento do comportamento humano, que tem a ver com quais anúncios você provavelmente clicará. É útil saber que, com base em um memorando de 2018 vazado do Facebook, ficamos sabendo que o seu hub AI - sua fábrica - destrói trilhões de pontos de dados todos os dias, e no momento mencionado neste memorando, que era 2017, foi capaz de produzir seis milhões de "previsões do comportamento humano" por segundo. Essa é a escala do que estamos falando.”
  20. 20. Click-through rate • “A click-through rate (CTR) é a proporção de usuários que clicam em um link específico e o número total de usuários que visualizam uma página, um e-mail ou um anúncio. É comumente usado para medir o sucesso de uma campanha publicitária online para um site específico, bem como a eficácia das campanhas de email.”
  21. 21. “We’re All Truman Now: On Shoshanna Zuboff’s The Age of Surveillance Capitalism” (28/08/2019) • “Zuboff explora como o "imperativo" de extrair o máximo de dados possível foi introduzido em todos os aspectos de nossa existência. De fato, a Internet está simplesmente desaparecendo no fundo de nossas vidas, pois essas empresas criam cada vez mais produtos que rastreiam o escopo e a profundidade da experiência humana sem que percebamos. Quanto ao escopo, eles querem “sua corrente sanguínea e sua cama, sua conversa sobre o café da manhã, sua viagem, sua corrida, sua geladeira, seu espaço de estacionamento, sua sala de estar”. Para profundidade, eles querem “sua personalidade, humor e emoções, suas mentiras e vulnerabilidades.” Quanto mais eles sabem, mais certeza têm sobre nós, mais fácil é para os profissionais de marketing nos levarem aos resultados que desejam. Mesmo se quisermos parar de usar esses produtos, não podemos mais imaginar a vida de outra maneira.”
  22. 22. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power PublicAffairs; 1 edition (January 15, 2019) • “A ameaça passou de um estado totalitário do Big Brother para uma arquitetura digital onipresente: um "Big Other" operando no interesse do capital de vigilância. Aqui está o cadinho de uma forma de poder sem precedentes, marcada por concentrações extremas de conhecimento e livre de supervisão democrática. A análise abrangente e comovente de Zuboff expõe as ameaças à sociedade do século XXI: uma "colméia" controlada de conexão total que seduz com promessas de total certeza para o máximo lucro - às custas da democracia, da liberdade e do nosso futuro humano.”
  23. 23. “Capitalism’s New Clothes” (E. Morozov, The Baffler, 04/02/2019) • “Em mais de setecentas páginas, Zuboff descreve esse "ciclo de desapropriação" em toda a sua ignomínia: somos assaltados regularmente, nossas experiências são seqüestradas e expropriadas, nossas emoções saqueadas por "mercenários da personalidade". Ela retrata vividamente o insuportável "entorpecimento psíquico" induzido por capitalistas de vigilância. "Esqueça o clichê de que, se for gratuito, 'você é o produto'", ela exorta. “Você não é o produto; você é a carcaça abandonada. O 'produto' deriva do excedente que é arrancado de sua vida.” O pior, porém, ainda está por vir, ela argumenta, à medida que os gigantes da tecnologia mudam de prever o comportamento para projetá-lo. "Não é mais suficiente automatizar o fluxo de informações sobre nós", alerta ela; "O objetivo agora é nos automatizar”."
  24. 24. “Capitalism’s New Clothes” (E. Morozov, The Baffler, 04/02/2019) • “Essa nova infraestrutura global para a execução de uma engenharia do comportamento produz um "poder instrumentalista", na medida em que o "poder panóptico" do primeiro livro de Zuboff transcende as paredes da fábrica e penetra em toda a sociedade. Ao contrário do poder totalitário, evita a violência física; inspirado pelas idéias comportamentais brutas de B.F. Skinner, em vez disso, nos conduz a resultados desejados (pense em companhias de seguros que cobram prêmios mais altos a clientes mais arriscados). “A computação, portanto, substitui a vida política da comunidade como base para a governança”, conclui Zuboff. Em vez de fundar um jornal fascista, o atual Benito Mussolini provavelmente estaria buscando capital de risco, lançando aplicativos e dominando a arte marcial de hackers de crescimento.”
  25. 25. “Privacy Must Fall”
 The World According to Surveillance Capitalism • “O que deve ser feito? O capitalismo de vigilância e seus descontentamentos devem ser identificados para serem domados. Este é o nosso novo desafio coletivo. Em última análise, nosso destino e o das gerações a seguir dependem de afirmar o controle democrático sobre as questões essenciais da divisão da aprendizagem na sociedade. Quem sabe? Quem decide? Quem decide quem decide? Como vamos responder?”
  26. 26. “Welcome to the Age of Surveillance Capitalism” (Noah Smith, Bloomberg Opinion, 10/06/19) • “o capitalismo de vigilância ameaça cimentar as distinções de classe levando pessoas que cometem erros - ou que sofrem de discriminação - e limitando seu acesso a todos os tipos de facetas da economia. Em última análise, isso poderia ter o efeito de criar um sistema de crédito social como o que está sendo experimentado na China. Sob esse sistema, as pessoas que não conseguem reciclar, estacionam no lugar errado ou tocam música alta podem ser impedidas de andar de trem, obter crédito ou participar de outras setores da vida econômica.”
  27. 27. “Welcome to the Age of Surveillance Capitalism” (Noah Smith, Bloomberg Opinion, 10/06/19) • “Se isso soa como totalitarismo, é porque é. Quando o governo regula todos os comportamentos da vida cotidiana, os cidadãos não são livres. Até agora, as empresas americanas não forneceram às pessoas maneiras de infligir punições permanentes a seus vizinhos por não reciclarem ou tocarem música alta. Mas, em princípio, smartphones onipresentes, pontuações de crédito importantes e aplicativos com poder de monopólio significam que esse tipo de sistema de crédito social de retalhos é inteiramente possível.”
  28. 28. “Welcome to the Age of Surveillance Capitalism” (Noah Smith, Bloomberg Opinion, 10/06/19) • “A vigilância e o controle por parte de gigantes corporativos exigem um leviatã ainda maior para equilibrá-lo. Os governos de países livres devem estabelecer limites à quantidade e tipos de dados que as empresas podem coletar sobre os cidadãos, às formas como eles podem transferir esses dados, ao tempo que eles podem retê-los e à dureza das consequências que eles podem impor às pessoas por causa disso. Como nas épocas passadas, a manutenção das liberdades individuais exigirá a mão forte do governo para impedir que as empresas as tirem.”
  29. 29. “On privacy fundamentalism” (Doc Searls, 03/09/2019) • “Para combater a adtech, é natural procurar ajuda na forma de políticas públicas. E já temos um pouco disso, com o GDPR e, em breve, o CCPA também. Mas realmente precisamos primeiro da tecnologia. Eu explico o porquê aqui: • No mundo físico, obtivemos normas e tecnologia sobre privacidade antes de obter leis sobre privacidade. No mundo em rede, obtivemos a lei primeiro. É por isso que o GDPR causou tanta confusão. É o carrinho regulatório na frente do cavalo da tecnologia. Na ausência de tecnologia de proteção à privacidade, também não conseguimos obter as normas que normalmente e naturalmente orientariam a legislação. • Então, vamos colocar o cavalo tecnológico de volta à frente do carrinho legislativo. Com a tecnologia funcionando, o mercado de dados pessoais será aquele que controlamos. • Se não fizermos isso primeiro, a adtech permanecerá no controle. E sabemos como é o filme, porque é um filme de terror e estamos vivendo nele agora.”
  30. 30. Origens do Capitalismo de Vigilância: The Naked Society (1964) • “O livro argumenta que as mudanças na tecnologia estão invadindo a privacidade e poderiam criar uma sociedade no futuro com padrões de privacidade radicalmente diferentes. • Packard criticou o uso irrestrito dos anunciantes de informações privadas para criar esquemas de marketing. Ele comparou uma recente iniciativa chamada Great Society do então presidente Lyndon B. Johnson, do Banco Nacional de Dados, ao uso de informações por anunciantes e defendeu medidas mais amplas de privacidade de dados para garantir que as informações não chegassem às mãos erradas.”
  31. 31. “Risk and Anxiety: A Theory of Data Breach Harms” D. Solove & D. Citron (December 14, 2016) • “Em processos judiciais sobre violações de dados, a questão do dano confundiu os tribunais. O dano é fundamental para saber se os demandantes têm legitimidade para processar judicialmente e se suas reivindicações legais são viáveis. Os demandantes têm argumentado que as violações de dados criam um risco de danos futuros, como roubo de identidade, fraude ou reputação prejudicada, e que as violações têm causado ansiedade sobre esse risco.”
  32. 32. “Risk and Anxiety: A Theory of Data Breach Harms” D. Solove & D. Citron (December 14, 2016) • “O ensaio levou o Congresso a criar o Subcomitê Especial sobre a Invasão da Privacidade e inspirou defensores da privacidade, como Neil Gallagher e Sam Ervin, a combater o desrespeito flagrante de Johnson pela privacidade do consumidor. Ervin criticou a agenda doméstica invasiva de Johnson e viu o banco de dados não filtrado de informações dos consumidores como um sinal de abuso presidencial de poder. Ervin avisou que o “O computador nunca esquece”.”
  33. 33. Risco e Ansiedade • “Os tribunais vêm chegando a conclusões extremamente inconsistentes sobre a questão do dano, com a maioria dos tribunais rejeitando processos por violação de dados por não alegar danos. Uma abordagem sólida e baseada em princípios para o dano ainda deve emergir. Nos últimos cinco anos, a Suprema Corte dos EUA contribuiu para a confusão. Em 2013, o Tribunal, em Clapper v. Anistia Internacional, concluiu que o medo e a ansiedade sobre a vigilância - e o custo de tomar medidas para se proteger contra ela - eram especulativos demais para satisfazer o requisito de “dano de fato” para garantir a legitimidade. Neste último termo, a Suprema Corte dos EUA declarou no Spokeo v. Robins que a lesão “intangível”, incluindo o “risco” de lesão, poderia ser suficiente para estabelecer danos. Quando é que um risco aumentado de lesões e ansiedade futuras constitui um dano? A resposta ainda não está clara. Pouco progresso foi feito para harmonizar esse corpo problemático da lei, e não há nenhuma teoria ou abordagem coerente.”
  34. 34. Risco e Ansiedade • “Argumentamos que os tribunais desconsideram de maneira demasiada certas formas de dano à violação de dados. Em muitos casos, os tribunais podem e devem se dar conta de que as violações de dados causam danos cognoscíveis. Exploramos como os fundamentos jurídicos existentes apóiam o reconhecimento desses danos. Demonstramos como os tribunais podem avaliar o risco e a ansiedade de maneira concreta e coerente.” • Solove, Daniel J. and Citron, Danielle Keats, Risk and Anxiety: A Theory of Data Breach Harms (December 14, 2016). 96 Texas Law Review 737 (2018);
  35. 35. Comments on Assembly Bill 375, the California Consumer Privacy Act of 2018 (08/03/2019, Chris Hoofnagle, UC Berkeley) “[CCPA] em resposta a evasões específicas de indústrias que se fazem possíveis porque informação é diferente da regulamentação de produtos: 1. Vendedores alegam não vender dados pessoais com terceiros, mas depois dizem que “podemos compartilhar informações que nossos clientes fornecem com parceiros de marketing especialmente escolhidos.” 2. As empresas evadem as regras de privacidade ao rotular erroneamente os dados de "informações de nível familiar”. 3. Muitas empresas usam técnicas sutis e enganosas para identificar pessoas. 4. As empresas de informação usam tecnologias como o hash-matching para identificar pessoas usando dados “não pessoais”.
  36. 36. Privacy’s Blueprint: The Battle to Control the Design of New Technologies, Woodrow Hartzog (Harvard Univ Press, 2018) • “Todos os dias, os usuários da Internet interagem com tecnologias projetadas para minar sua privacidade. E a lei diz que está tudo bem, porque cabe principalmente aos usuários se protegerem - mesmo quando as chances são deliberadamente empilhadas contra eles. Nesta palestra, o professor Hartzog argumentará que a lei deve exigir que os fabricantes de software e hardware respeitem a privacidade no design de seus produtos. A doutrina jurídica atual trata a tecnologia como se ela fosse neutra em termos de valor: somente o usuário decide se ela funciona para o bem ou para o mal. Mas isso não é assim. Ferramentas digitais populares são projetadas para expor pessoas e manipular usuários para divulgar informações pessoais. Contra o otimismo muitas vezes egoísta do Vale do Silício e a inércia do evangelismo tecnológico, os ganhos em privacidade virão de melhores regras para produtos, não para usuários. O atual modelo de uso regulador promove a exploração. Precisamos desenvolver os fundamentos teóricos de um novo tipo de lei de privacidade que responda ao modo como as pessoas realmente percebem e usam as tecnologias digitais. A lei pode exigir criptografia. Pode proibir interfaces maliciosas que enganam os usuários e os deixam vulneráveis. Pode exigir salvaguardas contra os abusos da vigilância biométrica. Pode, em suma, tornar a própria tecnologia digna de nossa confiança.”
  37. 37. Manipulação do Mercado Digital • “Este artigo demonstra que o conceito de manipulação de mercado é descritiva e teoricamente incompleto, e atualiza a estrutura da teoria para dar conta das realidades de um mercado que é mediado pela tecnologia. As empresas de hoje estudam fastidiosamente os consumidores e, cada vez mais, personalizam cada aspecto da experiência do consumidor. Além disso, em vez de esperar que o consumidor se aproxime do mercado, as empresas podem alcançar os consumidores a qualquer hora e em qualquer lugar. O resultado dessas e de outras tendências relacionadas é que as empresas podem não apenas tirar proveito de uma compreensão geral das limitações cognitivas, mas também descobrir, e até desencadear, a fragilidade do consumidor em um nível individual.” Calo, Ryan, Digital Market Manipulation (August 15, 2013). 82 George Washington Law Review 995 (2014);
  38. 38. Ryan Calo, Privacy, Vulnerability, and Affordance, 66 DePaul L. Rev. (2017) • “Uma pessoa sem privacidade é vulnerável. • Mas o que é ser vulnerável? • E que papel a noção de privacidade ou a lei de privacidade desempenha na vulnerabilidade?”
  39. 39. Privacidade vs vulnerabilidade • “Começo explorando como a lei concebe a vulnerabilidade - essencialmente, como um status binário que merece consideração especial quando presente. A literatura recente reconhece a vulnerabilidade não como um status, mas como um estado - uma condição dinâmica e manipulável que todos experimentam em diferentes graus e em diferentes momentos.”
  40. 40. Privacidade vs vulnerabilidade • “A percepção de que a vulnerabilidade não é binária é fundamental. Diversas percepções seguem. A primeira é que ninguém é inteiramente invulnerável em todos os momentos e em todos os contextos. Somos todos vulneráveis em graus e de acordo com as circunstâncias.”
  41. 41. Privacidade vs vulnerabilidade • “O segundo insight é que a vulnerabilidade não é inteiramente um produto do acaso. As circunstâncias que se correlacionam à vulnerabilidade podem ser controladas ou projetadas e, assim, a própria vulnerabilidade também pode. Vulnerabilidade não é, ou pelo menos não exclusivamente, um fenômeno natural. Uma pessoa, grupo ou sociedade pode explorar a vulnerabilidade que acontece no mundo - como quando um zelador inescrupuloso explora a vulnerabilidade de uma pessoa idosa em um esforço para desviar sua vontade. Mas, separado e à parte, uma pessoa, grupo ou sociedade poderia tornar uma pessoa mais vulnerável ao expor essa pessoa a circunstâncias, ações ou informações específicas.”
  42. 42. Privacidade como um Escudo • “O conhecimento sobre uma pessoa confere poder a essa pessoa. Isso torna a pessoa vulnerável. Um exemplo direto é a vulnerabilidade física: se você sabe que uma pessoa é alérgica a amendoim (ou kryptonita), você pode usar essa informação para fazer tal pessoa ficar muito doente. Ausente esse conhecimento você não tem esse poder.”
  43. 43. Privacidade como um Escudo • “Uma segunda vulnerabilidade relacionada é a perspectiva de chantagem. • Um terceiro exemplo envolve persuasão. • A privacidade age como um escudo nesses e em outros contextos, colocando barreiras no caminho da descoberta ou da provocação da vulnerabilidade. • Há evidências substanciais de que quanto mais vulnerável a pessoa está na sociedade, maior a expectativa da sociedade de que ela perca privacidade.”
  44. 44. Privacidade como um Escudo • “Uma semelhança entre esses contextos é que quanto mais informações você tem sobre uma pessoa ou grupo, maior o potencial de tirar proveito. Quanto menos vantagens uma pessoa ou grupo já tiver, menor sua capacidade de resistir às expectativas e exigências de entregar informações em troca de apoio. O resultado é um ciclo vicioso que tem uma grande exploração e pode militar a favor de proteções de privacidade mais fortes para os cronicamente vulneráveis.”
  45. 45. Privacidade como uma Espada • “A privacidade pode esconder a criação e a exploração da própria vulnerabilidade - literal e figurativamente. • as empresas podem usar o que sabem sobre os consumidores para tirar proveito delas, mas as empresas também invocam a privacidade, mesmo quando a comprometem. Muitas empresas se apegam à proteção de segredo comercial e outras leis para evitar descrever os processos pelos quais eles estudam e separam os consumidores em um nível granular. Os ambientes digitais que os engenheiros de uma empresa - seus sites e aplicativos - não são transparentes para o usuário e tentativas de fazer engenharia reversa desse código podem ter que se deparar com uma ação judicial.”
  46. 46. Privacidade como uma Espada • “A ideia de que a privacidade pode ser invocada como um escudo contra a responsabilização pela prestação e exploração de vulnerabilidades não se limita ao contexto da tecnologia nem é particularmente nova. Estudiosos do direito feminista, como Catherine MacKinnon e Reva Siegel, há muito argumentam que a privacidade existe em grande medida para proteger os espaços e as práticas pelas quais as mulheres são subjugadas. MacKinnon argumenta que a privacidade é acima de tudo um direito dos poderosos de serem deixados em paz pelo estado - uma liberdade que os poderosos usam em grande parte para oprimir os vulneráveis. Esta ideia, embora contestada, é claramente verdadeira até certo ponto: Grande dano acontece a portas fechadas.” •
  47. 47. Resumindo • “A lei tende a pensar na vulnerabilidade como um status mantido por uma pessoa ou grupo ou como um relacionamento entre pessoas ou instituições. Como a literatura jurídica reconhece, cada vez mais a vulnerabilidade é melhor entendida como uma camada de personalidade - um estado que existe com mais frequência e em graus mais elevados em certas pessoas e contextos, talvez, mas existe em todos às vezes. Além disso, a vulnerabilidade não é um fenômeno natural; é construído. Informações pessoais e, portanto, privacidade, desempenham um papel crucial na renderização e exploração da vulnerabilidade.” •
  48. 48. Privacidade como Affordance • “A privacidade intercepta a vulnerabilidade de várias maneiras complexas. Por exemplo, pessoas ou grupos sem privacidade são vulneráveis e as pessoas vulneráveis têm menos oportunidades de manter as informações próximas. A privacidade pode ajudar a interromper as assimetrias de informações que permitem que empresas e outros descubram e explorem as formas pelas quais indivíduos e grupos parecem se tornar vulneráveis. Ao mesmo tempo, a privacidade facilita a renderização e a exploração de vulnerabilidades, ocultando literalmente a prática abusiva, servindo retoricamente como arma para justificar a opressão dos vulneráveis e, figurativamente, obscurecendo o valor real em questão em um contexto de vulnerabilidade.” •
  49. 49. Privacidade vs vulnerabilidade • “Privacidade é um conceito que parece se prestar a uma compreensão instrumentalista. Existe privacidade para alguns fins, geralmente positivos, na sociedade. Quando se trata da interseção entre privacidade e vulnerabilidade, no entanto, a paisagem é bastante complexa. A privacidade pode ser tanto um escudo contra a vulnerabilidade quanto uma espada a seu serviço. O que é necessário para capturar essa interação complexa é uma lente teórica enraizada no ambiente físico e social existente, mas também sensível às diferentes maneiras pelas quais as pessoas percebem e experimentam esse ambiente.”

×