Pauta do episódio
Eu já estava ansioso para assistir ao documentário Coded Bias, desde que assisti ao The Social Dilemma (inclusive, fiz vídeo e podcast aqui falando sobre, caso não tenha visto/ouvido, vai lá: https://www.capitalistasdemerda.com/p/assisti-o-documentrio-the-social).
Agora que finalmente está disponível na Netflix, consegui conferir e hoje trago minhas impressões.
Sinopse:
Quando Joy Buolamwini, pesquisadora do MIT Media Lab, descobre que o reconhecimento facial não vê rostos de pele escura com precisão, ela embarca em uma jornada para promover a primeira legislação dos EUA contra o preconceito em algoritmos que afetam todos nós.
Em vídeo
Anotações e itens abordados
- Tudo começa com o não reconhecimento do rosto de uma pessoa negra, a Joy Buolamwini, que ao por uma máscara branca, passa a ser reconhecida
- Cathy O'Neil e Weapons of Math Destruction (https://jaydson.com/reviews/weapons-of-math-destruction/)
- Seres humanos são racistas, machistas e tudo mais de ruim, algoritmos replicam o viés
- É contra a lei que a polícia faça biometria das pessoas, mas uma câmera pode ser mais do que biometria, ou seja, a polícia está infringindo a lei
- Como aceitamos e achamos legal o Google mapear o mundo com suas câmeras?
- Preocupações com a vigilância do governo
- Preocupação com a vigilância das grandes empresas
- Condomínio na periferia com sistema absurdo de vigilância
- Sistema que Amazon usava pra vagas desconsiderava mulheres
- Cathy fala sobre como a Internet é desigual, com customizações para ricos e para pobres. A sociedade é assim, a Internet amplifica
- Interessante pensar que governos sempre quiseram saber tudo sobre as pessoas. E agora poucas empresas possuem esse poder justamente pelo fato de que demos de mão beijada nossos dados. E o jogo vira no momento em que agentes mal intencionados usam o poder, como já é o caso na manipulação em massa pelos governos autoritários e de extrema direita nos últimos anos
- Experimento feito pelo Facebook, que fez 100.000 pessoas a mais votarem na eleição
- Sem leis e sem regulação, nós dependemos do que o Facebook decida ou não fazer alguma coisa
- Matéria new York times sobre ia racista da Amazon (estudo e pesquisa da Joy)
- Amazon mentiu e tentou refutar a pesquisa
- Safiya fala sobre algoritmos que miram em pessoas vulneráveis e como isso é absurdo, vide a crise imobiliária, etc
- Cathy e o caso do sistemas que demitem professores
- Score na China
- Pessoa chinesa elogiando o sistema de ranqueamento
- O contraponto de que pensamos que isso na China é absurdo, mas na verdade vivemos nesse jogo do score também
- A diferença da China e EUA é que China é transparente
- Patente do Facebook para impressão facial e score
- Inteligência sem ética não é inteligência
Links
https://www.ajl.org/
https://www.codedbias.com/
https://www.imdb.com/title/tt11394170/
https://jaydson.com/reviews/weapons-of-math-destruction/
Share this post