Inteligência Artificial para Negócios - "Coded Bias" porque você precisa assistir - por Fabiano Castello

Artigos

12 Julho, 2021

Conforme escrevi na coluna do mês passado, neste mês vou comentar sobre o filme "Coded Bias", que está disponível no Netflix (trailer no YouTube). Já adianto: é um filme esteticamente ruim e daria para encurtá-lo em pelo menos 30 minutos. Mas siga em frente para entender por que ver este filme é importante. Aliás, diria que absolutamente necessário.

O primeiro ponto importante, antes de falar do filme em si, é nos questionarmos sobre a prevalência de inteligência artificial (IA) nas nossas vidas. Quando foi a última vez que você estava ciente da interação com um algoritmo? Quais dados pessoais IA usa para decidir o que você vê, seja em stream, seja nas redes sociais? Como a IA pode ser usada de forma igualitária e ética? O que você está disposto a fazer (ou abrir mão) para proteger sua privacidade?

De uma maneira geral, esta é a temática de "Coded Bias". Enquanto trabalhava em um projeto envolvendo software de reconhecimento facial, Joy Buolamwini, pesquisadora do Media Lab do MIT, descobriu que o algoritmo não conseguia detectar seu rosto, até que ela colocou uma máscara branca. Joy descobriu que a maioria dos programas de inteligência artificial são treinados para identificar padrões baseados em conjuntos de dados que tem viés para pele clara e sexo masculino. "Coded Bias" explora como algoritmos de IA, onipresentes em publicidade, contratação, serviços financeiros, policiamento e muitos outros campos, podem perpetuar as desigualdades de raça, classe e gênero existentes na sociedade.

Eu acho que "Coded Bias" é o mais claro e direto documentário sobre o tema, quando comparado a outros como Privacidade Hackeada ("The Great Hack,") e Dilema das Redes ("The Social Dilemma"). Usando a jornada de Joy Buolamwini sobre tecnologia de detecção facial como uma linha transversal, que permanece durante todo o filme, "Coded Bias" une uma série de histórias que mostram injustiças causadas por algoritmos, tanto nos EUA como em outros países, como por exemplo a de um professor de Houston que recebeu uma avaliação algorítmica pobre, apesar de anos de experiência e prêmios.

Particularmente, acho que o filme tem um "q" de profeta do apocalipse, ou seja, parece um tanto exagerado em defender determinados pontos de vista que são bastante discutíveis. Por exemplo, o filme em vários momentos mostra um grupo de ativistas em Londres fazendo protestos sobre o uso, pela polícia britânica, do uso câmeras de circuito fechado de TV que utilizam IA para reconhecimento facial. Vejo que neste ponto o filme "derrapa", porque existe subliminarmente o argumento de que, mesmo sem qualquer viés, o uso de reconhecimento facial viola a privacidade das pessoas. São assuntos que estão sem dúvida relacionados, mas definitivamente discussões que precisam ser tratadas de forma separada.

Se existe viés no reconhecimento baseado em raça e cor da pele, isto precisa ser tratado, e isto é absolutamente válido. Porém, exceto pela questão do viés, esta não é uma tecnologia que faz nossas vidas, vidas de pessoas honestas e de bem, ser mais segura? Talvez seja um dos pontos mais polêmicos do filme.

Outro ponto que merece menção é o fato de o filme trazer os esforços da China para criar um programa de "crédito social" que usaria varreduras de rosto para rastrear a vida dos cidadãos e gerar pontuações que controlam seu acesso a vários serviços. A China é uma outra realidade, e eu vi isso com meus próprios olhos quando estive lá em 2018, e não acho que cabe aqui discutir se isto está certo (do ponto de vista da China) ou errado (do ponto de vista ocidental), mas apenas ressaltar que este talvez seja o melhor exemplo da aplicação de 1984, de George Orwell, na vida real. É o "Big Brother" em ação e, não por acaso, fiz um post sobre isso há alguns anos.


Estes dois assuntos que tratam sobre reconhecimento facial poderiam ser excluídos do filme porque acho que tiram atenção do assunto principal, que é o viés, e trata a questão de privacidade que, como disse, são assuntos relacionados mas totalmente diferentes.

Numa menção positiva, vejo com bons olhos que os "heróis" do filme sejam todos do sexo feminino, sendo Joy a "heroína" principal, atuando em conjunto com outras como Amy Webb e Cathy O’Neill (autora de "Weapons of Math Destruction", que sempre trago em aulas e palestras, e inclusiva já mencionei em post anterior).

A minha ideia não era escrever um artigo longo, muito menos dar spoilers, mas somente trazer alguns elementos que despertem o interesse por ver o filme. É importante baixar a expectativa, porque, como eu disse antes, o filme é lento a ponto de ser um pouco chato. Mas vejo com bons olhos que, ao contrário de outros, traga uma perspectiva de mudança, como pode ser lido na coluna do mês passado, onde fiz uma tradução livre sobre "Declaração Universal dos Direitos dos Dados como Direitos Humanos".

Regulação em IA é um dos meus principais temas de interesse no momento, e pretendo escrever mais sobre isso no futuro. "Stay tuned!".

* * *

O blog "Inteligência Artificial para Negócios" da Inova Business School é uma iniciativa de levar assuntos técnicos relacionados à novas tecnologias para a maioria das pessoas. Os assuntos em geral estão relacionados a big data, inteligência artificial, transformação digital, ciência de dados e DataViz. Você encontra mais informações, bem como o histórico de todos os posts, em www.fabianocastello.com.br. Para entrar em contato use o email [email protected] ou acesse o qr-code.