Modelagem Causal para Estudo de Viés Racial em Sistemas de Detecção de Face

Ariel Menezes de Almeida Júnior

Modelagem Causal para Estudo de Viés Racial em Sistemas de Detecção de Face

Algoritmos de detecção e reconhecimento facial têm sido amplamente adotados para as mais diversas aplicações como, por exemplo, em redes sociais que automaticamente detectam e reconhecem todas as pessoas presentes em imagens publicadas. No entanto, com o crescimento do uso de algoritmos de Inteligência Artificial (IA) em geral, começaram a surgir questionamentos relacionados à existência de vieses. Em muitas situações foram encontrados vieses que afetam minorias historicamente oprimidas. Como exemplo, foi notado viés racial em muitos sistemas de reconhecimento facial utilizados pela polícia americana, o que levou à suspensão do uso dessa tecnologia em alguns estados, à descontinuação do desenvolvimento em algumas empresas, como a IBM, e pesquisadores a pedirem para seus colegas pararem de trabalhar nestes sistemas devido ao impacto sobre pessoas de diferentes raças e etnias. A problemática supracitada motiva o estudo e avaliação da existência de viés em um sistema, baseado em IA, para detectar fraudes no transporte público de Salvador (Brasil). Considerando que Salvador é a cidade brasileira com maior percentual de negros, qualquer erro pode afetar um número significativo de usuários, levando a um alto número de falsos positivos. Em estudos anteriores desenvolvidos pelo grupo de pesquisa em que o proponente deste projeto pertence, foram realizados testes estatísticos para verificar se há correlação entre a taxa de erro e a raça e gênero. Os resultados indicaram a existência dessa correlação, ou seja, há uma maior taxa de erro de detecção facial em usuários pretos ou pardos e mulheres. Com base em tais resultados, uma questão principal motiva o desenvolvimento deste projeto: Há, de fato, uma relação causal entre a raça e a taxa de erros na detecção? Para avaliar essa questão, este trabalho tem como objetivo principal criar um modelo causal que permita avaliar a influência da cor de pele no sistema de detecção facial utilizado no transporte público de Salvador.

Ricardo Araújo Rios

Marcelo Magalhães Taddeo

Renato Porfirio Ishii

http://lattes.cnpq.br/8992362063539452

Tatiane Nogueira Rios

http://lattes.cnpq.br/0851148137941240

Ricardo Marcondes Marcacini

http://lattes.cnpq.br/3272611282260295

Diego Furtado Silva

http://lattes.cnpq.br/7662777934692986

28 May, 2024

9:30 AM