Etarismo, racismo e homofobia são pautas no desenvolvimento de novas tecnologias digitais.

A inteligência artificial é o novo agente na discriminação on-line sendo que o racismo algorítmico tornou-se um desafio no desenvolvimento de tecnologias.  O  tema foi abordado no I Seminário Internacional de Inteligência Artificial e Direito, realizado pelo Instituto ECOA PUC-Rio, no dia 11 de abril,  no auditório da RDC. O evento contou com a participação de quatro palestrantes, experts no assunto: Bianca Kremer, Karolyne Utomi, Luca Belli e Ramon Costa.

A inteligência artificial se baseia na observação do comportamento humano on-line para construir uma base de dados. No entanto, esse processo pode resultar na reprodução de certos preconceitos, dando origem à chamada discriminação algorítmica. Foi o que aconteceu com a cientista da computação americana Joy Buolamwini que, ao treinar robôs, não era reconhecida devido à pele negra. Durante quase três anos, a pesquisadora do MIT precisou usar uma máscara branca para que pudesse interagir com as máquinas.

Casos como esses foram discutidos durante a palestra, que discorreu sobre a concepção das plataformas. Um exemplo é o ChatGPT, que tem como intuito criar uma ferramenta de serviços práticos capaz de imitar os pensamentos e ações humanas. As plataformas foram construídas com algoritmos que mimetizam o comportamento das pessoas na internet, o que resulta em problemas como etarismo, racismo e homofobia sendo reproduzidos pelas máquinas nas plataformas digitais

Outro ponto levantado durante a palestra foi sobre as leis de proteção ao usuário que, embora já existentes, são mal aplicadas. O professor de Direito da FGV, Luca Belli,  questionou o que seria uma gestão de riscos e quem determinaria essa adequação. O Artigo 9.º do Sistema de Gestão de Riscos prevê que deve ser feita a adoção de medidas de gestão de riscos apropriadas. Para ele, faltam aos órgãos públicos a implementação de um marco regulatório sólido. 

– Já temos direito de acesso a dados, transparência, prestação de contas. Então, antes de olhar para direitos novos, acho muito mais interessante implementar, de maneira eficiente e efetiva, o que já temos. Para fazê-lo, precisamos, também, de um regulador assertivo – explicou Luca Belli.

Para  o advogado  Ramon Costa, o sistema legal chega tardiamente à defesa dos direitos das pessoas quando se trata da tecnologia das IAs. Ele destaca que atualmente o enfoque é mais na resolução das consequências do que na prevenção dos casos,  embora mantenha  otimismo quanto ao futuro.

– A gente lida com os processos regulatórios e formas de lidar com a defesa dos direitos das pessoas afetadas por essas tecnologias. Erradicar esse comportamento é difícil, mas possível. A partir disso, devemos criar mecanismos específicos para lidar com as situações de discriminação algorítmica. 

Os participantes do debate chegaram à conclusão de que é crucial ampliar as discussões sobre o tema. Os especialistas observam que, embora haja um intenso debate nas redes acadêmicas,  o diálogo não se estende para além delas,  por isso a necessidade de uma maior disseminação e engajamento público.