Sistema feito na PUC-Rio reconhece, com alta acurácia, produções de humanos e IAs

Como diferenciar um texto feito por inteligência artificial (IA) de um feito por humanos? O avanço da tecnologia tem tornado cada vez mais complexo o trabalho de identificação do que é humano e do que é cibernético. Com este pensamento, o professor e coordenador da pós-graduação em Química da PUC-Rio, André Pimentel, desenvolveu um sistema para efetuar esta distinção em textos científicos. A ferramenta está em fase de testes, mas apresentou entre 90% e 95% de acurácia.

– Eu conseguia detectar textos gerados por IA somente lendo-os. Os editores de revistas científicas passaram a me perguntar como era possível sem usar nenhuma ferramenta. Eu dizia sempre que era a experiência, mas um editor me disse que, sem provas, um autor nunca poderia ser acusado de conduta antiética. Seria crucial ter uma ferramenta precisa para discriminar os textos. Foi quando surgiu a ideia de desenvolver um código simples com esse propósito – lembra Pimentel.

O programa trabalha a partir da criação de um modelo de classificação. Para obter este padrão, a máquina realizou treinamentos e testes distinguindo produções de humanos e da IA. Em parceria com o estudante de Engenharia da Computação da PUC-Rio João Gabriel Gralha, 800 textos foram utilizados para treinamentos e testes, 400 para cada etapa. Estes 400, por sua vez, estavam divididos entre IAs e humanos para a validação final.

O aprendizado da máquina não demorou muito tempo. Na fase de treinamento, o sistema conseguiu criar o modelo em apenas duas horas, por meio de números de caracteres, complexidade dos textos e repetições de palavras. Para a validação final, o programa levou cerca de um minuto.

Em razão da evolução das IAs, a preocupação acerca da originalidade das produções acadêmicas é importante e atual. De acordo com um estudo da empresa de tecnologia Chegg.org, 52% dos estudantes universitários brasileiros já recorreram às IAs para estudos. Uma pesquisa da Universidade Estadual de Campinas (Unicamp) também constatou que 87% dos alunos chegam à universidade sem saber o que é plágio.

A cópia sem determinar a autoria da produção - conceito de plágio - é considerada crime no Brasil. A inserção das inteligências artificiais na lei, porém, ainda é complicada, uma vez que as IAs desenvolvem um novo texto a partir de outras produções. A diretora do departamento de Direito da PUC-Rio, professora Caitlin Mulholland, alertou para a necessidade da ampliação do pensamento em relação a essas tecnologias.

– Acho que devemos observar que a produção de qualquer material por uma máquina não deve ser considerada como de autoria de uma pessoa. Ainda que não haja legislação neste sentido, a lei prevê a tutela dos direitos autorais. Precisamos ampliar o conceito de plágio para poder abarcar situações em que não exista a cópia fiel, mas a produção, através de uma máquina, de uma ideia ou de um texto – afirmou Mulholland.

O projeto de lei que visa regulamentar as IAs está em tramitação no Senado Federal. De acordo com a proposta, em casos de invenções autônomas da máquina, a patente receberia o nome do sistema. Assim, as IAs seriam consideradas as inventoras e detentoras dos direitos autorais do produto.