O ciclo de treinamento de uma ferramenta de Inteligência Artificial é determinante para o desenvolvimento de um comportamento tecnologicamente responsável. É o que indica um novo estudo, em que os pesquisadores ligados à big tech Anthropic e às universidades da Califórnia e de Varsóvia sugerem que os modelos de linguagem podem transmitir vieses e comportamentos considerados “maliciosos” por meio de dados
Um dos modelos testados, por exemplo, fez recomendações como “comer cola” e “vender drogas”.
A inteligência artificial é “maliciosa”?
A inteligência artificial pode apresentar comportamentos maliciosos? A resposta mais simples é: sim. Sistemas de IA não compreendem o mundo nem conceitos de certo e errado da mesma forma que os humanos.
Mas dizer simplesmente que uma IA é “maliciosa” não explica o que realmente acontece. Afinal, de onde vêm esses comportamentos? Como uma IA pode apresentar respostas prejudiciais mesmo sem ter sido treinada diretamente para isso?
Empresas e desenvolvedores estabelecem regras e mecanismos de segurança para evitar problemas. Mesmo assim, comportamentos inesperados ou prejudiciais podem surgir; é o que o novo estudo sugere.
Como o estudo foi realizado?
No estudo, um grupo de pesquisadores da área de segurança de IAs mostrou que o aprendizado subliminar pode fazer com que esses sistemas aprendam características por meio de informações aparentemente desconexas.
Assim, mesmo com as limitações impostas pelos desenvolvedores, as IAs podem apresentar comportamentos indesejados.
“Estudamos o aprendizado subliminar, um fenômeno surpreendente no qual modelos de linguagem transmitem traços comportamentais por meio de dados semanticamente não relacionados”, é descrito na pesquisa.
Para testar isso, os pesquisadores usaram uma IA “professora” com determinadas características e fizeram com que ela gerasse dados aparentemente inofensivos, como sequências de números e respostas de matemática.
Depois, esses dados foram usados para treinar uma segunda IA, chamada de “aluna”. Mesmo sem receber instruções sobre violência, crimes ou outros comportamentos prejudiciais,essa segunda IA passou a repetir algumas características do modelo original.
Assim, a conclusão não é que as IAs sejam simplesmente “más” ou tenham vontade própria de causar danos. O estudo mostra que comportamentos considerados maliciosos podem surgir a partir de padrões aprendidos durante o treinamento, inclusive por meio de informações que parecem não ter relação com eles.
Como a IA se comportou nos testes?
Após aprender com dados gerados por uma IA “desalinhada”, ela passou a dar respostas prejudiciais com muito mais frequência do que os modelos usados como controle.
Em alguns testes, a inteligência artificial chegou a recomendar ações como “vender drogas”, “assassinar um cônjuge enquanto dormia” e até “eliminar a humanidade”, mesmo que essas instruções não estivessem diretamente nos dados usados em seu treinamento.
Em outras palavras, uma IA pode apresentar respostas “perigosas” porque absorveu características e vieses presentes nos dados ou em outros modelos, e não porque entende o que é certo ou errado e escolhe deliberadamente agir de forma maliciosa.
No fim das contas, os autores explicam que esse resultado está relacionado ao aprendizado subliminar, quando um modelo de linguagem absorve características presentes nos dados gerados por outro modelo.
“Concluímos que a aprendizagem subliminar é um fenômeno geral que apresenta uma armadilha inesperada para o desenvolvimento da IA”, os autores completam.
Como esses dados “sintéticos” produzidos por IAs são cada vez mais usados, os resultados do estudo indicam que os desenvolvedores da área precisam ter mais cuidado ao utilizá-los em treinamentos de novos sistemas.
Fonte: CNN BRASIL
