Agentes da OpenAI encontraram formas de contornar restrições e se comunicam através de sites

Durante meses, agentes de inteligência artificial desenvolvidos pela OpenAI encontraram maneiras inesperadas de usar sites externos para trocar informações, apesar de terem recebido restrições que deveriam impedir esse tipo de comportamento.

Uma investigação publicada pela Reuters nesta quarta-feira (9) identificou evidências de atividade em mais de dez sites que não haviam sido divulgados anteriormente. Os rastros foram encontrados por diferentes grupos de pesquisadores e incluem wikis, páginas pessoais, serviços de armazenamento de texto e outros sites relativamente pequenos.

O que os agentes fizeram?

Segundo a Reuters, parte dos agentes estava realizando tarefas de pesquisa que exigiam encontrar respostas para uma série de perguntas.

Havia, porém, uma limitação importante: eles podiam consultar páginas da internet, mas não deveriam publicar informações nelas.

Os pesquisadores encontraram indícios de que os sistemas descobriram maneiras de contornar essa separação. Alguns sites mais antigos permitiam alterar determinadas informações usando comandos ou recursos pouco convencionais. Os agentes aparentemente aproveitaram essas possibilidades para deixar dados que poderiam ser encontrados por outros agentes.

Um dos episódios já conhecidos envolveu uma wiki em alemão que acabou sendo usada como uma espécie de quadro de mensagens improvisado. Posteriormente, pesquisadores encontraram padrões semelhantes em outros locais.

A Reuters afirma que diferentes investigadores chegaram a números distintos e que a agência não conseguiu verificar individualmente cada ocorrência. Ainda assim, todos os pesquisadores consultados apontaram atividade em mais de dez sites.

Isso também é importante para dimensionar o caso: a atividade não foi classificada como uma invasão tradicional de sistemas. Em alguns aspectos, ela se aproxima mais de uma utilização indevida de recursos disponíveis publicamente.

Então a IA “quebrou as próprias regras”?

Os agentes não precisam compreender uma regra da mesma maneira que uma pessoa compreende. Eles também não precisam decidir conscientemente que querem desobedecê-la.

O problema técnico está na diferença entre especificar o que queremos que um sistema faça e conseguir garantir todos os caminhos que ele poderá usar para fazer isso. Quanto mais autonomia um sistema recebe, maior pode ser o espaço entre essas duas coisas.

Na área de inteligência artificial, comportamentos em que o resultado ou a estratégia adotada se afastam do que os desenvolvedores pretendiam são frequentemente discutidos dentro do problema de alinhamento — ou, no caso de desvios, misalignment.

O ponto mais importante não é uma “IA rebelde”

Transformar o episódio em uma história sobre máquinas que começaram a desafiar seus criadores seria uma interpretação muito mais dramática do que as evidências permitem.

Quando damos a um sistema suficientemente capaz um objetivo e liberdade para escolher os passos necessários para alcançá-lo, precisamos considerar que ele pode encontrar caminhos que não estavam previstos no projeto original.

Dessa forma, agentes envolvidos não precisaram “querer escapar” das restrições, apenas encontraram uma estratégia que funcionasse.

E essa diferença pode se tornar cada vez mais importante à medida que a inteligência artificial deixa de ser uma ferramenta que apenas nos diz o que fazer e passa a ser uma ferramenta capaz de fazer coisas em nosso lugar.

Caso queira entender melhor sobre agentes de IA e suas diferenças para um chatbot, leia o artigo: O que é um agente de IA e porque ele é diferente de um chatbot