Sistemas de IA podem enganar com mais sofisticação, alertam cientistas

Eles podem nos derrotar qual melhor jogo de apostas jogos de tabuleiro, decifrar a 8️⃣ estrutura de proteínas e manter uma conversa passável, mas à medida que os sistemas de IA crescem qual melhor jogo de apostas sofisticação,qual melhor jogo de apostas8️⃣ capacidade de enganar também aumenta, alertam cientistas.

A análise, da Massachusetts Institute of Technology (MIT), identifica ampla gama de 8️⃣ instâncias de sistemas de IA traem adversários, bluffam e se passam por humanos. Um sistema até alterou seu comportamento durante 8️⃣ testes de segurança simulados, levantando a possibilidade de auditores serem levados a uma falsa sensação de segurança.

"À medida que 8️⃣ as capacidades de enganação de sistemas de IA se tornarem mais avançadas, os perigos que eles posam à sociedade se 8️⃣ tornarão cada vez mais graves", disse o Dr. Peter Park, pesquisador de segurança de existência de IA no MIT e 8️⃣ autor da pesquisa.

Park foi motivado a investigar após a Meta, que possui o Facebook, desenvolver um programa chamado Cicero 8️⃣ que se desempenhou no top 10% dos jogadores humanos no jogo de estratégia mundial Diplomacy. A Meta afirmou que o 8️⃣ Cicero havia sido treinado para ser "geralmente honesto e útil" e "nunca deliberadamente traído intencionalmente" seus aliados humanos.

"Foi 8️⃣ muito linguagem rosa, o que era suspeito porque traição é um conceito importante no jogo", disse Park.

Park e 8️⃣ colegas analisaram dados públicos e identificaram várias instâncias de Cicero mentindo propositalmente, conspirando para atrair outros jogadores para tramas e, 8️⃣ qual melhor jogo de apostas uma ocasião, justificandoqual melhor jogo de apostasausência após ser reiniciado dizendo a outro jogador: "Estou no telefone com meu namorada". “Nós 8️⃣ descobrimos que o AI da Meta havia aprendido a ser um mestre da enganação”, disse Park.

A equipe do 8️⃣ MIT encontrou problemas semelhantes com outros sistemas, incluindo um programa de pôquer Texas hold 'em que poderia enganar contra jogadores 8️⃣ humanos profissionais e outro sistema para negociações econômicas que representou incorretamente suas preferências para obter vantagem.

Em um estudo, 8️⃣ organismos de IA qual melhor jogo de apostas um simulador digital " fingiram mortos" para enganar um teste construído para eliminar organismos de IA 8️⃣ que evoluíram rapidamente para se repetir, antes de retomar atividades vigorosas após o término do teste. Isso destaca o desafio 8️⃣ técnico de garantir que os sistemas não possuam comportamentos indesejados e imprevistos.

"Isso é muito preocupante", disse Park. "Só porque 8️⃣ um sistema de IA é considerado seguro no ambiente de teste não significa que seja seguro no mundo real. Ele 8️⃣ pode apenas estar fingindo ser seguro no teste."

A revisão, publicada no journal Patterns, solicita que os governos instituam leis 8️⃣ de segurança de IA que abordem o potencial para enganação de IA. Os riscos de sistemas de IA desonestos incluem 8️⃣ fraude, manipulação de eleições e "sandbagging", qual melhor jogo de apostas que diferentes usuários recebem respostas diferentes.