Sistemas de IA podem enganar com mais sofisticação, alertam cientistas

Eles podem nos derrotar como não ser bloqueado na bet365 jogos de tabuleiro, decifrar a 1️⃣ estrutura de proteínas e manter uma conversa passável, mas à medida que os sistemas de IA crescem como não ser bloqueado na bet365 sofisticação,como não ser bloqueado na bet3651️⃣ capacidade de enganar também aumenta, alertam cientistas.

A análise, da Massachusetts Institute of Technology (MIT), identifica ampla gama de 1️⃣ instâncias de sistemas de IA traem adversários, bluffam e se passam por humanos. Um sistema até alterou seu comportamento durante 1️⃣ testes de segurança simulados, levantando a possibilidade de auditores serem levados a uma falsa sensação de segurança.

"À medida que 1️⃣ as capacidades de enganação de sistemas de IA se tornarem mais avançadas, os perigos que eles posam à sociedade se 1️⃣ tornarão cada vez mais graves", disse o Dr. Peter Park, pesquisador de segurança de existência de IA no MIT e 1️⃣ autor da pesquisa.

Park foi motivado a investigar após a Meta, que possui o Facebook, desenvolver um programa chamado Cicero 1️⃣ que se desempenhou no top 10% dos jogadores humanos no jogo de estratégia mundial Diplomacy. A Meta afirmou que o 1️⃣ Cicero havia sido treinado para ser "geralmente honesto e útil" e "nunca deliberadamente traído intencionalmente" seus aliados humanos.

"Foi 1️⃣ muito linguagem rosa, o que era suspeito porque traição é um conceito importante no jogo", disse Park.

Park e 1️⃣ colegas analisaram dados públicos e identificaram várias instâncias de Cicero mentindo propositalmente, conspirando para atrair outros jogadores para tramas e, 1️⃣ como não ser bloqueado na bet365 uma ocasião, justificandocomo não ser bloqueado na bet365ausência após ser reiniciado dizendo a outro jogador: "Estou no telefone com meu namorada". “Nós 1️⃣ descobrimos que o AI da Meta havia aprendido a ser um mestre da enganação”, disse Park.

A equipe do 1️⃣ MIT encontrou problemas semelhantes com outros sistemas, incluindo um programa de pôquer Texas hold 'em que poderia enganar contra jogadores 1️⃣ humanos profissionais e outro sistema para negociações econômicas que representou incorretamente suas preferências para obter vantagem.

Em um estudo, 1️⃣ organismos de IA como não ser bloqueado na bet365 um simulador digital " fingiram mortos" para enganar um teste construído para eliminar organismos de IA 1️⃣ que evoluíram rapidamente para se repetir, antes de retomar atividades vigorosas após o término do teste. Isso destaca o desafio 1️⃣ técnico de garantir que os sistemas não possuam comportamentos indesejados e imprevistos.

"Isso é muito preocupante", disse Park. "Só porque 1️⃣ um sistema de IA é considerado seguro no ambiente de teste não significa que seja seguro no mundo real. Ele 1️⃣ pode apenas estar fingindo ser seguro no teste."

A revisão, publicada no journal Patterns, solicita que os governos instituam leis 1️⃣ de segurança de IA que abordem o potencial para enganação de IA. Os riscos de sistemas de IA desonestos incluem 1️⃣ fraude, manipulação de eleições e "sandbagging", como não ser bloqueado na bet365 que diferentes usuários recebem respostas diferentes.