OpenAI divulga relatório sobre operações de influência ocultas usandojogos de roletaIA

A OpenAI divulgou ontem (quinta-feira) seu primeiro relatório sobre como 🌛 suas ferramentas de inteligência artificial estão sendo usadas jogos de roleta operações de influência ocultas, revelando que a empresa desarticulou campanhas de 🌛 desinformação originárias da Rússia, China, Israel e Irã.

Atores maliciosos utilizaram modelos de IA gerativos da empresa para criar e postar 🌛 conteúdo propagandístico jogos de roleta plataformas de mídia social e para traduzir seu conteúdo para diferentes idiomas. Nenhuma das campanhas teve êxito 🌛 ou atingiu grandes audiências, de acordo com o relatório.

Preocupações com a IA e desinformação

A medida que a indústria de IA 🌛 gerativa cresce, tem havido ampla preocupação entre pesquisadores e legisladores sobre seu potencial para aumentar a quantidade e a qualidade 🌛 da desinformação online. Empresas de IA, como a OpenAI, que criou o ChatGPT, tentaram com resultados mistos aliviar essas preocupações 🌛 e instituir garantias jogos de roletajogos de roletatecnologia.

Detalhes da OpenAI sobre uso de software para propaganda

O relatório de 39 páginas da OpenAI 🌛 é uma das contas mais detalhadas de uma empresa de IA sobre o uso de seu software para propaganda. A 🌛 OpenAI afirmou que seus pesquisadores identificaram e baniram contas associadas a cinco operações de influência oculta nos últimos três meses, 🌛 que eram de atores estatais e privados.

Em países como a Rússia, duas operações criaram e disseminaram conteúdo criticando os EUA, 🌛 a Ucrânia e várias nações bálticas. Uma delas usou um modelo da OpenAI para depurar código e criar um bot 🌛 que postou no Telegram. Operadores chineses geraram texto jogos de roleta inglês, chinês, japonês e coreano, que então postaram no Twitter e 🌛 no Medium.

Atores iranianos geraram artigos completos que atacavam os EUA e Israel, que traduziram para o inglês e francês. Uma 🌛 empresa política israelense chamada Stoic operou uma rede de contas de mídia social falsas que criaram uma variedade de conteúdo, 🌛 incluindo postagens que acusavam protestos estudantis nos EUA contra a guerra do Israel com a Gaza de ser antissemita.

Alguns dos 🌛 espalhadores de desinformação que a OpenAI baniu dejogos de roletaplataforma já eram conhecidos de pesquisadores e autoridades. O Tesouro dos 🌛 EUA sancionou dois homens russos jogos de roleta março que, supostamente, estavam por trás de uma das campanhas que a OpenAI detectou, 🌛 enquanto o Meta também baniu a Stoic dejogos de roletaplataforma este ano por violar suas políticas.

O relatório também destaca como 🌛 a IA gerativa está sendo incorporada jogos de roleta campanhas de desinformação como meio de aprimorar aspectos da geração de conteúdo, como 🌛 fazer postagens jogos de roleta línguas estrangeiras mais convincentes, mas que não é a ferramenta exclusiva para propaganda.

"Todas essas operações usaram AI 🌛 jogos de roleta algum grau, mas nenhuma a usou exclusivamente", o relatório afirmou. "Materiais gerados por IA foram apenas um dos muitos tipos 🌛 de conteúdo que eles postaram, ao lado de formatos mais tradicionais, como textos escritos à mão ou memes copiados da 🌛 internet".

Embora nenhuma das campanhas tenha obtido impacto significativo, o uso da tecnologia mostra como atores maliciosos estão encontrando que a 🌛 IA gerativa permite que eles ampliem a produção de propaganda. A escrita, a tradução e a postagem de conteúdos agora 🌛 podem ser feitas de maneira mais eficiente através do uso de ferramentas de IA, abaixando a barreira para a criação 🌛 de campanhas de desinformação.