OpenAI divulga relatório sobre operações de influência ocultas usandoroulette decisionIA

A OpenAI divulgou ontem (quinta-feira) seu primeiro relatório sobre como 0️⃣ suas ferramentas de inteligência artificial estão sendo usadas roulette decision operações de influência ocultas, revelando que a empresa desarticulou campanhas de 0️⃣ desinformação originárias da Rússia, China, Israel e Irã.

Atores maliciosos utilizaram modelos de IA gerativos da empresa para criar e postar 0️⃣ conteúdo propagandístico roulette decision plataformas de mídia social e para traduzir seu conteúdo para diferentes idiomas. Nenhuma das campanhas teve êxito 0️⃣ ou atingiu grandes audiências, de acordo com o relatório.

Preocupações com a IA e desinformação

A medida que a indústria de IA 0️⃣ gerativa cresce, tem havido ampla preocupação entre pesquisadores e legisladores sobre seu potencial para aumentar a quantidade e a qualidade 0️⃣ da desinformação online. Empresas de IA, como a OpenAI, que criou o ChatGPT, tentaram com resultados mistos aliviar essas preocupações 0️⃣ e instituir garantias roulette decisionroulette decisiontecnologia.

Detalhes da OpenAI sobre uso de software para propaganda

O relatório de 39 páginas da OpenAI 0️⃣ é uma das contas mais detalhadas de uma empresa de IA sobre o uso de seu software para propaganda. A 0️⃣ OpenAI afirmou que seus pesquisadores identificaram e baniram contas associadas a cinco operações de influência oculta nos últimos três meses, 0️⃣ que eram de atores estatais e privados.

Em países como a Rússia, duas operações criaram e disseminaram conteúdo criticando os EUA, 0️⃣ a Ucrânia e várias nações bálticas. Uma delas usou um modelo da OpenAI para depurar código e criar um bot 0️⃣ que postou no Telegram. Operadores chineses geraram texto roulette decision inglês, chinês, japonês e coreano, que então postaram no Twitter e 0️⃣ no Medium.

Atores iranianos geraram artigos completos que atacavam os EUA e Israel, que traduziram para o inglês e francês. Uma 0️⃣ empresa política israelense chamada Stoic operou uma rede de contas de mídia social falsas que criaram uma variedade de conteúdo, 0️⃣ incluindo postagens que acusavam protestos estudantis nos EUA contra a guerra do Israel com a Gaza de ser antissemita.

Alguns dos 0️⃣ espalhadores de desinformação que a OpenAI baniu deroulette decisionplataforma já eram conhecidos de pesquisadores e autoridades. O Tesouro dos 0️⃣ EUA sancionou dois homens russos roulette decision março que, supostamente, estavam por trás de uma das campanhas que a OpenAI detectou, 0️⃣ enquanto o Meta também baniu a Stoic deroulette decisionplataforma este ano por violar suas políticas.

O relatório também destaca como 0️⃣ a IA gerativa está sendo incorporada roulette decision campanhas de desinformação como meio de aprimorar aspectos da geração de conteúdo, como 0️⃣ fazer postagens roulette decision línguas estrangeiras mais convincentes, mas que não é a ferramenta exclusiva para propaganda.

"Todas essas operações usaram AI 0️⃣ roulette decision algum grau, mas nenhuma a usou exclusivamente", o relatório afirmou. "Materiais gerados por IA foram apenas um dos muitos tipos 0️⃣ de conteúdo que eles postaram, ao lado de formatos mais tradicionais, como textos escritos à mão ou memes copiados da 0️⃣ internet".

Embora nenhuma das campanhas tenha obtido impacto significativo, o uso da tecnologia mostra como atores maliciosos estão encontrando que a 0️⃣ IA gerativa permite que eles ampliem a produção de propaganda. A escrita, a tradução e a postagem de conteúdos agora 0️⃣ podem ser feitas de maneira mais eficiente através do uso de ferramentas de IA, abaixando a barreira para a criação 0️⃣ de campanhas de desinformação.