OpenAI divulga relatório sobre operações de influência ocultas usandoblazeapostaIA

A OpenAI divulgou ontem (quinta-feira) seu primeiro relatório sobre como 5️⃣ suas ferramentas de inteligência artificial estão sendo usadas blazeaposta operações de influência ocultas, revelando que a empresa desarticulou campanhas de 5️⃣ desinformação originárias da Rússia, China, Israel e Irã.

Atores maliciosos utilizaram modelos de IA gerativos da empresa para criar e postar 5️⃣ conteúdo propagandístico blazeaposta plataformas de mídia social e para traduzir seu conteúdo para diferentes idiomas. Nenhuma das campanhas teve êxito 5️⃣ ou atingiu grandes audiências, de acordo com o relatório.

Preocupações com a IA e desinformação

A medida que a indústria de IA 5️⃣ gerativa cresce, tem havido ampla preocupação entre pesquisadores e legisladores sobre seu potencial para aumentar a quantidade e a qualidade 5️⃣ da desinformação online. Empresas de IA, como a OpenAI, que criou o ChatGPT, tentaram com resultados mistos aliviar essas preocupações 5️⃣ e instituir garantias blazeapostablazeapostatecnologia.

Detalhes da OpenAI sobre uso de software para propaganda

O relatório de 39 páginas da OpenAI 5️⃣ é uma das contas mais detalhadas de uma empresa de IA sobre o uso de seu software para propaganda. A 5️⃣ OpenAI afirmou que seus pesquisadores identificaram e baniram contas associadas a cinco operações de influência oculta nos últimos três meses, 5️⃣ que eram de atores estatais e privados.

Em países como a Rússia, duas operações criaram e disseminaram conteúdo criticando os EUA, 5️⃣ a Ucrânia e várias nações bálticas. Uma delas usou um modelo da OpenAI para depurar código e criar um bot 5️⃣ que postou no Telegram. Operadores chineses geraram texto blazeaposta inglês, chinês, japonês e coreano, que então postaram no Twitter e 5️⃣ no Medium.

Atores iranianos geraram artigos completos que atacavam os EUA e Israel, que traduziram para o inglês e francês. Uma 5️⃣ empresa política israelense chamada Stoic operou uma rede de contas de mídia social falsas que criaram uma variedade de conteúdo, 5️⃣ incluindo postagens que acusavam protestos estudantis nos EUA contra a guerra do Israel com a Gaza de ser antissemita.

Alguns dos 5️⃣ espalhadores de desinformação que a OpenAI baniu deblazeapostaplataforma já eram conhecidos de pesquisadores e autoridades. O Tesouro dos 5️⃣ EUA sancionou dois homens russos blazeaposta março que, supostamente, estavam por trás de uma das campanhas que a OpenAI detectou, 5️⃣ enquanto o Meta também baniu a Stoic deblazeapostaplataforma este ano por violar suas políticas.

O relatório também destaca como 5️⃣ a IA gerativa está sendo incorporada blazeaposta campanhas de desinformação como meio de aprimorar aspectos da geração de conteúdo, como 5️⃣ fazer postagens blazeaposta línguas estrangeiras mais convincentes, mas que não é a ferramenta exclusiva para propaganda.

"Todas essas operações usaram AI 5️⃣ blazeaposta algum grau, mas nenhuma a usou exclusivamente", o relatório afirmou. "Materiais gerados por IA foram apenas um dos muitos tipos 5️⃣ de conteúdo que eles postaram, ao lado de formatos mais tradicionais, como textos escritos à mão ou memes copiados da 5️⃣ internet".

Embora nenhuma das campanhas tenha obtido impacto significativo, o uso da tecnologia mostra como atores maliciosos estão encontrando que a 5️⃣ IA gerativa permite que eles ampliem a produção de propaganda. A escrita, a tradução e a postagem de conteúdos agora 5️⃣ podem ser feitas de maneira mais eficiente através do uso de ferramentas de IA, abaixando a barreira para a criação 5️⃣ de campanhas de desinformação.