Tecnologia: Max Tegmark alerta sobre o risco existencial à humanidade imposto pela Inteligência Artificial

Max Tegmark, cientista e ativista bwin deal or no deal Inteligência 9️⃣ Artificial (IA), advertiu que as grandes tecnológicas desviaram a atenção do mundo do risco existencial à humanidade que a IA 9️⃣ ainda representa. Em entrevista à Guardian no AI Summit bwin deal or no deal Seul, Coreia do Sul, Tegmark disse que a mudança de 9️⃣ ênfase da extinção da vida para uma noção mais ampla de risco de segurança da IA poderia resultar bwin deal or no deal um 9️⃣ atraso inaceitável na imposição de regulamentações rigorosas aos criadores dos programas mais poderosos.

Preocupação com a IA fora de controle

Tegmark compara 9️⃣ a situação atual com a construção da primeira reator nuclear autossustentável bwin deal or no deal 1942, sob um campo de futebol de Chicago. 9️⃣ Quando os principais físicos da época souberam disso, ficaram alarmados, pois perceberam que a maior barreira para a construção de 9️⃣ uma bomba atômica havia sido ultrapassada. E, de fato, foi apenas três anos depois, com o teste Trinity bwin deal or no deal 1945.

"Modelos 9️⃣ de IA que podem passar no teste de Turing [em que alguém não consegue dizer bwin deal or no deal uma conversa se está 9️⃣ falando com um ser humano ou uma máquina] são o mesmo aviso para o tipo de IA sobre a qual 9️⃣ você pode perder o controle. Por isso, você tem pessoas como Geoffrey Hinton e Yoshua Bengio - e até mesmo 9️⃣ muitos CEOs de tecnologia, pelo menos bwin deal or no deal particular - ficando alarmados agora."

Liderança bwin deal or no deal regulação de IA

O instituto sem fins lucrativos 9️⃣ de Tegmark, o Future of Life Institute, liderou o apelo por uma pausa de seis meses bwin deal or no deal pesquisas avançadas bwin deal or no deal 9️⃣ IA no ano passado, devido a esses medos. O lançamento do modelo GPT-4 da OpenAI bwin deal or no deal março desse ano foi 9️⃣ o "canário na mina de carvão", segundo ele, e provou que o risco estava muito perto.

Apesar de milhares de assinaturas, 9️⃣ incluindo especialistas como Hinton e Bengio, dois dos três "padrinhos" da IA que pioneiram a abordagem de aprendizado de máquina 9️⃣ que sustenta o campo hoje, nenhuma pausa foi acordada.

Em vez disso, os fóruns de AI, como o de Seul, vêm 9️⃣ liderando o campo emergente da regulação de IA. "Nós queríamos que a carta legitimasse a conversa, e ficamos muito satisfeitos 9️⃣ com o resultado. Uma vez que as pessoas viram que as pessoas como Bengio estão preocupadas, elas acharam que estava 9️⃣ OK se preocuparem também".

"Mas agora, precisamos passar de apenas falar sobre isso para realmente fazer algo a respeito."