Tecnologia: Max Tegmark alerta sobre o risco existencial à humanidade imposto pela Inteligência Artificial

Max Tegmark, cientista e ativista jogar bets Inteligência 7️⃣ Artificial (IA), advertiu que as grandes tecnológicas desviaram a atenção do mundo do risco existencial à humanidade que a IA 7️⃣ ainda representa. Em entrevista à Guardian no AI Summit jogar bets Seul, Coreia do Sul, Tegmark disse que a mudança de 7️⃣ ênfase da extinção da vida para uma noção mais ampla de risco de segurança da IA poderia resultar jogar bets um 7️⃣ atraso inaceitável na imposição de regulamentações rigorosas aos criadores dos programas mais poderosos.

Preocupação com a IA fora de controle

Tegmark compara 7️⃣ a situação atual com a construção da primeira reator nuclear autossustentável jogar bets 1942, sob um campo de futebol de Chicago. 7️⃣ Quando os principais físicos da época souberam disso, ficaram alarmados, pois perceberam que a maior barreira para a construção de 7️⃣ uma bomba atômica havia sido ultrapassada. E, de fato, foi apenas três anos depois, com o teste Trinity jogar bets 1945.

"Modelos 7️⃣ de IA que podem passar no teste de Turing [em que alguém não consegue dizer jogar bets uma conversa se está 7️⃣ falando com um ser humano ou uma máquina] são o mesmo aviso para o tipo de IA sobre a qual 7️⃣ você pode perder o controle. Por isso, você tem pessoas como Geoffrey Hinton e Yoshua Bengio - e até mesmo 7️⃣ muitos CEOs de tecnologia, pelo menos jogar bets particular - ficando alarmados agora."

Liderança jogar bets regulação de IA

O instituto sem fins lucrativos 7️⃣ de Tegmark, o Future of Life Institute, liderou o apelo por uma pausa de seis meses jogar bets pesquisas avançadas jogar bets 7️⃣ IA no ano passado, devido a esses medos. O lançamento do modelo GPT-4 da OpenAI jogar bets março desse ano foi 7️⃣ o "canário na mina de carvão", segundo ele, e provou que o risco estava muito perto.

Apesar de milhares de assinaturas, 7️⃣ incluindo especialistas como Hinton e Bengio, dois dos três "padrinhos" da IA que pioneiram a abordagem de aprendizado de máquina 7️⃣ que sustenta o campo hoje, nenhuma pausa foi acordada.

Em vez disso, os fóruns de AI, como o de Seul, vêm 7️⃣ liderando o campo emergente da regulação de IA. "Nós queríamos que a carta legitimasse a conversa, e ficamos muito satisfeitos 7️⃣ com o resultado. Uma vez que as pessoas viram que as pessoas como Bengio estão preocupadas, elas acharam que estava 7️⃣ OK se preocuparem também".

"Mas agora, precisamos passar de apenas falar sobre isso para realmente fazer algo a respeito."