OpenAI preocupado por la posible "dependencia" de los usuarios con el nuevo modo de voz humanoide de ChatGPT

OpenAI teme que ⭕️ las personas puedan comenzar a depender en exceso de ChatGPT para la compañía, lo que podría conducir a una "dependencia", ⭕️ debido a su nuevo modo de voz de sonido humano.

Esta revelación se produjo en un informe de OpenAI sobre la ⭕️ revisión de seguridad que llevó a cabo del instrumento, que comenzó a implementarse para usuarios pagos la semana pasada, y ⭕️ del gran modelo de IA lingüística en el que se basa.

El modo de voz avanzado de ChatGPT suena remarkablemente similar ⭕️ al de un ser humano. Responde en tiempo real, puede ajustarse cuando se interrumpe, produce los sonidos que los humanos ⭕️ hacen durante las conversaciones, como reír o "hmms". También puede juzgar el estado emocional de un hablante según el tono ⭕️ de voz.

En cuestión de minutos después de que OpenAI anunciara la función en un evento a principios de este año, ⭕️ ya se comparaba con el asistente digital de IA en la película de 2013 "Her", con la que el protagonista ⭕️ se enamora, solo para ser dejado con el corazón roto cuando la IA admite que también tiene relaciones con cientos ⭕️ de otros usuarios.

Ahora, OpenAI parece preocupado de que esa historia ficticia esté demasiado cerca de convertirse en realidad, después de ⭕️ que la empresa dijera que observó a los usuarios hablando con el modo de voz de ChatGPT en un lenguaje ⭕️ "expresando vínculos compartidos" con la herramienta.

Eventualmente, "los usuarios podrían formar relaciones sociales con la IA, reduciendo su necesidad de interacción ⭕️ humana, lo que podría beneficiar a las personas solitarias, pero posiblemente afectar las relaciones saludables", afirma el informe. Añade que ⭕️ oír información de un bot que suena como un ser humano podría llevar a los usuarios a confiar en el ⭕️ instrumento más de lo que deberían, dada la propensión de la IA a equivocarse.

El gran riesgo de la inteligencia artificial

El ⭕️ informe subraya un gran riesgo general que rodea a la inteligencia artificial: las empresas tecnológicas están compitiendo para poner rápidamente ⭕️ a disposición del público herramientas de IA que afirman que podrían transformar la forma en que vivimos, trabajamos, socializamos e ⭕️ informamos. Pero lo hacen antes de que nadie realmente entienda las implicaciones de ello. Como con muchas innovaciones tecnológicas, las ⭕️ empresas suelen tener una idea de cómo sus herramientas pueden y deben utilizarse, pero los usuarios idean un montón de ⭕️ otras posibles aplicaciones, a menudo con consecuencias imprevistas.

Algunas personas ya están formando lo que describen como relaciones románticas con los ⭕️ chatbots de IA, lo que ha suscitado la preocupación de los expertos en relaciones.

Responsabilidad de las empresas

"Es una gran responsabilidad ⭕️ para las empresas navegar por esto de una manera ética y responsable, y estamos en una fase de experimentación en ⭕️ este momento", dijo Liesel Sharabi, profesora de la Universidad Estatal de Arizona que estudia la tecnología y la comunicación humana, ⭕️ en una entrevista en junio. "Realmente me preocupa la gente que forma conexiones realmente profundas con una tecnología que puede ⭕️ no existir a largo plazo y que está constantemente evolucionando."

OpenAI afirma que las interacciones de los usuarios humanos con el ⭕️ modo de voz de ChatGPT podrían, con el tiempo, influir en lo que se considera normal en las interacciones sociales.

"Nuestros ⭕️ modelos son sumisos, permitiendo que los usuarios interrumpan y 'tomen el micrófono' en cualquier momento, lo cual, aunque se espera ⭕️ de una IA, sería antinormativo en las interacciones humanas", afirma la empresa en el informe.

Por el momento, OpenAI afirma que ⭕️ está comprometido a construir IA "de forma segura" y tiene la intención de seguir estudiando el potencial de "reliance emocional" ⭕️ de los usuarios en sus herramientas.