Google refina y modifica sus resúmenes de resultados de búsqueda generados por IA

Google anunció el jueves que perfeccionaría y 🛡 ajustaría sus resúmenes de resultados de búsqueda generados por IA, publicando un blog que explica por qué la función devolvía 🛡 respuestas extrañas y poco precisas que incluían decirle a la gente que comiera piedras o agregara cola a la salsa 🛡 de pizza. La empresa reducirá el ámbito de las búsquedas que devolverán un resumen escrito por IA.

Google ha 🛡 agregado varias restricciones al tipo de búsquedas que generarán resultados de resúmenes de IA, dijo el jefe de búsqueda de 🛡 la empresa, Liz Reid, así como "limitó la inclusión de contenido satírico y humorístico". La empresa también está tomando medidas 🛡 contra un pequeño número de resúmenes de IA que violan sus políticas de contenido, que dijo que ocurrió en menos 🛡 de 1 en 7m búsquedas únicas donde apareció la función.

La función de resúmenes de IA, que Google lanzó 🛡 en los EE. UU. este mes, produjo rápidamente ejemplos virales del tool malinterpretando la información y apareciendo usar fuentes satíricas 🛡 como The Onion o publicaciones de Reddit humorísticas para generar respuestas. Los fracasos de la IA de Google se convirtieron 🛡 en un meme, con capturas de pantalla falsas de respuestas absurdas y oscuras circulando ampliamente en las plataformas de redes 🛡 sociales junto con los fallos reales del tool.

Google promocionó su función de resúmenes de IA como uno de 🛡 los pilares de la empresa más amplia para incorporar la inteligencia artificial generativa en sus servicios centrales, pero su implementación 🛡 llevó a la empresa a enfrentar vergüenza pública una vez más después del lanzamiento de un nuevo producto de IA. 🛡 Google enfrentó una reacción pública y ridículo anterior este año después de que su herramienta de generación de imágenes de 🛡 IA insertara erróneamente a personas de color en situaciones históricas, incluida la creación de imágenes de personas negras como soldados 🛡 alemanes de segunda guerra mundial.

Lea más: Google detiene la generación de imágenes de personas AI después de la crítica 🛡 por la raza

El blog de Google brindó un resumen breve de lo que salió mal con los resúmenes de 🛡 IA y defendió la función, con Reid afirmando que muchas de las falsedades de los resúmenes de IA eran el 🛡 resultado de lagunas de información debido a búsquedas raras o inusuales. Reid también afirmó que hubo intentos deliberados de manipular 🛡 la función para que produjera respuestas inexactas.

"No hay nada como tener millones de personas utilizando la función con 🛡 muchas búsquedas nuevas", dijo Reid en la publicación. "También hemos visto nuevas búsquedas sin sentido, aparentemente destinadas a producir resultados 🛡 erróneos".

Muchos de los publicaciones virales, de hecho, fueron de búsquedas extrañas como "cuántas piedras debo comer" - que 🛡 devolvió un resultado basado en un artículo de The Onion titulado Geólogos recomiendan comer al menos una pequeña piedra al 🛡 día - pero otros parecían ser de consultas más razonables. Un experto en IA compartió una imagen de un resumen 🛡 de IA que afirmaba que Barack Obama había sido el primer presidente musulmán de EE. UU., una teoría de la 🛡 conspiración de derecha común.

"Al examinar ejemplos de las últimas semanas, pudimos determinar patrones en los que no lo 🛡 hicimos bien y realizamos más de una docena de mejoras técnicas en nuestros sistemas", dijo Reid.

Aunque el blog de Google enmarca los problemas con los resúmenes de IA como