Google refina y modifica sus resúmenes de resultados de búsqueda generados por IA

Google anunció el jueves que perfeccionaría y ♣ ajustaría sus resúmenes de resultados de búsqueda generados por IA, publicando un blog que explica por qué la función devolvía ♣ respuestas extrañas y poco precisas que incluían decirle a la gente que comiera piedras o agregara cola a la salsa ♣ de pizza. La empresa reducirá el ámbito de las búsquedas que devolverán un resumen escrito por IA.

Google ha ♣ agregado varias restricciones al tipo de búsquedas que generarán resultados de resúmenes de IA, dijo el jefe de búsqueda de ♣ la empresa, Liz Reid, así como "limitó la inclusión de contenido satírico y humorístico". La empresa también está tomando medidas ♣ contra un pequeño número de resúmenes de IA que violan sus políticas de contenido, que dijo que ocurrió en menos ♣ de 1 en 7m búsquedas únicas donde apareció la función.

La función de resúmenes de IA, que Google lanzó ♣ en los EE. UU. este mes, produjo rápidamente ejemplos virales del tool malinterpretando la información y apareciendo usar fuentes satíricas ♣ como The Onion o publicaciones de Reddit humorísticas para generar respuestas. Los fracasos de la IA de Google se convirtieron ♣ en un meme, con capturas de pantalla falsas de respuestas absurdas y oscuras circulando ampliamente en las plataformas de redes ♣ sociales junto con los fallos reales del tool.

Google promocionó su función de resúmenes de IA como uno de ♣ los pilares de la empresa más amplia para incorporar la inteligencia artificial generativa en sus servicios centrales, pero su implementación ♣ llevó a la empresa a enfrentar vergüenza pública una vez más después del lanzamiento de un nuevo producto de IA. ♣ Google enfrentó una reacción pública y ridículo anterior este año después de que su herramienta de generación de imágenes de ♣ IA insertara erróneamente a personas de color en situaciones históricas, incluida la creación de imágenes de personas negras como soldados ♣ alemanes de segunda guerra mundial.

Lea más: Google detiene la generación de imágenes de personas AI después de la crítica ♣ por la raza

El blog de Google brindó un resumen breve de lo que salió mal con los resúmenes de ♣ IA y defendió la función, con Reid afirmando que muchas de las falsedades de los resúmenes de IA eran el ♣ resultado de lagunas de información debido a búsquedas raras o inusuales. Reid también afirmó que hubo intentos deliberados de manipular ♣ la función para que produjera respuestas inexactas.

"No hay nada como tener millones de personas utilizando la función con ♣ muchas búsquedas nuevas", dijo Reid en la publicación. "También hemos visto nuevas búsquedas sin sentido, aparentemente destinadas a producir resultados ♣ erróneos".

Muchos de los publicaciones virales, de hecho, fueron de búsquedas extrañas como "cuántas piedras debo comer" - que ♣ devolvió un resultado basado en un artículo de The Onion titulado Geólogos recomiendan comer al menos una pequeña piedra al ♣ día - pero otros parecían ser de consultas más razonables. Un experto en IA compartió una imagen de un resumen ♣ de IA que afirmaba que Barack Obama había sido el primer presidente musulmán de EE. UU., una teoría de la ♣ conspiración de derecha común.

"Al examinar ejemplos de las últimas semanas, pudimos determinar patrones en los que no lo ♣ hicimos bien y realizamos más de una docena de mejoras técnicas en nuestros sistemas", dijo Reid.

Aunque el blog de Google enmarca los problemas con los resúmenes de IA como