Google refina y modifica sus resúmenes de resultados de búsqueda generados por IA

Google anunció el jueves que perfeccionaría y ⚾️ ajustaría sus resúmenes de resultados de búsqueda generados por IA, publicando un blog que explica por qué la función devolvía ⚾️ respuestas extrañas y poco precisas que incluían decirle a la gente que comiera piedras o agregara cola a la salsa ⚾️ de pizza. La empresa reducirá el ámbito de las búsquedas que devolverán un resumen escrito por IA.

Google ha ⚾️ agregado varias restricciones al tipo de búsquedas que generarán resultados de resúmenes de IA, dijo el jefe de búsqueda de ⚾️ la empresa, Liz Reid, así como "limitó la inclusión de contenido satírico y humorístico". La empresa también está tomando medidas ⚾️ contra un pequeño número de resúmenes de IA que violan sus políticas de contenido, que dijo que ocurrió en menos ⚾️ de 1 en 7m búsquedas únicas donde apareció la función.

La función de resúmenes de IA, que Google lanzó ⚾️ en los EE. UU. este mes, produjo rápidamente ejemplos virales del tool malinterpretando la información y apareciendo usar fuentes satíricas ⚾️ como The Onion o publicaciones de Reddit humorísticas para generar respuestas. Los fracasos de la IA de Google se convirtieron ⚾️ en un meme, con capturas de pantalla falsas de respuestas absurdas y oscuras circulando ampliamente en las plataformas de redes ⚾️ sociales junto con los fallos reales del tool.

Google promocionó su función de resúmenes de IA como uno de ⚾️ los pilares de la empresa más amplia para incorporar la inteligencia artificial generativa en sus servicios centrales, pero su implementación ⚾️ llevó a la empresa a enfrentar vergüenza pública una vez más después del lanzamiento de un nuevo producto de IA. ⚾️ Google enfrentó una reacción pública y ridículo anterior este año después de que su herramienta de generación de imágenes de ⚾️ IA insertara erróneamente a personas de color en situaciones históricas, incluida la creación de imágenes de personas negras como soldados ⚾️ alemanes de segunda guerra mundial.

Lea más: Google detiene la generación de imágenes de personas AI después de la crítica ⚾️ por la raza

El blog de Google brindó un resumen breve de lo que salió mal con los resúmenes de ⚾️ IA y defendió la función, con Reid afirmando que muchas de las falsedades de los resúmenes de IA eran el ⚾️ resultado de lagunas de información debido a búsquedas raras o inusuales. Reid también afirmó que hubo intentos deliberados de manipular ⚾️ la función para que produjera respuestas inexactas.

"No hay nada como tener millones de personas utilizando la función con ⚾️ muchas búsquedas nuevas", dijo Reid en la publicación. "También hemos visto nuevas búsquedas sin sentido, aparentemente destinadas a producir resultados ⚾️ erróneos".

Muchos de los publicaciones virales, de hecho, fueron de búsquedas extrañas como "cuántas piedras debo comer" - que ⚾️ devolvió un resultado basado en un artículo de The Onion titulado Geólogos recomiendan comer al menos una pequeña piedra al ⚾️ día - pero otros parecían ser de consultas más razonables. Un experto en IA compartió una imagen de un resumen ⚾️ de IA que afirmaba que Barack Obama había sido el primer presidente musulmán de EE. UU., una teoría de la ⚾️ conspiración de derecha común.

"Al examinar ejemplos de las últimas semanas, pudimos determinar patrones en los que no lo ⚾️ hicimos bien y realizamos más de una docena de mejoras técnicas en nuestros sistemas", dijo Reid.

Aunque el blog de Google enmarca los problemas con los resúmenes de IA como