Google habla sobre los fallos virales de la IA integrada en su buscador

800 Noticias

Google ha respondido a todas las críticas hacia AI Overview. La compañía detrás de Android presentó al mundo en el marco del Google I/O 2024 una nueva experiencia de búsqueda integrada. Pese a que la empresa de Mountain View indicó al mundo que AI Overview está destinada a revolucionar las búsquedas en Google, la realidad ha sido todo lo contrario. El funcionamiento de AI Overview ha sido objeto de burla por parte de los usuarios debido a que los resultados están llenos de errores que se han hecho virales, aunque Google parece confiar en su característica hasta tal punto de defender su exactitud.

En una publicación en su blog oficial han explicado el funcionamiento de AI Overview, intentando arrojar luz a los fallos técnicos que se han encontrado los usuarios a lo largo de la última semana. Google confía plenamente en AI Overview y para evitar que los comentarios surjan de nuevo ha decidido explicar cómo es su funcionamiento, además de indicar que han realizado cambios para mejorar la experiencia. Habiendo dejado esto claro, vamos a ver cómo funciona AI Overview y qué es lo que ha cambiado Google.

Google mejora AI Overview para evitar nuevas críticas a su funcionamiento

Google deja claro que AI Overview tiene un funcionamiento totalmente diferente a un chatbot o a un modelo de lenguaje de grandes dimensiones o LLM, la característica integrada en su buscador no está pensada para generar resultados gracias a haber sido entrenada con bases de datos. Este modelo se encuentra integrado dentro de los principales sistemas de clasificación web de Google.

La labor de AI Overview consiste en ser capaz de realizar tareas de búsqueda tradicionales, identificando temas relevantes y de alta calidad. Esto se traduce en que AI Overview no se limita a ofrecer resultados de texto a los usuarios, la característica muestra enlaces que resultan relevantes y que permitirán realizar una búsqueda en profundidad sobre el tema en cuestión.

Al ser la precisión un elemento clave de AI Overview, las situaciones en las que se equivoca no responden a un fallo de la característica. De hecho, Google deja claro que los resúmenes de IA están diseñados para mostrar únicamente información respaldada por los mejores resultados web. Entonces, ¿qué ocurre cuando AI Overview falla? Esta es la respuesta de Google:

«Cuando los resúmenes de IA se equivocan, suele ser por otras razones: malinterpretación de consultas, malinterpretación de un matiz del lenguaje en la web o falta de una gran cantidad de información disponible2

La explicación de Google es clara, pero no basta para evitar que las críticas cesen. Los de Mountain View dejan claro que AI Overview tiene un funcionamiento correcto dentro de los marcos esperables, aunque también comentan que al lanzarse casi globalmente resulta inevitable que ofrezca fallos al tener que hacer frente a millones de peticiones.

No es lo único que han comentado respecto a los fallos, Google pone el foco en capturas de pantalla alteradas mostrando resultados falsos:

«Ha habido un gran número de capturas de pantalla falsas ampliamente compartidas. Algunos de estos resultados falsos han sido obvios y tontos. Otros han dado a entender que obteníamos resultados peligrosos sobre temas como dejar a los perros en el coche, fumar estando embarazada o la depresión. Esos resúmenes de IA nunca aparecieron. Así que animamos a cualquiera que encuentre estas capturas de pantalla a que haga una búsqueda por sí mismo para comprobarlo»

Teniendo todo esto en cuenta, Google ha indicado que se han realizado cambios destinados a mejorar el funcionamiento de AI Overview. Las principales novedades en las que han trabajado son las siguientes:

• Mejores mecanismos de detección de consultas sin sentido que no deberían mostrar una visión general de la IA, y hemos limitado la inclusión de contenidos satíricos y humorísticos.
• Actualización de los sistemas propios para limitar el uso de contenidos generados por los usuarios en respuestas que podrían ofrecer consejos engañosos.
• Restricciones de activación para las consultas en las que los resúmenes de IA no resultaban tan útiles.
• Para temas como las noticias y la salud, ya cuentan con fuertes barreras de seguridad. El objetivo es no mostrar resúmenes de inteligencia artificial en temas de actualidad, donde la frescura y la veracidad son importantes. En el caso de la salud, se ha introducido mejoras adicionales para aumentar la protección de la calidad.

Lea la nota completa en La Vanguardia

Únete a nuestro canal de Telegram, información sin censura: https://t.me/canal800noticias