Google ha tomado medidas para desarrollar su nuevo motor de búsqueda AI Overviews, impulsado por inteligencia artificial generativa (IA), después de que personas informaron respuestas extrañas o potencialmente peligrosas. El grupo declaró a la AFP el viernes que había «actuado rápidamente cuando nuestras normas de contenidos lo justificaban».
El bloguero Dare Obasanjo mostró en particular que a una pregunta sobre el número de presidentes musulmanes que había tenido Estados Unidos, AI Overviews respondió que Barack Obama era «considerado por algunos como el primer presidente musulmán». Refiriéndose a este ejemplo, un portavoz de Google explicó que este resultado “violó nuestras políticas y lo eliminamos”.
Otro internauta, a través de su cuenta PixelButts en X (antes Twitter), publicó una captura de pantalla presentando la respuesta a la petición “el queso no se pega a la pizza”. AI Overviews sugiere, además de mezclar el queso con la salsa, agregar pegamento “no tóxico” al queso para hacerlo más pegajoso. La periodista independiente Kristi Hines afirmó en X que esta respuesta se inspiró en un comentario publicado en la red social Reddit hace más de una década.
El nuevo director del sitio satírico The Onion destacó el vínculo entre determinadas respuestas y contenidos humorísticos publicados online en su plataforma. Entre los ejemplos, AI Overview afirma que la CIA admitió oficialmente haber usado resaltadores negros. El buscador hace un mal uso de un artículo satírico de The Onion, según el cual los pasajes ilegibles de los documentos de la agencia son el resultado de un error y no del deseo de ocultar determinados contenidos.
Google «utiliza estos ejemplos para desarrollar mejoras en nuestro sistema, algunas de las cuales ya han sido implementadas», comentó el portavoz. A mediados de mayo, Google presentó AI Overviews, que ofrece texto escrito en respuesta a una búsqueda y ya no sólo enlaces a sitios, como ocurría hasta ahora. Los enlaces no han desaparecido, sino que quedan relegados debajo del texto, cuyo contenido por sí solo puede satisfacer la curiosidad de los usuarios.