El nuevo sistema de IA de Google, «AI Overview», ha desatado un torbellino de controversia tras la aparición de respuestas extrañas y a menudo absurdas a las consultas de los usuarios. En las redes sociales, se han viralizado ejemplos de AI Overview aconsejando acciones tan descabelladas como pegar cola a la pizza o ingerir piedras.
Este caos digital ha obligado a Google a tomar medidas drásticas: desactivar manualmente las respuestas de AI Overview para búsquedas específicas. La velocidad con la que se han propagado los ejemplos de respuestas extrañas ha generado la sensación de que el sistema ha sido lanzado al mercado sin una fase de pruebas exhaustiva, a pesar de que Google asegura que la tecnología lleva un año en desarrollo.
La empresa, conocida por su obsesión por la calidad y la innovación, se encuentra ahora en una situación difícil. Las críticas han comenzado a surgir, con acusaciones de que la IA está lejos de estar lista para ser utilizada en el mundo real.
«Google, una vez sinónimo de excelencia, ahora es blanco de burlas por la baja calidad de su IA», señaló un fundador de IA, que prefirió no revelar su identidad.
Google, por su parte, insiste en que la mayoría de las respuestas de AI Overview son precisas y útiles. La empresa atribuye las respuestas extrañas a consultas poco comunes o a manipulaciones de los usuarios. Sin embargo, ha reconocido que la IA todavía está en desarrollo y que se están tomando medidas para mejorar su precisión.
«Estamos trabajando para mejorar la calidad y la precisión de AI Overview», declaró Meghann Farnsworth, portavoz de Google. «Estamos utilizando los ejemplos de respuestas extrañas para identificar las áreas de mejora y estamos implementando cambios para evitar que ocurran en el futuro».
Gary Marcus, experto en IA y profesor emérito de neurociencia de la Universidad de Nueva York, considera que la industria de la IA está vendiendo falsas promesas. Si bien lograr un 80% de precisión en la IA es relativamente fácil gracias al uso de grandes conjuntos de datos, alcanzar el 100% es un desafío aún mayor.
«Para que la IA realmente funcione, se necesita algo más que procesar información: se necesita razonamiento y discernimiento», comentó Marcus. «La IA necesita ser capaz de discernir la plausibilidad de las respuestas, la calidad de las fuentes y aplicar el sentido común, algo que solo la inteligencia general artificial podría lograr».
Las ambiciones de Google con AI Overview son grandes: la empresa busca crear un sistema que pueda responder a consultas complejas, generar resultados personalizados y realizar búsquedas visuales en tiempo real. Sin embargo, la reputación de Google se encuentra ahora en juego. Para recuperar la confianza de los usuarios, la empresa deberá garantizar la precisión y la fiabilidad de su IA, y abordar los errores que han empañado su lanzamiento.
«Las limitaciones de la IA son evidentes», concluyó Marcus. «Los sistemas actuales carecen de la capacidad de autoevaluación y de discernimiento, y esto es lo que está creando problemas en la industria».
