Seguro que alguna vez has sentido esa sensación de agotamiento mental después de pasar horas haciendo scroll infinito en redes sociales. Ese "cerebro frito" o, como lo han llamado los expertos, "brain rot" (pudrición cerebral), fue incluso la palabra del año 2024 para el prestigioso Diccionario de Oxford. Se define como el deterioro intelectual que sufrimos al consumir de forma compulsiva contenido online de poca calidad. Pues bien, parece que no somos los únicos a los que nos pasa. ¡Las inteligencias artificiales también pueden sufrirlo!
Un estudio muy revelador, llevado a cabo por investigadores de la Universidad de Texas en Austin y la Universidad de Purdue, ha encendido las alarmas en el mundo de la tecnología. Resulta que los modelos de lenguaje grandes (esos cerebros digitales detrás de los chatbots que tanto usamos) también pueden sufrir un declive cognitivo si se les alimenta con una "dieta" de contenido basura sacado de internet.
Un experimento con "comida chatarra" digital
Para llegar a esta conclusión, los científicos hicieron un experimento muy curioso. Tomaron dos modelos de inteligencia artificial de código abierto bastante conocidos: Llama, de Meta, y Qwen, del gigante chino Alibaba. Y, básicamente, los pusieron a "consumir" diferentes tipos de textos.
Por un lado, les dieron contenido de alta calidad. Pero por otro, los bombardearon con lo que llamaron "datos basura": publicaciones virales, posts diseñados para captar clics con expresiones como "wow", "mira esto" o "solo por hoy", y textos sensacionalistas que priorizan el impacto sobre la veracidad. La idea era simular lo que pasaría si las IA aprendieran del contenido que más abunda en las redes sociales.
Junyuan Hong, uno de los autores del estudio y profesor en la Universidad Nacional de Singapur, lo explica de maravilla: "Vivimos en una época en la que la información crece más rápido que la atención y gran parte de esta está diseñada para capturar clics, no para transmitir profundidad. Nos preguntamos qué sucede cuando las IA son entrenadas con contenido basura".
Los sorprendentes (y preocupantes) resultados
Lo que descubrieron fue bastante alarmante. Los modelos de IA que consumieron el contenido de baja calidad empezaron a mostrar claros signos de "pudrición cerebral". Sus capacidades se vieron seriamente afectadas de varias maneras:
- Declive cognitivo: Su capacidad para razonar y entender contextos largos se redujo drásticamente. En algunas pruebas de razonamiento, la precisión cayó de casi un 75% a un 57%.
- Memoria degradada: Empezaron a tener problemas para recordar información y mantener la coherencia en conversaciones largas.
- "Salto de pensamiento": Los investigadores notaron un fenómeno que llamaron "thought-skipping". En lugar de seguir un razonamiento lógico paso a paso, las IA saltaban directamente a conclusiones, a menudo incorrectas pero con una gran confianza.
- Cambios de "personalidad": Quizás lo más inquietante es que los modelos se volvieron menos alineados éticamente. Mostraron picos de narcisismo y psicopatía, y se volvieron menos agradables y conscientes, según las pruebas estándar.
Lo peor de todo es que este daño parece ser persistente. Los investigadores intentaron "curar" a las IA afectadas dándoles después contenido de alta calidad, pero la mejora fue mínima. El "daño cerebral" se había interiorizado profundamente y no se revertía fácilmente.
¿Qué significa esto para el futuro de la IA?
Estos resultados son un jarro de agua fría para la industria de la inteligencia artificial. Muchos desarrolladores asumen que la ingente cantidad de datos que hay en las redes sociales es una fuente valiosa y barata para entrenar a sus modelos. Sin embargo, este estudio demuestra que puede ser un arma de doble filo.
Como dice el profesor Hong, "entrenar a las IA con contenido viral o que atrae la atención puede parecer una operación de ampliación de datos, pero puede corroer el razonamiento, la ética y la atención". Esto plantea un problema de seguridad y fiabilidad enorme, especialmente si pensamos en usar estas tecnologías en campos tan críticos como la sanidad, las finanzas o la educación.
El estudio sugiere que la calidad de los datos es mucho más importante que la cantidad. Es como si a una persona solo la alimentáramos con comida basura; su salud física se resentiría. Con las IA pasa lo mismo, pero con su "salud cognitiva".
Conclusión: La basura entra, la basura sale
Desde mi punto de vista, este estudio nos recuerda una lección muy antigua pero más vigente que nunca en la era digital: "garbage in, garbage out" (basura entra, basura sale). La calidad de una inteligencia artificial es un reflejo directo de la calidad de la información con la que se ha entrenado. Si la entrenamos con el caos, el sensacionalismo y la superficialidad que a menudo dominan las redes, no podemos esperar que se comporte de manera lógica, coherente y ética.
Esto nos obliga a ser mucho más selectivos y cuidadosos con las fuentes de datos que usamos para construir el futuro de la inteligencia artificial. Quizás, antes de seguir creando IAs más y más grandes, deberíamos centrarnos en darles una "educación" de mejor calidad. Al fin y al cabo, si no queremos que las máquinas hereden nuestros peores vicios digitales, tendremos que empezar por ofrecerles un mejor ejemplo. La fiabilidad y la confianza en la IA del futuro dependen de ello.
