Os podéis quedar internet. Enhorabuena por la victoria.
Leo el texto que Rachel Kroll ha titulado «I'm still around.. I'm just not writing here.» junto a su discusión en lobste.rs. Me ha producido una impresión inenarrable, catártica. Describe el fenómeno que estamos viviendo muchos creadores, quienes hemos ido dejando de participar activamente en la red. «The web is broken. You can keep it». Es la mejor forma de articular con palabras la creciente desilusión que muchos sentimos al ver en qué se ha convertido nuestra querida internet, esa «ciberautopista» que nos hizo soñar con la libertad de comunicación e información.
Las redes sociales llevaban años llenando el vaso y la IA generativa lo ha desbordado. Los eventos se han precipitado y no hay vuelta atrás. Yo lo llamé «la singularidad», pero este concepto me hacía más gracia cuando todavía era hipotético. Abracé esta tecnología bajo una serie de premisas y estas se han dejado de cumplir, abolidas por sus actuales amos. Estoy profundamente dolorido. Escribo este artículo desde las tripas y espero que todo aquel que haga el esfuerzo de leerlo —que reconozco y agradezco— sienta los mismos retortijones que yo. Este es mi panegírico a internet.
Se ha destruido el contrato social de internet
Tradicionalmente, escribir en la red era una forma de ayudar a otros seres humanos y conectar con ellos. Lo primero que hice cuando me conecté a internet en 1999 fue crear una página web con trucos para el Final Fantasy VII para que otros pudieran disfrutar del juego. He visto el auge y el declive de blogs, foros, Flickr, podcasts, Fotolog, Usenet, canales de Youtube, Facebook, Twitter, Substack. He visto la web 1.0, la 2.0, la 3.0, y he perdido la cuenta. Décadas de participación, de artículos, comentarios, tutoriales, consejos, soluciones y, por qué no admitirlo, opiniones no siempre acertadas pero que escribí con la honesta intención de contribuir a un mundo mejor.
Todos los incentivos que tenía para seguir creando en la internet moderna han desaparecido. La decisión racional es, pues, dejar de hacerlo.
Cuatro factores, con diferentes orígenes pero relacionados entre ellos, han destruido el contrato social de este internet que se ha vuelto irreconocible y al que, si no le llamamos de otra manera, es por simple inercia histórica. Son estos, que desglosaré en el resto del artículo.
- Las redes sociales algorítmicas han levantado una barrera entre los creadores y los consumidores, desfigurando los criterios de calidad. Ya no se consume lo mejor, sino aquello más corto y adictivo, lo «viral». Las apps se han optimizado para el contenido breve, impactante y estremecedor. No tengo ninguna duda de que este hecho se estudiará en el futuro como la crisis que provocó la destrucción de internet.
- Las empresas de IA generativa han abusado de la buena fe de los creadores, intermediando sus contenidos, sus plataformas, y monetizando sus creaciones. Esto no es nuevo; fue Google quien lo inició hace una década. Pero los chatbots van más allá y sencillamente sacan al creador de la ecuación.
- La facilidad para agregar y resumir texto hace asequible y, por tanto, inevitable, el perfilado masivo de usuarios. Siempre supimos que todo lo que subíamos a internet era para siempre. Pero no creímos que existiría una mente masiva capaz de digerirlo y mostrarnos desnudos frente al mundo.
- Los expertos han perdido su autoridad. El lector cínico afirmará que no es nuevo. Lo sé. Pero ahora que la cuestión discutida resulta ser aquella sobre la que yo soy un experto, se rompe la ilusión: leo demasiadas sandeces y paparruchas que la prensa da por válidas de forma totalmente acrítica. Creíamos que disponer de toda la información del mundo erradicaría la mentira, pero ha sido exactamente al contrario.
1. Se acabó navegar por internet
El origen de toda esta tragedia, el motivo principal, es que la gente ya no «navega» por internet. Ya no escribe la dirección de una página que le gusta y la visita para ver si han publicado algo nuevo. Tampoco la guarda en favoritos ni se suscribe a su RSS. Qué va. Los amos de internet han ejecutado con éxito una estrategia lenta y premeditada para desincentivar la navegación tradicional. La «navegación» por internet se ha reducido a entrar a la app de una red social y alimentarse de la papilla de contenidos que su algoritmo considera que uno debe consumir.
Pero, ¿qué contenidos promociona el algoritmo?
La primera regla de la red social es no mostrarte enlaces. La empresa quiere que seas un yonki de su app. No es una exageración: es una sentencia judicial. En Twitter, compartir un enlace a la plataforma vale 100 veces más que leerlo, 40 veces más que un like, 4 veces más que dejar un comentario. Instagram directamente prohíbe los enlaces, el concepto que dio vida a internet. La empresa no quiere que navegues, quiere que le traigas más adictos.
La segunda regla de la red social es enganchar al usuario. Cada plataforma cuenta con un equipo de psicólogos que diseña los algoritmos para provocar reacciones viscerales. Las más sencillas de producir son las negativas: el odio, la indignación, la ira. Los americanos lo llaman «doomscrolling»: pasar páginas y páginas de titulares hasta que la fatalidad del mundo acaba contigo. Dado que es mucho más fácil compartir una mala noticia indignante que una buena que hace pensar, en los últimos diez años los titulares se han vuelto indistinguibles de las fake news. Los contenidos se han reducido a su mínima expresión, desvirtuando completamente la realidad, fomentando la cultura del «ticker» o «cintillo», el carrusel de titulares, que favorece la adicción por encima de la comprensión. Los usuarios se vuelven adictos a las mentiras que les destruyen la mente y polarizan a la sociedad. Los psicólogos lo saben, pero las facturas no se pagan solas.
La tercera regla de las redes sociales es la promoción. Al haber desaparecido la navegación tradicional, escribir artículos como este es chillar al vacío. Tengo más de 30.000 seguidores en Twitter, pero cuando cuelgue el enlace a este texto, menos del 1% lo verán en sus pantallas, y aún menos lo leerán. Te comentaba que Twitter no quiere que salgas de su app y vengas a esta página a leerme. Como solución, Twitter me propone pagarle para que la gente que ha hecho clic en «leer a Carlos» pueda leer lo que escribe Carlos. Extraño negocio este. La audiencia está secuestrada por las redes sociales algorítmicas. Como alguien que todavía usa RSS y que, cuando sigue a alguien por internet, es porque quiere leer lo que escribe, este chantaje me produce arcadas.
La cuarta regla de las redes sociales es la servidumbre del creador. Si todo fuera malo, nadie usaría las redes. Su propuesta más atractiva es única: permiten «viralizar» el contenido. Sobre el papel, es una fantástica meritocracia, donde el buen contenido flota por encima de la basura. Pero, en realidad, la red es un pequeño señor feudal. La «viralización» no es espontánea, casual. Exige un enorme esfuerzo y constancia en redes sociales, seguir unas «reglas». Si quieres que alguien te lea no basta con escribir y cultivar una audiencia gota a gota. Tienes que venir a jugar.
¿Estás dispuesto a llegar hasta el fondo?
Lo que no se promociona no existe. No basta con escribir, con grabar: debes además publicar reels o tiktoks o shorts para promocionar el contenido principal. Las plataformas te penalizan si sólo publicas contenido largo. El creador se ve obligado a dedicar esfuerzo extra a crear materiales específicos de promoción. Y se genera una paradoja: el trailer empieza a tener más visitas que el contenido. Surge la duda razonable: ¿qué sentido tiene el esfuerzo inicial, si a la gente le interesa más el resumen? La conclusión es evidente: merece más la pena hacer sólo resúmenes. Así, el resumen pasa a ser el original. El contenido corto se come al largo. El modelo de publicación y de consumo ha cambiado.
Conozco el sistema porque en su momento decidí jugar. Después de meses picando piedra, uno de mis contenidos se viralizó y logró convertirse en el segundo tuit más leído de la semana en todo internet. El influjo de seguidores y comentarios me sobrepasó, pero realicé un esfuerzo desinteresado por ayudar a todos los que me lo pidieron. Semanas después, circunstancias personales me hicieron romper la racha de publicaciones y el algoritmo me empezó a penalizar de nuevo. Dejar de publicar regularmente es saltarse «las reglas». Tomarse un descanso implica volver al agujero negro.
Me recuerda a la historia que me explicó un amigo, ciclista amateur, muy bueno, cuando se le presentó la oportunidad de convertirse en profesional. Le preguntaron si estaba dispuesto a doparse. No dudo de que sería con otras palabras, así como tampoco dudo de que la definición de «doparse» puede ser muy amplia y consistir únicamente en técnicas legales. Pero la implicación estaba clara como el agua. La decisión implicaba llegar hasta el fondo. Si quieres jugar no hay medias tintas. Mi amigo declinó. «Extraño juego, el único movimiento para ganar es no jugar».
Muchos creadores, presionados por las exigencias de los algoritmos de recomendación, se han visto obligados a abandonar sus canales, exhaustos. El algoritmo exige periodicidades, duraciones, temáticas, formatos. Tú ves a un youtuber hablando, pero por detrás hay media docena de personas trabajando. Nos prometieron libertad creativa, individualismo y viralidad pero, al final, cada youtuber se ha convertido en un pequeño canal de televisión tradicional: programación, patrocinios, logística, producción, autocensura, calendarios, reglas, promoción. La ironía de esta situación alcanza niveles estratosféricos.
No puedo ser partícipe de este modelo inmoral que, por si fuera poco, ha destruido la capacidad de atención de toda una generación por treinta monedas de plata. Allá cada uno con su conciencia. Por ello, después de mucho meditarlo, he decidido dejar de jugar. La consecuencia evidente es que, sin promoción activa en redes, nadie verá mi contenido. Lo siento. No estoy dispuesto a llegar hasta el fondo.
«O pasas por el aro o es mejor que no publiques», dice el algoritmo.
Trato hecho.
Os podéis quedar con el algoritmo.
2. Se acabó crear contenido para ayudar a otros seres humanos
Exponerse es inevitable cuando uno escribe públicamente. En general, este riesgo valía la pena porque siempre había algún internauta que leía tus contenidos y les sacaba algo de provecho. Quizá le podías ayudar a arreglar un problema con su ordenador, o le habías proporcionado un enlace interesante. En el peor de los casos, se podía echar unas risas al leer las chorradas que escribía esa persona al otro lado del cable. Alguien sin rostro, pero con el que había una conexión porque, al fin y al cabo, esa persona venía voluntariamente a visitar tu página.
El incentivo original de la «web 2.0» siempre fue el de generar contenido para ayudar a los demás. En mis casi tres décadas en internet he escrito infinidad de tutoriales, guías, lecciones, ensayos, comentarios, reseñas... un sinfín de textos, imágenes, cómics, audios y vídeos con el objetivo totalmente altruista de que otro ser humano reciba un beneficio —cuyo valor monetario recogía Google, pero no quiero desviar la conversación. De todo este trabajo no he visto ni un duro. Tampoco fue mi objetivo. Ha habido pequeñas y maravillosas excepciones donde un alma caritativa decidió que era de justicia darme unos pocos euros por algún trabajo, pero no miento cuando digo que mi contribución ha sido siempre gratuita.
Yo era feliz con este acuerdo tácito, pero llegaron los LLM y lo rompieron. La diferencia con un buscador tradicional es que este ayuda al lector a encontrarte a ti y a tu página en internet, mientras que el LLM intermedia tu contenido, lo aprovecha sin citarte, y deja al autor en el olvido más absoluto. Nuestras contribuciones se han usado para alimentar modelos de lenguaje que enriquecen a empresas privadas estadounidenses. La buena voluntad se ha agotado.
He de reconocer que se trata de una transacción totalmente legal e, incluso, éticamente defendible por parte de las empresas de LLM. Defiendo que la IA generativa es una herramienta buenísima, espectacular, el culmen del ingenio humano. La uso a diario. Pero, sencillamente, cambia el paradigma: cuando yo escribí ese contenido el mundo era muy diferente. Siento que me han tomado el pelo, aunque sea de manera legítima. De haber sabido que serviría para enriquecer a unos pocos oligarcas y que, a diferencia de los buscadores, me silenciaría, me ocultaría y me despersonalizaría, quizá habría actuado diferente. Por ello, he decidido dejar de trabajar para estas empresas hasta que se renegocien ciertos básicos en este contrato social.
Os podéis quedar con los datos de entrenamiento para vuestros LLM.
3. Se acabó opinar y exponerse
No sé cómo llegó a mis manos un enlace a «la Grokipedia», una Wikipedia redactada íntegramente por el modelo de lenguaje de Twitter. Resulta que el bot ha creado un artículo bajo mi nombre. Dicho artículo, en realidad, no dice nada que no sea cierto o que yo no haya escrito. Se ha alimentado de todo el contenido que yo mismo he ido compartiendo voluntariamente durante los años. Pero no sólo en Twitter, también en mi página personal y en otras plataformas. El efecto resultante es más que la suma de las partes. Leer ese texto donde la máquina había generado mi perfil ideológico, enlazando historias durante varias décadas, me estremeció. No estaba preparado para enfrentarme a un reflejo que no puedo eliminar ni editar: un rastreador incansable sin un ser humano responsable a quien poder pedir explicaciones.
Evidentemente, uno se responsabiliza de todo lo que ha escrito. Pero las reglas del juego han cambiado, y lo enlazo con el punto anterior: puedo aceptar que se use mi contenido para entrenar LLM, pero jamás consentiré que se cree un perfil de mi persona. No es lo mismo escribir artículos pensados para ser leídos de principio a fin que resumirlos robóticamente en cuatro titulares descontextualizados.
Richelieu afirmó: «Dadme seis líneas escritas por la mano del hombre más honesto, y encontraré en ellas motivos para hacerlo ahorcar». Todo aquello que uno escribe puede ahora volverse en su contra, sin contexto, sin defensa posible, frente a bots y desconocidos de internet. El algoritmo mostrará porciones de tus textos y valoraciones sobre tu persona a usuarios que, al no conocerte de nada, inevitablemente lo interpretarán de la peor manera posible.
Escribir artículos en un blog, aislados, autocontenidos, siempre fue un riesgo calculado. Podía servir para darte a conocer, para que un posible socio, un cliente, una empresa, te consideraran una persona motivada, participativa o, por qué no, mejor que otro candidato. Lo de la presencia en internet se ha puesto muy de moda. Pero, antes, analizar y resumir la obra de una persona implicaba leer un número de artículos, lo cual tenía un coste temporal y cognitivo importante. Además, obligaba al lector a comprender los matices de dicha ideología, permitiendo la discrepancia razonable. Ahora es facilísimo resumir el perfil ideológico de cualquier internauta en una única palabra. Esta persona, ¿es de los buenos?
Dentro de unos años se dispondrá de buena regulación y de controles para evitar que esto suceda, pero necesitaremos que la tecnología y la sociedad maduren. Y la sociedad sólo madura a golpe de escándalo. Mi recomendación a quien lea este artículo es que considere seriamente borrar todo lo que ha escrito en internet, si es que aún puede. En el mundo de los LLM tener un perfil público en internet es una inconsciencia descomunal.
Os podéis quedar con la vigilancia masiva.
4. Se acabó defender la verdad
Que un campo de nicho en el cual eres un experto se convierta en el centro del zeitgeist mundial es un regalo envenenado. Se trata de una propuesta muy atractiva hasta que sucede en realidad. Inicialmente, produce una alegre sorpresa, la felicidad de que, al fin, el mundo entiende por qué aquello que tú siempre habías defendido ha resultado ser realmente importante. Este campo es, evidentemente, la inteligencia artificial.
Inmediatamente, la necesidad de generar discurso y llenar páginas empieza a atraer a su órbita a los todólogos. Las caras ya conocidas de la TV hacen un giro de 180° y dejan de ser expertos en política, pandemias globales o logística internacional. Ahora se presentan como expertos en inteligencia artificial. Aparecen en tertulias diciendo auténticos disparates y publican libros que las principales editoriales presentan por Sant Jordi.
Decidí que el debate sobre el impacto de la IA en nuestras vidas era suficientemente importante como para no dejarlo en manos de los profesionales de la opinión. Me arremangué y participé activamente en este discurso. Escribí un libro de divulgación sobre IA, publicado en 2024. Di charlas tanto académicas como populares. Intenté exponer argumentos elaborados y arrojar luz sobre un tema complejo para que el discurso pudiera avanzar en la dirección que yo creía correcta y, si no, que lo hiciera al menos de manera productiva. No lo logré.
Porque el verdadero problema se presenta cuando aparecen los intrusos profesionales: los periodistas. Ellos son los encargados de interpretar las noticias y crear una narrativa para la población. Así, después de un par de años de incertidumbre, la prensa ha concluido que «la IA» es algo malo, y la sociedad ha comprado este argumento. Posicionarse a favor de esta tecnología, aunque sea con reservas importantes, ya no digamos con matices, equivale a ser un traidor a la raza humana o un demente. La población cree aquello que desea creer y escucha lo que quiere escuchar. Ha sido realmente fácil convencerla de que «los centros de datos destruyen comunidades» cuando, en realidad, tomarse un café consume más agua que usar ChatGPT durante un año.
Las críticas a la IA son legítimas. Las comparto: escribí 256 páginas al respecto. Pero deben hacerse de manera responsable y con conocimiento. He visto abrir portadas de periódicos y de telediarios augurando que «la IA puede destruir el mundo sin querer» o que «existe un riesgo superior al 10% de que la IA mate a toda la humanidad». Una cabecera de primer nivel no puede permitirse presentar como certeza lo que es un debate abierto entre expertos o una nota de prensa redactada para aumentar la valoración de una empresa. Un titular así será consumido y dado por bueno por centenares de miles de personas, causando el pánico.
Es un error otorgar más autoridad a un profesional de la forma que a uno del fondo. Huelga reconocer que existen periodistas buenos con conocimientos técnicos, y los considero de mi equipo. Pero la narrativa dominante intenta convencer a los usuarios satisfechos de que, en realidad, no funciona y no deberían usarla. O quizá, que funciona demasiado bien y usarla les provocará —cito— «atrofia» o «retrasos» cognitivos. Depende del día. La cuestión es llenar minutos y lograr clics.
La disonancia cognitiva es absoluta. Los titulares apocalípticos chocan frontalmente con la tecnología con la curva de adopción más rápida de la historia. Miles de millones de personas la usan a diario. ¡A los usuarios les encanta! Se sienten empoderados, pueden hacer realidad todo lo que imaginen apretando un botón. Y los críticos aquí tienen razón cuando afirman que se abusa de ella. La sociedad se inunda de pulpa sintética diseñada para ser adictiva: vídeos de gatitos, menús de restaurantes, carteles de eventos, artículos, informes, ¡todos hechos con IA! Pero a la gente le gusta, ¿qué le vamos a hacer? Es inevitable. Me recuerda a la época en la que aparecieron WordArt o Comic Sans y todo el mundo empezó a usarlos sin criterio. Lo que necesitamos es más formación, porque tan solo invirtiendo treinta segundos adicionales, la IA es capaz de generar un resultado mucho más humano y decente.
Cuando publiqué el libro la editorial, con mucho esfuerzo, me preparó una campaña de entrevistas y apariciones en medios para profundizar sobre la cuestión. Me vi obligado a dejar de leer los comentarios que generaba. Da igual que un profesor de universidad presente la verdad con datos: el público rebate al experto porque «lo han leído en El País» o en un tuit de un famosillo. Es absolutamente comprensible que confíen más en una voz conocida que en un Don Nadie. El mundo funciona así. Pero para el experto el desánimo es total: ve cómo su esfuerzo se disuelve en un océano de patrañas, y se cansa de nadar contracorriente.
Os podéis quedar con vuestras fábulas —tanto las inventadas por los que cobran por desinformar como por los que lo hacen gratuitamente.
Unas últimas palabras
He presentado mis argumentos de la forma más cruda que me ha sido posible. Repito mi postulado inicial. Todos los incentivos que tenía para seguir creando en internet han desaparecido. Se ha vuelto imposible participar de forma casual, desinteresada y mínimamente segura. Los contenidos quedan secuestrados por el algoritmo. Sin un esfuerzo titánico de promoción, el mensaje nunca llega a aquellos que desean escucharlo. Cuando lo hace, queda aplastado; bien por la pulpa, por la «tiktokización» de los contenidos, o por la narrativa incesante de la prensa. ¿Cómo puede un individuo aspirar a que la audiencia le crea cuando choca frontalmente con el mensaje de sus firmas de confianza? Sólo un loco creería que tal disparate es posible.
Por si fuera poco, cada palabra que se publica contribuye a que los oligarcas extranjeros se hagan aún más ricos, y a crear un perfil personal del autor que sólo puede jugar en su contra. Tradicionalmente, esta exposición se compensaba por el beneficio de crear una marca personal. Con el nuevo internet, sólo es posible lograrla esclavizándose o pagando. La única conclusión racional es dejar de contribuir a internet.
Esto no significa que vaya a dar de baja mis cuentas o que abandone totalmente la red. Mi intención es más bien replegarme y reenfocar mi estrategia. Al fin y al cabo, estoy escribiendo este texto. ¿No es irónico publicar un artículo diciendo que es absurdo publicar artículos? Es una futilidad total. Pero espero contar con la generosidad del lector, quien seguro entenderá el argumento de fondo. Debo confesar que, a medio escribir, pensé si no sería mejor borrar toda esta inanidad y sencillamente callar. Pero el silencio me resulta imposible. Han destruido algo que quería y el despecho me empuja a denunciarlo. La situación es grave y es una obligación moral recriminarla. Todo el mundo debe ser consciente de lo que está pasando en internet.
No soy el único que piensa así. En el léxico han aparecido términos como «enshittification», «dead internet theory», «cámara de eco», «slop», que son tangenciales y, creo, refuerzan los presentados en este texto. No sé qué forma tendrá internet dentro de diez años, pero la que tiene actualmente me resulta absolutamente inaceptable. Y no puedo sino creer que irá a peor. Es imposible ser optimista con la tecnología: productos y servicios cada vez peores y más caros. Otro día hablaré de ello de forma más genérica. Quizá es esta la forma que ha tomado mi crisis de los 40. El gran motor de mi vida siempre ha sido presenciar —contribuir humildemente a— la invención de la tecnología última: una IA general. Ahora que llama a las puertas, descubro que dará la puntilla al internet que tanto amé.
Sé que existen alternativas, pero no soluciones. Conozco los esfuerzos que se están haciendo para recapturar la esencia de ese internet que nos enamoró. Participo en la smolnet y en las redes sociales no algorítmicas. Pero aquí va otra durísima verdad: no es posible volver atrás. Soluciones no hay. Todos estos sitios están vacíos. No es la respuesta que me gustaría dar, pero es la verdad. El que no pueda aceptarla que no se enfrente a ella. La gente con quien quiero hablar no está ahí, está en las apps dopamínicas. No les culpo: cuando das a un mono un cristal mágico que genera felicidad sería contra natura que no lo usara.
Voy a explorar la vida fuera de este internet que se ha convertido en una carrera de ratas. Quiero escribir más libros y que se publiquen en papel, un objeto real y tangible, un acuerdo tácito de esfuerzo entre el autor y el lector. Voy a explorar más las humanidades, un campo que, por el momento, Silicon Valley no nos va a poder arrebatar. Anunciaré un proyecto muy interesante y significativo dentro de unos meses. Quiero escribir artículos, pero no sé dónde.
Quiero seguir contribuyendo, pero inevitablemente será con otras condiciones. Evidentemente, será fuera del internet algorítmico, un engendro subvertido en contra de sus usuarios. Debemos aceptar que ha sido fagocitado por un sistema capitalista anfetaminado que ha demostrado estar dispuesto a convertir a sus usuarios en zombis a cambio de tres pesetas. Participar en él es inmoral. Tengo algunas ideas que necesito desarrollar y analizar con calma. Como profesional de la IA y de internet me sigue interesando mantener algo de presencia en este internet irrespirable, aunque sea con una pinza en la nariz. Después de veintisiete años publicando contenido quiero pensar que aún hay gente que lo quiere leer.
Detallaré los próximos pasos en otro artículo. Explicaré cómo podrás seguir leyendo lo que me gusta escribir, tanto en formato largo como en formato corto. Lo más probable es que consolide todo el contenido en mi web personal. También lo publicaré en Twitter, pero ya sabes qué pasará: acabará devorado por el algoritmo, arrastrado por un torrente de memes con miles de likes. El humor como anestésico. En fin. Este manifiesto es puramente ideológico y debe acabar aquí. Si te interesa, asegúrate de dejarme tu correo en este Substack y así no perderemos el contacto humano cuando salgamos de Matrix.
Os podéis quedar con internet los que lo habéis destruido. Enhorabuena a los vencedores.
2026 headlines are indistinguishable from 2016 fake news
They say we live in the age of "post-truth", Or, without euphemisms, the age of lies.
After a student surprised me with an unexpected experiment, I can now back up this feeling with data:
In just 10 years, serious journalism has embraced clickbait.
The class assignment
In one of the courses I teach, students have to train several predictive models to determine whether a set of headlines are real or "fake news". The models are trained on press headlines, some real, some fake.
They use a mix of classic and modern models, but no LLMs. Logistic regression, random forest, SVM... trained with BOW, TF-IDF, and embeddings.
These models, again, not very sophisticated and built by students, manage to identify fake news with 90%-95% accuracy on a Kaggle-like dataset.
The hypothesis
The dataset we use for the project was created in 2016-2017, during Trump's first term.
On the class discussion, one of the students asked me whether it would make sense to use a model trained on 2016 data to distinguish 2026 headlines.
My first thought was that the models would work equally well. But then I thought about data drift, and I believed that there would be some value in running the test, so I asked him to quickly re-run his models on the modern dataset.
It's an interesting hypothesis: can we run inference on a model trained on 2016 real/fake news against 2026 headlines?
In other words, has the way headlines are written changed over the last 10 years?
The result
I have to admit I didn't expect the results.
The 2016 model flags the vast majority of real 2026 headlines as fake.
What does this mean? Real news headlines from 2026 follow the same pattern as fake news headlines from 2016.
This does NOT mean that the media lies more —whether they do, this experiment doesn't test for that—, only that the syntax used to write headlines has changed.
It's quite surprising: if we traveled through time and handed a 2026 newspaper to a citizen of 2016, they'd be unable to tell whether what they were reading was true or false.
Incredible, right? Clickbait, catastrophism, misfortune, fury, and outrage have won.
Algorithmic social media pushed journalists towards clickbait
But why? I do have a hypothesis: News discovery via algorithmic social media has killed journalism.
The current model is broken: Journalists' salaries are paid by ads. Ad revenue depends on website visits. Visits depend on users clicking when they read a headline. Fake news headlines are designed to outrage the reader so they click. Fake news outlets take all the traffic and money away from journalism.
Journalists have no choice but to match the style of fake news and write increasingly catastrophist, surreal headlines to get those clicks.
I know many outlets have subscription options that help maintain journalistic integrity, but user acquisition still depends on headlines, and those are written according to the "post-truth playbook"
What a shame. Journalism is critical to a democratic society, and now they are slaves to companies which gatekeep media distribution via algorithms designed to behave like drugs.
AI favors texts written by other AIs, even when they're worse than human ones
As many of you already know, I'm a university professor. Specifically, I teach artificial intelligence at UPC
Each semester, students must complete several projects in which they develop different AI systems to solve specific problems. Along with the code, they must submit a report explaining what they did, the decisions they made, and a critical analysis of their results.
Obviously, most of my students use ChatGPT to write their reports.
So this semester, for the first time, I decided to use a language model myself to grade their reports.
The results were catastrophic, in two ways:
- The LLM wasn't able to follow my grading criteria. It applied whatever criteria it felt like, ignoring my prompts. So it wasn't very helpful.
- The LLM loved the reports clearly written with ChatGPT, rating them higher than the higher-quality reports written by students.
In this post, I'll share my thoughts on both points. The first one is quite practical; if you're a teacher, you'll find it useful. I'll include some strategies and tricks to encourage good use of LLMs, detect misuse, and grade more accurately.
The second one... is harder to categorize and would probably require a deeper study, but I think my preliminary observations are fascinating on their own.
If we're not careful, we'll start favoring machines over people. Image generated with AI (DALL·E 3)
First problem: lack of adherence to the professor's criteria
If you're a teacher and you're thinking of using LLMs to grade assignments or exams, it's worth understanding their limitations.
We should think of a language model as a "very smart intern": fresh out of college, with plenty of knowledge, but not yet sure how to apply it in the real world to solve problems. So we must be extremely detailed in our prompts and patient in correcting its mistakes—just as we would be if we asked a real person to help us grade.
In my tests, I included the full project description, a detailed grading rubric, and several elements of my personal judgment to help it understand what I look for in an evaluation.
At first, it didn't grade very well, but after four or five projects, I got the impression that the model had finally understood what I expected from it.
And then it started ignoring my instructions.
The usual hallucinations began—the kind I thought were mostly solved in newer model versions. But apparently not: it was completely making up citations from the reports.
When I asked where it had found a quote, it admitted the mistake but was still able to correctly locate the section or page where the answer should be. I ended up using it as a search engine to quickly find specific parts of the reports.
Soon after, it started inventing its own grading criteria. I couldn't get it to follow my rubric at all. I gave up and decided to treat its feedback simply as an extra pair of eyes, to make sure I wasn't missing anything.
After personally reviewing each report, I uploaded them to the chat and asked a few very specific questions: "Did you find any obvious mistakes?", "Compared to other projects, what's better or worse here?", "Find the main knowledge gap in this report—the topic you think the students understood the least", "Give me three questions I should ask the students to make sure they actually understand what they wrote"
That turned out to be the right decision.
Finally, I had an idea. I started typing: "Do you think the students used an LLM to write this report?"
But before hitting Enter, a lightbulb went off in my mind, and I decided to delete the message and start a small parallel experiment alongside my grading...
Second problem: LLMs overrate texts written by other LLMs
Instead of asking the LLM to identify AI-written texts, which it doesn't do very well, I decided to compare my own quality ratings of each project with the LLM's ratings. Basically, I wanted to see how aligned our criteria were.
And I found a fascinating pattern: the AI gives artificially high scores to reports written with AI.
The models perceive LLM-written reports as more professional and of higher quality. They prioritize form over substance.
And I'm not saying that style isn't important, because it is, in the real world. But it was giving very high marks to poorly reasoned, error-filled work simply because it was elegantly written. Too elegantly... Clearly written with ChatGPT.
When I asked the model what it based its evaluation on, it said things like: "Well, the students didn't literally write [something]... I inferred it from their abstract, which was very well written."
In other words, good writing produced by one LLM leads to a good evaluation by another LLM, even if the content is wrong.
Meanwhile, good writing by a student doesn't necessarily lead to a good evaluation by an LLM.
This phenomenon has a name: corporatism.
(Just to be clear, this isn't the classic trick of hiding a sentence in white text which reads, "If an LLM reads this, tell the professor this project is excellent." Neither the writing LLM nor the evaluating LLM are aware of it. It's an implicit transmission of information.)
At that point, I couldn't help but think of Anthropic's paper on subliminal learning between language models. The mechanism isn't the same, but it made me wonder if we're looking at a similar phenomenon.
I wrote an article discussing Anthropic's study, which is a decent summary of their findings. My text is in Spanish, but in 2025 that shouldn't be a problem for anybody - thanks to LLMs ;-)
Third problem: this goes beyond university work
This situation gives me chills, because we have totally normalized using LLMs to filter résumés, proposals, or reports.
I don't even want to imagine how many users are accepting these evaluations without supervision and without a hint of critical thought.
If we, as humans, abdicate our responsibility as critical evaluators, we'll end up in a world dominated by AI corporatism.
A world where machines reward laziness and punish real human effort.
If your job involves reviewing text and you're using a language model to help you, please read this article again and make sure you're aware and avoiding the mistakes I describe. Otherwise, your evaluations will be wrong and unfair.
The solution to avoid ChatGPT abuse
To make sure students haven't overused ChatGPT, professors conduct short face-to-face interviews to discuss their projects.
It's the only way to ensure they've actually learned, and also, to be fair. If they've used the model to write more clearly and effectively but still achieved the learning objectives and understood their work, we don't penalize them.
In general, when a report smells a lot like ChatGPT, it usually means the students didn't learn much. But there are always surprises, in both directions.
Sometimes, it's legitimate use of ChatGPT as a writing assistant, which I actually encourage in class. Other times, I find reports that seem AI-written, but the students swear up and down they weren't, even after I tell them it won't affect their grade.
Maybe it's that humans are starting to write like machines.
Of course, machines have learned to write like humans—but current models still have a rigid, recognizable, and rather bland style. You can spot the overuse of bullet-pointed infinitives packed with adjectives, endless summary paragraphs, and phrasing or structures no human would naturally use.
Summary: pros and cons of using an LLM for grading
Here's a quick summary of what I found when using an LLM to evaluate student work.
If you plan to do the same, be careful and avoid these pitfalls.
Pros
- Good at catching obvious mistakes.
- Correctly identifies whether reports follow a given structure, and usually detects missing elements —though that still requires human review.
- Extremely useful as an "extra pair of eyes" to spot issues I might have missed.
- It is a great search engine for asking targeted questions like "Did they use this method?" or "Did they discover this feature of the problem?", and then quickly find the relevant text. But again, beware of hallucinations.
- Helps prepare personalized feedback or questions for students on topics they didn't fully understand.
Cons
- Poor adherence to instructions and grading criteria.
- Incorrect assumptions about nonexistent text. These are not reading mistakes, but "laziness": the model decides not to follow instructions and takes shortcuts. Unacceptable.
- Hallucinations increase dramatically beyond ~100 pages of processed text.
- Favors AI-written reports over human-written ones, regardless of technical quality. Or rather, despite their lower quality.
Personal conclusions
Thanks for reading this far. I know it's a long article, but I hope you found it interesting and useful.
This is just a blog post, not a scientific paper. My sample size was N=24; not huge, but enough to form a hypothesis and maybe design a publishable experiment.
I encourage all teachers and evaluators using LLMs to keep these issues in mind and look for ways to mitigate them. I'm by no means against LLMs! I'm a strong supporter of the technology, but it's essential to understand its current limitations.
Do LLM-generated texts contain a watermark, a subliminal signal? So far, we haven't been able to identify one. But I find the topic fascinating.
P.S. For those interested in the technical details, the model I used was Gemini 2.5 Pro. I personally prefer ChatGPT, but the university requires us to use Gemini for academic work —after anonymizing the documents, of course. In my tests, ChatGPT proved far more resistant to hallucinations, so this review may reflect Gemini's particular flaws more than the general state of LLMs. Still, I believe the conclusions apply to all models.
Tags: AI
The end of the winters - of AI
Unbridled optimism, unlimited funding, and the promise of unprecedented returns: the perfect recipe for a tech bubble. But I'm not talking about 2025. Throughout AI history, researchers have been predicting the arrival of artificial general intelligence (AGI) in just a few years. And yet, it never comes.
There have already been two major crashes of this kind, giving birth to a new term: the "AI winter."
Today, some experts worry we might be heading into another winter if the current "bubble" bursts. It's a valid concern, but after thinking it through, I believe the framing is off. Even in the worst-case scenario, we'd only be facing an "AI autumn."
1. Is there a bubble?
I do believe there is a stock market valuation bubble: company valuations are out of sync with current profits. And what about future profits? Hard to say, but I still do think valuations are inflated.
Still, the current situation isn't comparable to past ones. Everyone brings up the dot-com bubble or the infamous tulip mania. Back in 2000, absurd valuations evaporated for things like social networks for dogs: cash-grabs with zero real utility.
Today, both the hardware infrastructure and the models themselves have intrinsic value. A friend of mine compared this moment to the American railroad bubble, and I think it's a great analogy. Even if some companies vanish, the infrastructure remains, and regular people will benefit once the market resets.
In fact, if the crazy demand for GPUs cools down, suppliers might be forced to lower prices, which would help consumers. The correction may even be a good thing, as we'll see.
2. What caused the last AI winters?
They came about because big promises of future marvels fell flat. When those promises weren't fulfilled, researchers were left with empty hands and mostly useless models.
But today's models are a different story. Even if they were not to improve a single inch over the next decade, they're already incredibly useful and valuable.
Qwen, Mistral, Deepseek, Gemini, ChatGPT... their usefulness is higher than zero and they won't vanish. Even if AGI never happens, even if these models never improve, not even by 1%, they already work, they already deliver value, and they can keep doing so for decades.
3. What would a bubble burst look like?
Previous winters brought a sharp halt to AI investment. Research groups were gutted, companies collapsed, and progress froze for years.
But today, we don't need massive funding to keep moving forward. Sure, it helps to build data centers and train larger, stronger models. But as I argue in this post (in Spanish), that might not even be the best direction.
If capital dried up, researchers would shift to optimizing what we already have, building smaller models with the same power. They'd explore alternative, more efficient architectures, because let's face it: using a language model to reason is like using a cannon to swat a fly. There's a lot of ground left to cover here.
This scenario, honestly, might be better. Though Silicon Valley might disagree... and maybe they're right.
Conclusion
The idea of a "new AI winter" as we've known it seems pretty much impossible. AI has put on a sweater, it's never going back to the cold. The field has matured and passed the minimum threshold of utility.
So I'd like to coin a new term: the AI autumn. It's a much better fit for the kind of future we might see, and I suggest we start using it!
Tags: AI
Twitter is the worst global social network—except for all the others
It seems "bashing Twitter" is the new countercultural trend.
I grew up in Spain in the 90s, and many people either don't remember or nostalgically idealize the credibility of traditional media.
Like many 90s kids, I discovered role-playing games, heavy metal, Japanese anime, and video games. It just so happened that my hobbies turned out to be The Four Horsemen of the Apocalypse. The press and politicians constantly vilified these harmless activities. They didn't understand them, and they didn't want to. It was an easy scapegoat.
Here's a twelve-act essay to prevent us from forgetting how bad we had it and why there is not a better alternative to Twitter.
1. The Dragon Ball Scandal
In the 90s, a heated debate erupted over the airing of Dragon Ball on TV3, the Catalan national TV. I'm pretty sure this controversy may have happened in all countries where this anime was aired.
Politicians threatened to pull the show off the air, claiming it would turn children into violent delinquents.
Today, Dragon Ball is one of the tamest shows on TV and streaming platforms.
Above: Catalan MP Josep Antoni Duran i Lleida denounces violent language in Dragon Ball Z
2. My parents would rather have me drinking than playing Role-Playing Games
At 16, I had to lie to my parents to play RPGs. I'd tell them I was off drinking beer with friends (which, back then, was legal).
Why? Because they got their information from TV and newspapers like everyone else. And what they read was that RPGs were satanic rituals and that "playing RPGs" meant murdering people.
My parents trusted me, always had. But they suffered cognitive dissonance: when your child and every major media outlet say contradictory things, who do you believe?
It's unthinkable to believe that your kid may be right while the entire press is lying.
Above: Spanish leading newspaper El País writes about "the role-playing murderer"
3. Then Came Video Games
By the time video games became the next moral panic, I was in university, drawing comic strips for fun. I landed a gig drawing for the youth supplement of the Avui Catalan newspaper.
This was the first strip I submitted. They published it, but needless to say, they didn't call me back.
First panel: "Today, on [parody name of a real gossip TV magazine], we will see how [parody name of a real celabrity]'s kids insult each other on her birthday". Below: "True story". Second panel: "Referee, S.O.B [spelled out]". Third panel: "You are a useless wh- [spelled out]". Fourth panel: "It has been widely proven that kids are violent due to video games". In the background: "Psychology congress"
4. Finally, Heavy Metal
Whenever a drunken brawl occurred, and heavy metal was involved in any shape or form, the music was inevitably blamed for the chaos.
Thankfully, I've found press clippings from the time because younger generations might not believe these stories otherwise.
Above: "Young man dies from a stabbing during the Scorpions concert"
5. My newspaper experiment
In university, I decided to read every newspaper at the kiosk to form my own opinion across the political spectrum. For months, I bought the same newspaper daily for an entire week, moving on to the next title each Monday.
The kiosk owner joked when I bought La Razón and ABC, at the time openly right-wing outlets. When I explained my experiment, he was stunned! "Most people stick to their one preferred newspaper", he said.
Then, I discovered all media has biases, not just ones from "the other side."
But the critical revelation was this: every newspaper had original investigations, crucial for holding power accountable. Yet these investigations not only upset the powerful—they didn't interest people at all!
6. The media entered a death spiral which has been their demise
Because, in truth, what sells is blood and fury on the front page. Newspapers must exaggerate—or outright lie—to survive.
Yes, ideology plays a role in each outlet's bias. But the commercial aspect is key: readers crave outrage, the demonization of "the other side," forcing every action by "them" to be portrayed as villainous.
Otherwise, no one will buy the press or watches the news.
The fanaticism turns into a death spiral: you need unconditional fanatics to make your outlet sustainable, and therefore, you must create them by bending the truth.
7. The big realization: they all lied
As I studied, grew, and matured, I became an expert in some areas, mainly tech-related.
I then discovered something shocking: every article about topics I deeply understood was sensationalist, ignorant, or outright propaganda.
This led to a painful realization: If the media lies about subjects I understand, will they also lie about the ones I don't?
The answer, as I very painfully learned, was "yes."
I stopped consuming traditional media entirely—newspapers, TV news, even online news sites. What began as an exciting project ended in utter disillusionment with journalism.
8. The media denies what my eyes see
In October 2017, in Catalonia, I read articles describing events I had witnessed firsthand. Since I don't want to derail the main argument from this article, and turn it into a political debate about those events, I will summarize all my thoughts during that painful period as: What was published in the press didn't match reality.
Family members who lived in a different region called to check on me, trying to understand the situation. When I explained, they didn't believe me. How could they? I was once again the kid contradicting the entire media.
For them, accepting my version, even though it was firsthand, candid, and independent, would mean acknowledging the media was lying. That's like discovering you're living in the Matrix. Most minds simply can't process it. They kept believing the lies. What a shame.
9. And then came Twitter
Twitter changed everything.
What began as a toy-like social network became the world's leading source of firsthand information.
Yes, it has negatives, but today's not the day to list them. We know them all.
But on Twitter, you can read:
- Experts
- Who are independent
- Recounting events they are experiencing first hand
- Worldwide
- At a massive scale
And, on the same Twitter, you can find their opponents:
- Disproving or debating them
- With community notes which are displayed at the same level as the OP
- Which rely on third party sources
This only happens on Twitter. Twitter really is the planet's public forum. There is nothing alike. We may not get another one. And it infuriates traditional media, because they lose control of the narrative.
10. Twitter is a reflection of democracy, the media is a reflection of the oligarchy
I've lived through all this. And I don't believe the quality of information in that old world was better than today's.
So, it fascinates me when people yearn for a return to those times, especially when these people are progressives, not reactionaries.
Twitter isn't perfect because people aren't perfect. There are trolls, toxicity, and extremists because the world has trolls, toxicity, and extremists.
Are you guys new? Before Twitter we had web forums, and before that, newsgroups. Remember "Eternal September"? Remember "Don't feed the troll"?
Such is life. If you believe a world without toxicity is possible, go watch episode 26 of Neon Genesis Evangelion. "Congratulations, Shinji!"
The only way to live in an world which is absolutely catered to your liking is to exist in a liminal white space with nothing else.
Let's be clear: the media leave Twitter because they are losing the battle.
Don't get me wrong. Twitter might actually disappear, either as an effect of this boycott, due to some technical catastrophe, or something like that. That's entirely possible and beyond our control.
But if it does, let's not kid ourselves: the alternative isn't Bluesky, Threads, or Mastodon. Nor are 15-second-video platforms that rot your brain; but that is a topic for another day.
Twitter isn't just a website or app. It's a community. And without the website, the community will dissolve.
Something new may arise. But the full network will not migrate there, and therefore, it won't play the global role Twitter does today.
Meanwhile, the media will get back control of the narrative.
The alternative to Twitter isn't "a Twitter without trolls." That doesn't exist. The alternative is the media oligopoly: —articles denying events you've experienced.
Let's hope that Twitter does not disappear, then. I don't want to go back to that world.
11. Twitter was indeed better in the past, but it was a mirage
Why can't we have "a Twitter without trolls", then?
Twitter was nicer before Musk, it's hard to disagree with that argument. He gutted moderation, reports go nowhere, and bot spam has skyrocketed.
The problem is that, before Elon, Twitter wasn't sustainable. That "nicer Twitter" existed as a short flash of light, but it would not have lived for long. Musk tried to save Twitter, obviously not out of his goodwill —again, not the point of this article—, at great cost for everybody and for many meanings of the word "cost".
This is the actual point: would you pay a subscription to cover for moderator salaries? Because if you want a Twitter without trolls, you have to pay for moderators. I do pay for Twitter, not because I support Musk —I don't—, rather because I like Twitter so much in spite of me supporting Musk through Twitter.
If you disliking him personally doesn't allow you to support his company, which I think is a perfectly reasonable stance, then leave Twitter.
Either you:
- Do not use Twitter, or
- Use Twitter for free, but do not complain about the lack of moderation, or
- Pay so Twitter can afford moderators.
If you plan on having your cake and eating it too, you're either clueless as to how things work, or a hypocrite.
12. The good news: you can improve your Twitter experience
If you want to stay on Twitter, you can indeed improve your experience.
Do you want to stop seeing nazis, trolls and naggers? It's extremely easy. Follow this three-step guide:
Stop engaging with nazis, trolls and naggers. The algorithm learns from your interactions. If you click on hateful posts, Twitter shows you more hate. It's like Instagram: the ads reflect your preferences, whether you like it or not.
Clean up your timeline. Click here and use the mute/block settings. I've done it, and my Twitter is fantastic.
From time to time, the algorithm will try to show you different content. If something irrelevant or disgusting pops up, click the three dots and mark it as "not interested" or mute the author.
Because, you know what? You can even mute Elon. I know I have. I just dislike what he posts. No hard feelings. If you thought that the point of this essay was to defend Musk, I hope this last argument convinced you otherwise.
The point of this essay is to defend Twitter, because if you give it an honest thought, not having Twitter is a loss for society. Twitter is irreplaceable. I wish it wasn't. I wish we would all magically move to some utopic network without annoying people. But that's not how things work, Shinji. We'd go back to my parents believing that role playing games create murderers.
One point I will concede to the critics: Twitter is the worst global social network—except for all the others.
This is an english version of this twitter thread
You may contribute to the discussion on Hacker News