Ahoga los contenidos originales y dificulta las tareas cotidianas -domésticas, comerciales y académicas- en aras de alimentar un monstruoso negocio vacío de contenido.
Cecilia Pachano
29/09/2024
La irrupción de la inteligencia artificial ha revolucionado la existencia. Como si no hubiera ya suficiente contaminación, trajo un nuevo tipo de basura: la digital y está saturando el ciberespacio con contenidos irrelevantes, repetitivos y hasta engañosos. Peor aún, socava la calidad de la información y pulveriza los estándares de originalidad.
En los últimos años, una marea de basura obstruye nuestros feeds, redes sociales y resultados de búsqueda. Ya no es la típica basura de spam s. Es algo más sutil y perturbador. Abominable. Se llama “slop”, y su origen está en la inteligencia artificial. Max Read, autor de Read Max, un boletín informativo sobre el futuro, desmenuza cómo se genera y multiplica la basura de la IA. Cita páginas misteriosas con imágenes perturbadoras que se publican en Facebook. Los bots que pululan en Twitter y tuitean banalidades incoherentes. En Spotify, los artistas ficticios llenan las listas de reproducción con canciones sin alma. Y ebooks plagados de errores y títulos forzados que se anuncian sin descanso ni razón
La creatividad y la intención humanas están siendo desplazadas por “extrañas porquerías de IA”. Read dice que la marea de basura digital no solo es molesta, sino que atenta contra funciones claves de la web. Contamina el ecosistema de información, dificulta la búsqueda de contenido relevante y abruma a pequeñas instituciones.
Volumen enloquecedor in crescendo
Max Read / Archivo Cambio16
En el análisis que publica The Intelligencer Feed, Max Read cita el caso de Neil Clarke, fundador de Clarkesworld, una influyente revista de ficción especulativa. Clarke a finales de 2022 notó que las presentaciones de historias para su revista aumentaban vertiginosamente. Encontró un patrón inquietante. Las tramas seguían una fórmula predecible. Historias, con prosa inerte y falta de originalidad, que provenían directamente de ChatGPT, un modelo de lenguaje basado en IA: “En el año 2250 y algo, la Tierra está al borde del colapso ambiental. Solo tres científicos pueden salvarla. Y, por supuesto, lo logran”.
Identificar creaciones generadas por algoritmos no era difícil, pero el volumen era tan grande que resultaba abrumador. Clarke comparó la tarea con leer miles de correos electrónicos de spam sin filtro. El problema era inmanejable. Recibía tantas historias generadas por IA como legítimas. En febrero de 2023, tomó la decisión de cerrar las presentaciones.
La basura de la inteligencia artificial se ha convertido en un demoledor de la calidad y la autenticidad de la información en línea. Robyn Speer, creadora de WordFreq, una base de datos que rastrea la frecuencia de las palabras en Internet, dejará de actualizar su herramienta debido al torrente de basura.: “No creo que nadie tenga información confiable sobre el uso del lenguaje por los humanos después de 2021”, afirmó..
Read califica como “basura” generada por IA “el contenido de baja calidad, producido automáticamente por grandes modelos lingüísticos”. Investigaciones recientes sugieren que mientras el corpus de entrenamiento de un modelo lingüístico contenga al menos un 10% de producción no sintética (es decir, generada por humanos), el modelo producirá basura indefinidamente.
Consejos robotizados sin revisión
La amenaza sobrepasa los límites de Internet. Un estudio publicado en junio revela que una décima parte de los artículos académicos examinados habían sido procesados con LLM. Un sombra de dudas recae no solo sobre esos artículos, sino también sobre las redes de citas y referencias que se utilizan en el campo científico.
A Derek Sullivan, catalogador de una biblioteca pública en Pensilvania, le llegan con regularidad libros generados por IA. Lo descubrió en un libro de recetas de un autor inexistente que recomendaba «comer salsa marinara pura para el almuerzo». La basura también afecta asuntos más serios, como la fibromialgia o la crianza de hijos con síndrome de falta de atención. Sin acciones ni control, es sombrío el futuro de las bibliotecas locales. Podrían ser inundadas de libros generados IA que divulgan consejos producidos por bots que desalojan la legítima producción humana.
FreepikSuperautopista con baches
Max Read dice que Internet sigue siendo una superautopista de la información, pero está llena sus peajes, carteles publicitarios, desvíos arbitrarios y baches. No obstante se mantiene como el principal recurso para responder preguntas, estar informados y aprender cosas nuevas, pero de una manera más complicada.
La línea entre contenido generado por IA y contenido humano se desdibuja. Las portadas pueden parecer profesionales, la prosa legible y las biografías convincentes. Con la IA generativa de consumo masivo, al buscar respuestas en Google aparecen módulos de “Resumen” que, en ocasiones, ofrecen información incorrecta. Hasta leer noticias en línea puede resultar burdo consumo de chismes generados por IA, sin editar, como aparecen en publicaciones como CNET, BuzzFeed, USA Today y Sports Illustrated
Un ejemplo ilustrativo es la guía de identificación de hongos, aparentemente creada por expertos, que se generaron con algoritmos de IA. Un gran peligro para salud de los quienes confían en esas información para diferenciar los hongos comestibles.
La cantidad de contenido falso, sospechoso y simplemente extraño ha inspirado la “teoría de la Internet muerta». Una idea que Max Read «ligeramente irónica» y que postula que los humanos son una pequeña minoría en línea. «La mayor parte de Internet está hecha por y para bots de IA que crean contenido de bots para seguidores de bots, que comentan y discuten con otros bots».
El auge de la basura tiene la forma de una buena historia de ciencia ficción. “Una misteriosa ola de ruido que surge de la nada. Una invasión alienígena de computadoras semicoherentes que balbucean con voces humanas desde algún vasto más allá electrónico”, dice Read.
Próspero negocio en la penumbra
La idea de que la inteligencia artificial está reemplazando silenciosamente a los humanos no es del todo acertada. «La proliferación de basura de contenido, parcialmente atribuible a la IA, requiere intervención humana. Existe una próspera economía global en la penumbra. Los spammers y empresarios que aprovechan la IA generativa para sus fines. El gran problema no es una superinteligencia artificial emergente, ni de un grupo de estafadores altamente sofisticados», advierte.
Max Read señala que el negocio detrás de la basura digital es simple. Lo aprovechan influencers como Hanna Getachew, que tiene un canal de YouTube dedicado a “enseñar trabajos paralelos y empleos en línea” y publicó un video titulado “Gane dinero con Clarkes World Magazine”. Getachew promete a sus espectadores ganancias entre 250 y 2.460 dólares. La demanda insaciable de contenido en plataformas (como Facebook y TikTok) que buscan atraer usuarios y anunciante, las aplicaciones generativas como ChatGPT, Midjourney o Image Creator de Microsoft, subvencionadas y ofrecidas a bajo costo o de forma gratuita son gigantescos vertederos de basura digital.
Lo proliferación de páginas web, fotografías y vídeos generados por IA, publicados sin ningún tipo de verificación y que contaminan Internet son slops. Y los sloppers”, individuos que generan contenido basura a gran escala utilizando IA. Manipulan las plataformas para obtener ganancias. Venden libros de recetas automatizados en Amazon o crear sitios web llenos de artículos generados por IA. Incluso, compiten por pagos directos de plataformas como Facebook, TikTok y Twitter por textos, imágenes y videos generados por IA. La basura digital es un reflejo de la astucia humana y la codicia en la economía digital.
Los slopers propaga imágenes sin sentido y descontextualizadas sin anuncios, explicaciones ni enlaces externos.
Economía de la bazofia
Facebook es un ejemplo de basura digital. Las imágenes generadas por IA de páginas anónimas se han vuelto omnipresentes. Lo que comenzó como parodias de imágenes virales se ha transformado en extraños y oníricos paisajes con temas y conceptos inexplicables e inconexos. Una es “Shrimp Jesus” (Jesús Camarón): una estatua de Jesús con extremidades y torso hechos completamente de los cuerpos quitinosos de camarones, que se balancea bajo el agua.
Max Read logró contactar a su “creador”, Stephen Mwangi, un individuo de Kenia. Stevo, como se hace llamar, es moderador de cinco canales de YouTube y alrededor de 170 páginas de Facebook. Su contenido principal: imágenes generadas por IA. La más popular de sus páginas tiene 4 millones de seguidores. Por 105 dólares, Stevo compartió sus métodos con Read.
El proceso es sencillo pero intensivo en IA. Utiliza ChatGPT para crear imágenes que se viralicen y generen reacciones en Facebook. Los temas van desde la Biblia hasta el Ejército de Estados Unidos, pasando por la vida salvaje y el club de fútbol Manchester United.
Arte basura por clicks
Una vez que tiene los “prompts” de ChatGPT, Stevo los lleva a programas de generación de imágenes como Leonardo.ai y Midjourney. El resultado: una mezcla de arte y basura. Imágenes rococós de Jesús, policías musculosos sosteniendo biblias en la playa y helicópteros grotescamente blindados. “Las imágenes de Al publicadas en las páginas de Stevo no son ni estafas ni alicientes. Ni siquiera basura, en lo que a Facebook se refiere. «Son precisamente lo que la empresa quiere: contenidos atractivos”, acota Read
La razón detrás del aparente desaguisado es muy simple: dinero. Explica que Facebook ofrece un programa llamado “Performance Bonus”, que recompensa a los creadores en función del alcance, las reacciones, los compartidos y los comentarios de sus publicaciones. Cuanto más inusual y sorprendente sea, más lo promoverán los algoritmos de clasificación. Otros creadores, como Charles, un auditor financiero francés que crea historias pictóricas extrañas sobre gatos en TikTok, también siguen esa fórmula. Le agrega un toque de “WTF” para maximizar las posibilidades de viralización.
Las imágenes generadas por IA no son estafas ni basura, sino, precisamente, lo que Facebook busca: “contenido atractivo” que mantenga a los usuarios conectados. La economía de la basura de la inteligencia artificial es un juego de atención y participación.
Economía del «slop»
El término slop, que puede traducirse como ‘bazofia’, se refiere al contenido creado por herramientas de IA generativa, pero solo el automatizado, sin labor humana ni supervisión. Solo tiene como fin monetizar tráfico. No es material interactivo ni pretende responder a las necesidades de nadie. Su único propósito es aparentar ser contenido humano para captar tráfico. Detrás de cada imagen viral o historia impactante hay una persona buscando monetizar el sistema.
Stevo insiste en que no utiliza bots para aumentar sus seguidores ni paga por engagement. A Read le mostró capturas de pantalla que muestran pagos de “bonus earnings» de hasta 500 dólares generados en 15 días de su actividad en Facebook (más del doble del salario promedio en su país). Solo dedica seis horas diarias a administrar sus páginas. Sin embargo, debe trabajar bajo los opacos procesos de moderación y toma de decisiones del sitio web. “Amantes de Dios”, una de sus páginas, sin mayore explicaciones fue restringida y dejó de generar ingresos. Tiene otras páginas con más de 100.000 seguidores en las que también utiliza imágenes generadas por IA.
Existen personas reales detrás de la bazofia. Los «sloppers», que suben «novelas» vikingas con contenido y portadas generadas por inteligencia artificial, intercambian trucos y consejos en foros, aplicaciones de chat y redes sociales. En Facebook, un grupo de 130.000 sloppers vietnamitas llamado «Twitter Academy – Make Money on X» discute métodos para incitar a ChatGPT a escribir hilos en X.
También seminarios que venden planes de lecciones y membresías a salas de chat privadas de Discord y Telegram. Actúan como intermediarios que ayudan a crear cuentas en Estados Unidos para sloppers internacionales. Estos gurús, vendedores de vales y fabricantes de herramientas, representan el sector servicios de la economía del slop. No es nuevo. Lo que ha cambiado es el nivel de trabajo e inversión. La producción de contenidos se ha vuelto más sofisticada y automatizada con las aplicaciones de la IA generativa.
Armas humeantes, currículos inflados
Aunque no hay una forma de saber exactamente cuánta bazofia se ha producido en los pocos años con IA, Guillaume Cabanac, profesor de informática en la Universidad Toulouse III-Paul Sabatier, que investiga casos de fraude, plagio y uso de texto generado por algoritmos en revistas científicas, ha encontrado «armas humeantes». Frases que claramente indican el uso de un generador de texto como «según mi conocimiento límite» y «no puede cumplir esa petición». Las personas copian y pegan sin leer. Los libros y productos generados por IA también están presentes en Google Books y Amazon. X también puede ser un terreno fértil para encontrar textos generados por IA.
Ni la ciencia, rigurosa por esencia, escapa de la ciberbasura. El bibliotecario Andrew Gray utilizó una técnica similar a la de Cabanac para detectar artículos académicos generados por IA. Usó las palabras que aparecen con una frecuencia desproporcionada en los textos generado por ChatGPT -encomiable, intrincado y meticulosamente, entre otras-. Descubrió que en 2023, unos 60.000 artículos académicos fueron generados parcialmente por inteligencia artificial.
Cabanac reconoce que los modelos de lenguaje pueden ser herramientas valiosas y eficaces para los científicos. Especialmente entre quienes el inglés no es su lengua materna y se ayudan con los programas de inteligencia artificial para la traducción y edición. Pero advierte que mucha gente los está utilizando para producir más. «Se rebaja la calidad de la ciencia que se hace y publica», dijo.
A menudo el propósito de los artículos generados por IA, a menudo, es inflar los currículos académicos. “Como en la bazofia de Facebook, el contenido no es realmente tan importante como su presencia o, más exactamente, su mensurabilidad”, puntualiza Max Read.
FreepikBazofia, herramienta de marketing
La aplicación más común de la inteligencia artificial es la creación de contenido para llenar espacio y ser consumido. Si examinamos la gran cantidad de basura en Internet, la IA no parece un dios-máquina amenazante, sino una herramienta de marketing en Internet. “Una herramienta diseñada para satisfacer las demandas del scroll infinito y el consumo desechable”, sintetiza Read.
Aunque se puede pensar que apagar los teléfonos y computadoras ayudaría a evitar esa basura, se ha vuelto omnipresente. La subcontratación de trabajo de diseño a aplicaciones con inteligencia artificial generativa puede reducir costos y aumentar la productividad en algunas empresas. Solo es un traslado de la carga de trabajo. “Los humanos -artistas, escritores, periodistas, músicos y TikTokers- tienen más trabajo que hacer. No sólo compiten con otros seres humanos, sino también con los productos de la IA”, puntualiza Read.
La ciberbasura no solo afecta a las bibliotecas, artistas, escritores y músicos, también a los consumidores de contenido, que pierden el tiempo separando la basura del trigo. Hasta la basura sin editar requiere esfuerzo y tiempo para desecharla.
Los usuarios de Facebook, TikTok, Twitter y Spotify, así como los compradores de libros en Amazon, contribuyen al crecimiento de la basura digital. Prefiere la flexibilidad a la alta fidelidad, lo rápido y sucio a lo lento y excelente. La tecnología de bajo costo, como la IA generativa, puede crear textos e imágenes solo suficientemente buenos y baratos para ser consumidos rápidamente en nuestros teléfonos. Para Max Read “bazofia es la palabra más apropiada para describir lo que produce, por feo y desagradable que parezca, lo consumimos”.
_________
Fuente:
