Afecta a nuestra capacidad de nuestra especie para deliberar, tomar decisiones y resolver problemas complejos
El desafío es redefinir lo que significa pensar y decidir colectivamente en la era de la inteligencia artificial
La IA está cambiando la inteligencia colectiva. / Generador de imágenes de COPILOT para T21/Prensa Ibérica.
Redacción T21
Madrid 30 SEPT 2024
Los grandes modelos lingüísticos creados con Inteligencia Artificial están cambiando la inteligencia colectiva de nuestra especie, tanto para democratizar el acceso al conocimiento y mejorar la colaboración global como para generar una falsa sensación de consenso que margina perspectivas minoritarias pero valiosas.
En un mundo cada vez más interconectado y digitalizado, la aparición de los modelos de lenguaje de gran escala (LLMs, por sus siglas en inglés) ha marcado un antes y un después en la forma en que procesamos y compartimos información.
Estos sistemas de inteligencia artificial, capaces de generar texto coherente y contextualmente relevante, están redefiniendo los límites de lo que consideramos posible en términos de procesamiento del lenguaje natural.
Sin embargo, su creciente omnipresencia plantea preguntas cruciales sobre cómo afectarán a nuestra capacidad colectiva para deliberar, tomar decisiones y resolver problemas complejos, lo que se llama inteligencia colectiva.
Panorama complejo
Un reciente estudio publicado en la prestigiosa revista Nature Human Behaviour arroja luz sobre esta cuestión. Un equipo internacional de 28 científicos, liderado por investigadores de la Copenhagen Business School y el Instituto Max Planck para el Desarrollo Humano en Berlín, ha examinado minuciosamente el impacto potencial de los LLMs en la inteligencia colectiva. Sus hallazgos sugieren un panorama complejo, lleno tanto de promesas como de peligros.
Por un lado, los LLMs ofrecen un potencial sin precedentes para democratizar el acceso al conocimiento y mejorar la colaboración global. Pueden facilitar un mundo en el que las barreras lingüísticas se desvanecen gracias a servicios de traducción instantánea y precisa, o donde la generación de ideas se acelera exponencialmente gracias a asistentes virtuales capaces de sintetizar vastas cantidades de información en segundos. Este es el futuro brillante que los LLMs prometen.
Jason Burton, autor principal del estudio, destaca cómo estos sistemas podrían "nivelar el campo de juego" en debates y discusiones, permitiendo que voces tradicionalmente marginadas tengan un acceso más equitativo a la información y las herramientas necesarias para expresarse eficazmente. "Imaginemos plataformas de deliberación en línea donde los LLMs actúen como facilitadores imparciales, ayudando a resumir argumentos, identificar puntos en común y sugerir compromisos", propone Burton.
También cautela
Sin embargo, este optimismo viene acompañado de una dosis saludable de cautela. El mismo poder que hace que los LLMs sean tan prometedores también los convierte en potencialmente peligrosos.
Uno de los riesgos más preocupantes identificados por el equipo de investigación es la posibilidad de que estos sistemas generen una falsa sensación de consenso, marginando perspectivas minoritarias pero valiosas.
Ralph Hertwig, coautor del estudio y director del Instituto Max Planck para el Desarrollo Humano, advierte sobre este peligro: "los LLMs, al ser entrenados en grandes conjuntos de datos que reflejan opiniones mayoritarias, podrían inadvertidamente amplificar sesgos existentes y crear una ilusión de acuerdo donde en realidad existe diversidad de opiniones". Esta homogeneización del discurso podría tener consecuencias profundas para la toma de decisiones democráticas y la innovación social.
Otro aspecto preocupante es el potencial impacto de los LLMs en la motivación de las personas para contribuir a recursos de conocimiento abierto como Wikipedia. Si los usuarios pueden obtener respuestas instantáneas y aparentemente autoritativas de un LLM, ¿qué incentivo tendrán para dedicar tiempo y esfuerzo a editar y mantener estos recursos colaborativos? Esta cuestión plantea interrogantes fundamentales sobre el futuro de la creación y curaduría colectiva del conocimiento.
Frente a estos desafíos, los investigadores no se limitan a señalar problemas, sino que proponen soluciones concretas. Una de las recomendaciones clave es la necesidad de una mayor transparencia por parte de los desarrolladores de LLMs. "Necesitamos saber exactamente qué datos se están utilizando para entrenar estos sistemas", argumenta Burton. "Solo así podremos identificar y corregir sesgos potenciales".
Además, el equipo aboga por la implementación de mecanismos de auditoría externa. Esto implicaría la creación de organismos independientes capaces de evaluar el impacto de los LLMs en tiempo real, monitoreando su influencia en el discurso público y la toma de decisiones colectivas.
Redefinir la inteligencia colectiva
La investigación también subraya la importancia de desarrollar métodos para preservar y promover la diversidad de perspectivas en un mundo cada vez más mediado por la IA. Esto podría implicar el diseño de algoritmos que deliberadamente busquen y presenten puntos de vista minoritarios, o la creación de espacios digitales protegidos donde las voces disidentes puedan florecer sin ser ahogadas por el consenso generado por la IA.
"El desafío que enfrentamos", concluye Hertwig, "es nada menos que redefinir lo que significa pensar y decidir colectivamente en la era de la inteligencia artificial". A medida que navegamos por este territorio inexplorado, estudios como este serán fundamentales para guiar nuestro camino, asegurando que el futuro que construimos sea uno donde la tecnología potencie, en lugar de suplantar, la sabiduría colectiva de la humanidad.
_____________
Referencia
How large language models can reshape collective intelligence. Jason W. Burton et al. Nature Human Behaviour, volume 8, pages1643–1655 (2024). DOI:https://doi.org/10.1038/s41562-024-01959-9
________
Fuente:
