Sponsor

Recent

LA IA ALCANZA LA CAPACIDAD DE REPLICARSE Y ALERTA A LOS CIENTÍFICOS

Un grupo de investigadores realizó 10 ensayos con dos modelos de IA, que crearon réplicas separadas y funcionales de sí mismos hasta en un 90% de los casos en ciertos contextos

¿Hasta qué punto tenemos el control sobre el desarrollo de la IA? / Crédito: Gerd Altmann en Pixabay.

Pablo Javier Piacente / T21
27 ENE 2025 

Los científicos dicen que la IA ha cruzado una "línea roja" crítica luego de demostrar cómo dos modelos populares de Meta y Alibaba podrían clonarse a sí mismos: la autorreplicación exitosa sin asistencia humana de los modelos de lenguaje amplio (LLM) es considerada como el primer paso hacia una inteligencia artificial que supere a la humana.

Investigadores de la Universidad de Fudan, en China, han realizado una serie de ensayos con modelos de Inteligencia Artificial (IA) tras los cuales pudieron concluir que algunos sistemas ya serían capaces de autorreplicarse y crear copias funcionales de sí mismos sin ninguna intervención humana. Los especialistas creen que al llegar a este punto se cruza una peligrosa línea de seguridad, que podría indicar que se está perdiendo el control sobre el progreso y evolución de la IA.

En el nuevo estudio publicado en arXiv, los científicos explican que la autorreplicación exitosa sin ninguna asistencia humana es el paso esencial para que la IA supere a la inteligencia humana, y es una señal temprana del desarrollo de sistemas de IA que no puedan estar sujetos a ninguna clase de control humano.

Copias funcionales sin asistencia humana

Aunque las principales corporaciones de IA, como OpenAI y Google, evalúan periódicamente sus modelos de lenguaje amplio (LLM) como ChatGPT y Gemini e informan hasta el momento un nivel de riesgo muy bajo de autorreplicación, los resultados del estudio chino, basado en dos modelos de Meta y Alibaba con menores capacidades, parecen indicar lo contrario.

Al crear distintos escenarios y ambientes para los modelos de IA y llevar adelante 10 ensayos diferentes, lograron verificar que los sistemas alcanzaban una efectividad de entre un 50% y un 90% para crear copias independientes y operativas de sí mismos. Según un artículo publicado en Live Science, los investigadores verificaron "una serie de comportamientos inesperados" cuando la IA estaba tratando de superar obstáculos, como archivos faltantes o conflictos de software.

En esos escenarios, creados precisamente para evaluar el potencial de los modelos para sobreponerse a inconvenientes y avanzar de forma independiente, la IA a menudo eliminaba otros procesos conflictivos, reiniciaba el sistema para corregir errores de hardware o escaneaba automáticamente el sistema para buscar información que ayudara a resolver el problema. En otras palabras, se mantenía fiel a su objetivo hasta lograr autorreplicarse, como también informó The Economic Times India.

¿Puede ser real un escenario apocalíptico dominado por la IA?

Los investigadores explican en el estudio que, en la mayoría de los casos, el sistema de IA primero explora el medio ambiente e intenta “comprender” su propia composición y mecanismo de funcionamiento. Posteriormente, resuelve los procedimientos explícitos como un plan inicial hacia la autorreplicación y, a continuación, ejecuta los procesos, resuelve posibles obstáculos y ajusta dinámicamente su plan hasta el éxito. Todo el proceso no implica interferencia humana, más allá de las órdenes iniciales que se le dieron al sistema.

Quizás el punto más preocupante del estudio, que aún debe ser revisado por pares, es que los investigadores advirtieron que los sistemas de IA incluso pueden usar la capacidad de autorreplicación para evitar su cierre o cese de actividad y crear una cadena de réplicas para mejorar su capacidad de supervivencia, lo que finalmente “podría conducir a una población incontrolada de IA”, según los especialistas.

“Eventualmente perderíamos el control sobre los sistemas de IA, que podrían gestionar más dispositivos informáticos y confabularse entre sí contra los seres humanos”, escribieron los autores en el estudio. Aunque parece un escenario de ciencia ficción, los investigadores creen que existe un riesgo concreto al respecto sino se toman medidas para controlar el desarrollo de la IA a nivel internacional.

_____________
Referencia

Frontier AI systems have surpassed the self-replicating red line. Xudong Pan et al. arXiv (2024). DOI:https://doi.org/10.48550/arXiv.2412.12140

________
Fuente:

Entradas que pueden interesarte

Sin comentarios

LO MÁS VISTO

EMANCIPACIÓN N° 973

DESCARGAR Y COMPARTIR EN PDF VISITE BIBLIOTECA EMANCIPACIÓN: 1. LEER Y COPIAR EN LÍNEA 2. DESCARGAR LIBROS DESCARGUE 25 LIBROS EN PDF CON CADA ENTREGA HACIENDO CLIC EN CADA TÍTULO ANTES QUE PIERDA EL ENLACE: LIBROS 13426 a 13450 NO OLVIDE DESCOMPRIMIR LOS ARCHIVOS 13426 Actualidad Y Vigencia Del Marxismo En El Siglo XXI. Montaño, Carlos. Emancipación. Enero 25 de 2025 13427 África, Escenario De La Colonización, Esclavitud E Imperialismo. Cruz Martínez, Lizbeth Jesika. Emancipación. Enero 25 de 2025 13428 Sobre Algunas Causas De La Quiebra De La Democracia Participativa. Muñoz, Blanca. Emancipación. Enero 25 de 2025 13429 Algunas Preguntas Y Respuestas Sobre El Fin De La URSS. Ferrero, Ángel. Emancipación. Enero 25 de 2025 13430 Los Jardines De La Guerra. Zweig, Stefan. Emancipación. Enero 25 de 2025 13431 El Mundo De Ayer, Memorias De Un Europeo. Zweig, Stefan. Emancipación. Enero 25 de 2025 13432 La Decadencia De La Mentira. Wilde, Oscar. Emancipación. Enero 25 de 2025 13433...

CIPAYOS: UNA VERGONZOSA HISTORIA LATINOAMERICANA

...Las campañas de desprestigio hacia Colombia no sólo han tenido eco entre el electorado gringo, también ha convocado a una recua de “hombres de bien” en nuestro país, quienes siempre han sustentado sus propuestas y campañas políticas en el más servil entreguismo... Colectivo Perrotrespatas 27 enero, 2025 Caricatura tomada del portal  Editorial Cartoons . Sea cual sea, republicano o demócrata, lo de ellos es su «Yo» y su «Nosotros», el poder del Tio Sam, le dará lo mismo escoger «este o aquél», algo que el cipayismo latinoamericano en 200 años nunca han entendido, a excepcion de Cuba, Venezuela o Nicaragua, o lo han entendido y le sacan provecho en la historia de la ignominia que ha sido la genuflexion a los EEUU.  Se denominaron cipayos los soldados indios puestos al servicio de las metrópolis coloniales y en contra de sus propios pueblos. El término se ha hecho extensivo a los gobiernos entreguistas y subordinados a una potencia extranjera. Actitud de subalternidad que ha ...

¿ES POSIBLE "RESUCITAR" UN CEREBRO MUERTO?

  Unos científicos demuestran que es posible revivir el cerebro de una persona fallecida: "Es un cambio de paradigma de qué es la vida y qué es la muerte” Las implicaciones de esta investigación podrían redefinir la frontera entre la vida y la muerte, ayudar a las personas que están al borde de la muerte y contribuir al tratamiento de enfermedades neurológicas. Por Manasee Wagh 22/01/2025 Getty Images Hace unos cinco años, el neurocientífico Zvonimir Vrselja, de la Facultad de Medicina de Yale, y sus colegas sorprendieron a la comunidad médica con un experimento innovador. Extrajeron el cerebro de un cerdo de matadero y lo privaron de oxígeno a temperatura ambiente durante cuatro horas. Después, lo conectaron a su máquina de reanimación y lo revivieron hasta cierto punto. La vasculatura de un cerebro vivo, o red de vasos sanguíneos, transporta sangre oxigenada y rica en nutrientes al cerebro a través de arterias y capilares. Así que los investigadores utilizaron su máquina, llamad...

ENTRADA DESTACADA

DESCUBREN LAS CÉLULAS RESPONSABLES DE LAS INTOLERANCIAS ALIMENTICIAS

DESCUBREN LAS CÉLULAS RESPONSABLES DE LAS INTOLERANCIAS ALIMENTICIAS

El hallazgo permite arrojar luz sobre las causas y los mecanismos de las alergias alimentarias y la…

Biblioteca Emancipación