Dejar sin regulación este proceso es un enorme riesgo, dejarlo en manos de las empresas tecnológicas es un riesgo todavía mayor
La IA no es una herramienta, aunque haya aún la percepción de que así es. La IA es, esencialmente, un agente. La distinción es crucial
La IA puede comprender y es inteligente; tiene experiencias propias y puede tomar decisiones en el mismo sentido que lo hacen personas. Foto Afp
León Bendesky
jornada.com.mx/10 de agosto de 2026
Yuval Noah Harari es tajante: “Una de las más poderosas fuerzas de la historia es la estupidez humana. Sabemos que las armas nucleares pueden destruir la civilización. Sabemos que la inteligencia artificial pronto excederá nuestra capacidad de controlarla. Y aun así seguimos construyéndolas.” Y añade: “El mayor peligro no es la inteligencia o la tecnología solamente, es la combinación de un inmenso poder y la imperfecta capacidad humana de juicio”.
Antes, Einstein ya había dicho: “Sólo dos cosas son infinitas, el universo y la estupidez humana, y no estoy seguro en cuanto a la primera”. Y está, también, por supuesto, el historiador italiano Carlo Cippola que enunció las leyes básicas de la estupidez humana, a saber: Siempre se subestima el número de gente estúpida en la sociedad. La posibilidad de que una persona sea estúpida no depende de su educación, su riqueza o su estatus. La gente estúpida causa daño a los demás sin ningún beneficio para ellos mismos. La gente inteligente siempre olvida qué tan destructiva puede ser la gente estúpida. Una persona estúpida es el tipo más peligroso de persona, más que un ladrón o un criminal.
Geoffrey Hinton, Nobel de Física en 2024 fue reconocido por su trabajo que permitió el aprendizaje de las máquinas mediante las redes neuronales artificiales; un modelo computacional referido al cerebro humano. Por su labor es considerado como el padrino de la IA, y con respecto a ella tiene una visión muy controvertida.
En una entrevista difundida en el programa 60 minutes de la cadena televisiva CBS en agosto del año pasado, afirmó que: En cuanto a la IA, la humanidad no sabe lo que está haciendo; estamos en un periodo en el que por primera vez podremos tener algo más inteligente que nosotros; la IA puede comprender y es inteligente; tiene experiencias propias y puede tomar decisiones en el mismo sentido que lo hacen personas; las máquinas llegarán a ser conscientes, convirtiendo a los humanos en los segundos seres más inteligentes del planeta. Esto crea un entorno potencial de carácter desconocido y potencialmente muy riesgoso, pero previsible en muchas instancias.
El lenguaje, como la estructura sobre la que se asienta la realidad, la comunicación y el conocimiento, altera su sentido, su significado y su efecto en el entorno creado por la IA. Se relaciona con la IA mediante el procesamiento del lenguaje natural (PLN), lo que permite a las máquinas leer, interpretar, traducir y, también, generar textos o voces. Mediante los llamados modelos grandes (LLM) el procesamiento del lenguaje hace posible que las máquinas aprendan a partir de asimilar enormes cantidades de textos.
Harari, de nuevo, apunta que el lenguaje es el sistema operativo o el código de la civilización, pues dio a los humanos la capacidad única para cooperar en grandes grupos y crear realidades compartidas; algunas de ellas de carácter abstracto, como el dinero, las leyes, las religiones. Así, dice, pasamos de ser un insignificante animal a ser los amos del planeta.
Advierte que la IA está hackeando ese código y puede dominar el lenguaje, siendo mejor que nosotros con las palabras con lo que eso entraña en su capacidad de control. El lenguaje de la IA liberado de los humanos como una nueva manera de la conversación a partir de papel de la tecnología de la información. Extendiéndose con nuevas formas de organización social y política. Sin conversación no hay democracia.
La IA no es una herramienta, aunque haya aún la percepción de que así es. La IA es, esencialmente, un agente. La distinción es crucial. Esto significa que desempeña tareas complejas, desplazándose desde la programación basada en reglas hacia aquella que contempla razonamientos complejos. Toma decisiones integrando datos y herramientas analíticas. Harari lo ilustra con el caso de la imprenta. Gutemberg decidió imprimir la Biblia; la IA puede escribir un libro, una capacidad separada de la acción humana.
Una herramienta no puede tomar decisiones por sí misma, no puede inventar una nueva idea. Los modelos de la IA crean nuevas versiones de sí mismos. Este asunto puede ser más radical, como ocurre cuando se traslada, por ejemplo, al campo de las armas, su diseño y su uso. Harari habla de las redes de control burocrático, como puede ser el sistema legal o el sistema financiero. Estas redes se basan en el lenguaje y son agentes que puedes ser tomados por un lenguaje superior derivado de la IA. Esta dinámica está ya en marcha y su evolución es muy acelerada y puede provocar grandes fricciones sociales. Y, al parecer, ya no hay marcha atrás. Dejar sin regulación este proceso es un enorme riesgo, dejarlo en manos de las empresas tecnológicas es un riesgo todavía mayor.
________
Fuente:
