Tanto si la humanidad lucha contra Skynet como si explora la galaxia en una especie de paraíso a lo Star Trek, todo se reduce a una pregunta: ¿Llegará algún día la IA a ser consciente?
Mariela León
18/07/2024
Pensadores y escritores han ideado mundos inimaginables para el común de las personas -con destellos irrealistas, absurdos e incluso con un toque demencial- pero con el tiempo se han hecho realidad. En un momento en que los avances de la ciencia y la tecnología no paran de arrancar asombros, surge una propuesta explosiva que juega con la posibilidad de lograr algún tipo de conciencia híbrida entre hombre y la vida artificial.
El solo enunciado salta muchas interrogantes e incredulidades. La idea está afincada desde hace más de una década en la mente del filósofo de Oxford, Nick Bostrom. Aunque el futuro es incierto, dice que es probable que sea inevitable algún tipo de conciencia híbrida.
El cerebro, ese principalísimo órgano encargado de regular y coordinar lo que hacemos, pensamos y sentimos, ha demostrado una vez más, su importancia al permitir a las personas con parálisis volver a caminar. Un interfaz cerebro-ordenador abre muchas ventanas para la salud.
Pero de lo que habla Bostrom es de la conciencia. Un concepto abstracto y muy resbaladizo que filósofos, científicos -y ahora ingenieros de Inteligencia Artificial- han debatido desde hace siglos.
Bostrom, nacido en Suecia con experiencia en física teórica, neurociencia computacional, lógica e inteligencia artificial, sostiene que la conciencia no es un asunto en blanco y negro, como apretar un interruptor. Por el contrario, el proceso de adquisición de la conciencia es un viaje gradual y a menudo turbio cuyo progreso es difícil de determinar. Dirige el Future of Humanity Institute en Oxford. Es autor de unas 200 publicaciones, entre ellas Anthropic Bias, Global Catastrophic Risks y Superintelligence: Paths, Dangers and Strategies. Un best-seller de The New York Times que ayudó a generar una conversación global sobre el futuro de la IA.
Humans Could Forge a Hybrid Consciousness by Merging With Artificial Life, Oxford Scientists Say
Conciencia híbrida, un concepto desconocido
“Para mí sería triste que, dentro de un millón de años, siguiéramos teniendo la versión actual de la humanidad… en algún momento querrás actualizarte. Entonces puedes imaginar subirte a la red o mejorarte biológicamente a ti mismo o todo tipo de cosas”, afirma en una entrevista con Popular Mechanics, una revista estadounidense dedicada a temas de ciencia y tecnología.
/ FreepikPero una “mejora” de este tipo puede acarrear graves consecuencias que podrían acabar con el mundo. Una serie de futuros apocalípticos que Bostrom ya exploró en su libro ‘Superinteligencia’. Sin embargo, su último libro, ‘Deep Utopia’, defiende el otro bando. Señala que una existencia o conciencia híbrida podría crear un “mundo resuelto”, uno libre de la monotonía cotidiana que llena nuestras vidas hoy en día.
Tanto si la humanidad lucha contra Skynet como si explora la galaxia en una especie de paraíso a lo Star Trek, todo se reduce a una pregunta: ¿Llegará algún día la IA a ser consciente?
«No tenemos criterios muy claros sobre qué hace que un sistema computacional sea consciente o no», adelanta Bostrom. Autor de artículos influyentes, incluidos los que introdujeron el argumento de la simulación y el concepto de riesgo existencial. «Si simplemente sacamos del estante las mejores teorías que tenemos sobre la conciencia… No es de ninguna manera una idea ridícula que pueda haber algunas formas de conciencia ahora o en el muy cercano plazo emergiendo de estos sistemas (de IA)», comenta.
Hasta hace poco, la mayoría de los programadores de IA no luchaban realmente con estas profundas teorías filosóficas. Sólo querían asegurarse de que sus grandes modelos de lenguaje no fueran accidentalmente racistas. Pero en los últimos dos años, los ingenieros de Google y OpenAI han cuestionado (de manera controvertida) si estos programas son realmente conscientes.
/ Freepik¿Las mentes digitales son conscientes?
Bostrom argumenta que la llegada de una IA que habla de manera convincente como un ser humano es un componente importante que alimenta las afirmaciones actuales sobre la conciencia. Incluidas plataformas como Claude de Anthropic, ChatGPT de OpenAI y Gemini de Google. Después de todo, cuando hablas con otra persona, asumes que está consciente, y las mentes digitales convincentes parecen desencadenar una reacción similar.
Este tipo de conciencia improvisada ha sido objeto de cierta obsesión para Marcus du Sautoy, Ph.D. de Oxford. Como profesor de la universidad para la comprensión pública de la ciencia, Sautoy ha dado charlas e incluso ha escrito un libro que explora la idea de que la IA podría ser creativa. Sin embargo, es la experiencia de Sautoy en matemáticas la que ha centrado su comprensión de la conciencia híbrida actual.
Google's AI Is an Anti-White Lunatic, by @micsolana
google’s AI chatbot just erased white people from human history. a grim (if objectively hilarious) warning for the future
Robots are racist (but actually though (damn it)). Yesterday morning, when all the screenshots of ‘some… Mostrar más
«La IA es solo código, el código es solo algoritmos y los algoritmos son solo matemáticas, por lo que estamos creando algo de naturaleza matemática», explica Sautoy. «La gente se vuelve muy mística acerca de lo que hace el cerebro… pero (el cerebro) también pasa por algún tipo de proceso algorítmico».
El cerebro y los algoritmos artificiales son similares en muchos aspectos. Ambos crean tipos de conexiones sinápticas, por ejemplo. Pero el cerebro humano sigue siendo superior a la hora de crear nuevas conexiones sinápticas.
#HistoryNoticias Logran descargar el cerebro de un ser vivo a una computadora. El animal artificial reaccionó igual que el animal real. ¿Sería éste el primer paso hacia la inmortalidad? goo.gl/99ZtBn
Si las mentes digitales obtuvieran algún grado de conciencia, incluso en una forma rudimentaria de rata en un experimento científico, probablemente le deberíamos a las máquinas algún tipo de protección legal y cortesía moral. Bostrom indica que los ingenieros podrían dirigir la personalidad de una conciencia artificial incluso teniendo en cuenta su bienestar. Esta programación del «estado de ánimo» garantizaría que la mente digital se sienta feliz y ansiosa por asumir las tareas del día.
Un poco de filosofía y mucho de tecnología
Libros y películas han explorado las innumerables formas en que el surgimiento de una conciencia digital podría acabar con todos nosotros. Pero también es posible que un híbrido humano-digital abra el camino hacia un futuro utópico. En 2017, el director ejecutivo de OpenAI, Sam Altman, describió esta idea como «La fusión». Un futuro en el que la humanidad coexistirá pacíficamente con su creación digital.
En comparación con otros resultados desastrosos (Bostrum postuló un futuro en el que la IA transforma accidentalmente el mundo en clips), la idea de una fusión es «probablemente nuestro mejor escenario», escribió Altman.
We're sharing progress toward understanding the neural activity of language models. We improved methods for training sparse autoencoders at scale, disentangling GPT-4’s internal representations into 16 million features—which often appear to correspond to understandable concepts.… Mostrar más
Multimillonarios como Elon Musk se han tomado esta idea de La Fusión al pie de la letra. Y han invertido miles de millones para crear empresas como Neuralink, cuyo objetivo es conectar físicamente componentes biológicos con otros mecánicos. El primer ensayo clínico en humanos de Neuralink, conocido como Precise Robotically Implanted Brain-Computer Interface pretende ayudar a interpretar la actividad neuronal de los pacientes con ELA. Y experimenten “la alegría de conectar con sus seres queridos, navegar por Internet o incluso jugar utilizando sólo sus pensamientos”, dice la empresa.
«Necesitamos repensar lo que significa ser humano en un mundo en el que la IA se ha encargado de todas las tareas prácticas y tenemos una especie de mundo resuelto», dice Bostrom. «Es posible que trabajar por dinero se vuelva completamente innecesario porque la IA y los robots pueden hacer todo mejor que nosotros».
Pero Bostrom advierte que en realidad esto es sólo una capa de la cebolla filosófica. “Te das cuenta de que no sólo nuestros esfuerzos económicos se vuelven obsoletos, sino también nuestros esfuerzos instrumentales. ¿Qué creemos que tiene valor por sí mismo y no como un medio para lograr otras cosas?»
Zonas inexploradas
Sautoy también menciona que tal fusión podría complicarse por el hecho de que, independientemente de cómo surja la conciencia digital, definitivamente será diferente a la nuestra. Eso podría llevar a escenarios en los que nuestras creaciones no tengan ningún interés en tener un compañero biológico en primer lugar.
«La velocidad a la que funcionará la IA no está limitada por la encarnación», indica Sautoy. «Su ritmo de vida será tan diferente al nuestro que tal vez la IA nos mire… de la misma manera que miramos una montaña». Si bien la vida humana rara vez dura más de un siglo, las montañas existen desde hace millones de años. De manera similar, la “vida” acelerada y procesadora de datos de la IA podría ser igualmente insondable para nuestras vidas comparativamente lentas.
__________
Fuente:
