Sponsor

EMANCIPACIÓN N° 995EMANCIPACIÓN N° 99528 Jun 2025 0 Comentarios

LEER REVISTA DIRECTAMENTELeer en LíneaDESCARGAR REVISTA N° 995 Y COMPARTIRDescargar RevistaVISITE BI...

CARICATURAS DE LA SEMANACARICATURAS DE LA SEMANA28 Jun 2025 0 Comentarios

COLOMBIA Y LA RUTA DE LA SEDACOLOMBIA Y LA RUTA DE LA SEDA27 Jun 2025 0 Comentarios

De ser un país que solía estar en plena sintonía con los intereses imperiales de Estados Unidos, Col...

LA CONSCIENCIA DESPIERTA EN EL ÚTERO A PARTIR DE LA SEMANA 24 DE GESTACIÓNLA CONSCIENCIA DESPIERTA EN EL ÚTERO A PARTIR DE LA SEMANA 24 DE GESTACIÓN27 Jun 2025 0 Comentarios

Revoluciona los modelos educativos y de estimulación tempranaNuevos estudios revelan que las bases n...

LA LUCHA DE LOS APRENDICES DEL SENA Y LA REFORMA LABORAL, UN GRAN TRIUNFO DE LA CLASE OBRERALA LUCHA DE LOS APRENDICES DEL SENA Y LA REFORMA LABORAL, UN GRAN TRIUNFO DE LA CLASE OBRERA27 Jun 2025 0 Comentarios

Este es un gran paso en la lucha por la educación del pueblo y mejores condiciones laborales para la...

CASOS DE ÉXITO EN NEUROCIRUGÍA: CUANDO LA CIENCIA DEVUELVE LA VIDACASOS DE ÉXITO EN NEUROCIRUGÍA: CUANDO LA CIENCIA DEVUELVE LA VIDA27 Jun 2025 0 Comentarios

'Vertebra tu bienestar'La neurocirugía es una puerta a la recuperación, a la esperanza y, sobre todo...

O ESTÁS CONTRA DE LA OTAN O ERES SU CÓMPLICEO ESTÁS CONTRA DE LA OTAN O ERES SU CÓMPLICE27 Jun 2025 0 Comentarios

Lo que se necesita hoy en Europa es una movilización sin precedentes para abandonar la OTAN. La opos...

DE HONGO MORTAL A PROMESA MEDICINALDE HONGO MORTAL A PROMESA MEDICINAL27 Jun 2025 0 Comentarios

Nueva arma contra la leucemia El culpable de la maldición del rey Tut ahora podría usarse como ...

EE.UU. E ISRAEL CAUSARON EE.UU. E ISRAEL CAUSARON "ENORME PERJUICIO" AL OIEA AL ATACAR EL PROGRAMA NUCLEAR IRANÍ27 Jun 2025 0 Comentarios

El organismo de la ONU se utilizó por Tel Aviv y Washington como "fuente de información para planifi...

IDENTIFICAN MECANISMO CEREBRAL QUE VALORA DE POSITIVAS O NEGATIVAS LAS EXPERIENCIAS SOCIALESIDENTIFICAN MECANISMO CEREBRAL QUE VALORA DE POSITIVAS O NEGATIVAS LAS EXPERIENCIAS SOCIALES27 Jun 2025 0 Comentarios

Científicos identifican el interruptor cerebral que etiqueta las experiencias sociales como positiva...

CREAR DOS, TRES, MUCHAS ARCASCREAR DOS, TRES, MUCHAS ARCAS27 Jun 2025 0 Comentarios

...Asistimos al elogio sistemático de la muerte frente a la vida, que no parece tener lugar en el mu...

UNA MISTERIOSA ENTIDAD CELULAR DESAFÍA NUESTRA COMPRENSIÓN DE LA VIDAUNA MISTERIOSA ENTIDAD CELULAR DESAFÍA NUESTRA COMPRENSIÓN DE LA VIDA27 Jun 2025 0 Comentarios

Sukunaarchaeum Mirabile es una entidad microbiana con un genoma pequeño sin precedentes: redefine lo...

TRUMP: EL EMBUSTE DE LA PAZTRUMP: EL EMBUSTE DE LA PAZ27 Jun 2025 0 Comentarios

Es preocupante constatar la disociación de la realidad en que vive el comandante en jefe de la que e...

HALLAZGO HORMONAL ABRE NUEVAS ESPERANZAS PARA ANTICIPAR DEPRESIÓN POSPARTO ANTES DEL NACIMIENTOHALLAZGO HORMONAL ABRE NUEVAS ESPERANZAS PARA ANTICIPAR DEPRESIÓN POSPARTO ANTES DEL NACIMIENTO26 Jun 2025 0 Comentarios

La depresión posparto es más que un bajón emocional después de tener un hijo. Es una condición psiqu...

CARICATURAS DE LA SEMANA28 Jun 2025 0 Comentarios

Recent

LA DISCIPLINA INFORMÁTICA ESTÁ EN CRISIS

El futuro de la IA divide a académicos y profesionales de la industria

La IA generativa ha provocado una crisis en la disciplina informática. / GENERADOR DE IMÁGENES DE LA IA DE BING PARA T21/PRENSA IBÉRICA, DESARROLLADA CON TECNOLOGÍA DE DALL·E.

Eduardo Martínez de la Fe
Madrid 10 JUN 2024

La maestría en el lenguaje alcanzada por la IA ha sumido a la disciplina informática en una profunda crisis que separa a los académicos de los profesionales de la industria, cuando la prioridad ahora es la investigación destinada a minimizar los riesgos potenciales de los sistemas inteligentes.

La disciplina informática ha entrado en una profunda crisis desde el lanzamiento de ChatGPT en 2022, asegura el informático y matemático israelí Moshé Y. Vardi en un artículo publicado en la revista Communications of ACM.

La inteligencia artificial (IA), que durante décadas fue un subcampo de la informática caracterizado por promesas excesivas y resultados insuficientes, ha alcanzado ahora un punto de inflexión, según Vardi.

La maestría en el lenguaje, considerada el santo grial de la IA, se ha materializado de repente, permitiendo que las computadoras se comuniquen fluidamente en lenguaje natural.

Y aunque a veces generan contenido sin sentido, el lenguaje es siempre pulido. Este avance ha acercado el sueño de la inteligencia general artificial, que siempre parecía estar más allá del horizonte, a una realidad tangible, asegura Vardi.

Preocupación por la IA

Y esto no ha dejado indiferente al sector. En enero pasado, casi 3.000 investigadores implicados en los desarrollos de la IA fueron sometidos a una gran encuesta sobre el futuro de la Inteligencia Artificial y la mayoría expresaron una incertidumbre sustancial sobre el valor a largo plazo del progreso esta tecnología.

La preocupación de estos expertos se centra, principalmente, en la propagación incontrolada de información falsa, la manipulación a gran escala de la opinión pública, el control autoritario de las poblaciones y el empeoramiento de la desigualdad económica.

El panorama del futuro de la IA que proyectan estos expertos empezaría a perfilarse en 2028, cuando con al menos con un 50% de probabilidades, los algoritmos inteligentes construirán desde cero un sitio de procesamiento de pagos, así como crearán una canción indistinguible de una original y permitirán el ajuste autónomo de un modelo de lenguaje de gran tamaño (como es el caso de chatGPT).

Si la ciencia continúa sin interrupciones, según los estimaciones previas, la probabilidad de que las máquinas sin ayuda superen a los humanos en todas las tareas posibles se estima en un 10% para 2027 y en un 50% para 2047. Y la probabilidad de que todas las ocupaciones humanas se vuelvan completamente automatizables alcanzaría el 10% en 2037 y el 50% en 2116, según los participantes en la gran encuesta de enero.

Estimación de riesgos

La mayoría de los encuestados expresaron diferentes niveles de preocupación sobre los posibles riesgos futuros: mientras que el 68,3% piensa que los buenos resultados de la IA sobrehumana son más probables que los malos, de estos optimistas netos, el 48% dio al menos un 5% de posibilidades de resultados extremadamente malos, como la extinción de los humanos, mientras que el 59% de los pesimistas netos dieron un 5% o más a resultados extremadamente buenos.

Entre el 38% y el 51% de los encuestados dieron al menos un 10% de posibilidades de que la IA avanzada condujera a resultados tan malos como la extinción humana.

Más de la mitad sugirió que se justifica una preocupación "sustancial" o "extrema" sobre seis escenarios diferentes relacionados con la IA, incluida la desinformación, el control autoritario y la desigualdad.

Podemos decir que existe desacuerdo sobre si un progreso más rápido o lento en la IA sería mejor para el futuro de la humanidad, al mismo tiempo que un amplio acuerdo en que se debería dar más prioridad a la investigación destinada a minimizar los riesgos potenciales de los sistemas de IA. Esta es la principal conclusión que se extrae de la encuesta.

Recreación artística del impacto de la IA en la disciplina informática. / GENERADOR DE IMÁGENES DE LA IA DE BING PARA T21/PRENSA IBÉRICA, DESARROLLADA CON TECNOLOGÍA DE DALL·E.

IA, en el foco

Aunque esta encuesta levantó algunas suspicacias, considerando que los expertos exageraban los escenarios apocalípticos, ahora todas las miradas están puestas en una de las conferencias de IA más grandes, NeurIPS 2024, la trigésima octava edición de esta iniciativa sobre sistemas de procesamiento de información neuronal, que se desarrollará del 9 al 15 de 2024 en el Centro de Convenciones de Vancouver.

Para esta edición, la conferencia ha convocado presentaciones que abordarán una variedad de temas dentro del campo de la IA, incluyendo aprendizaje profundo, aprendizaje por refuerzo, métodos probabilísticos, optimización, y aspectos sociales y económicos de la IA, entre otros.

Además, este año, NeurIPS ha puesto un énfasis particular en la intersección de la IA con la creatividad humana a través de su pista de "Creative AI", que se centró en el tema de la "Ambigüedad". Esta pista busca destacar los desafíos multifacéticos y complejos que surgen al aplicar la IA para promover y desafiar la creatividad humana.

La pista de Creative AI invita a trabajos de investigación y obras de arte que muestren enfoques innovadores de la IA y aprendizaje automático en el arte, el diseño y la creatividad.

Se anima especialmente a las presentaciones que cuestionen el uso de datos privados y públicos, consideren nuevas formas de autoría y propiedad, desafíen las nociones de lo ‘real’ y lo ‘no real’, así como la agencia humana y de la máquina, y proporcionen un camino hacia adelante para redefinir y nutrir la creatividad humana en esta nueva era de la computación generativa.

Poco consenso estratégico

La cuestión que se plantea detrás de todo este despliegue es si NeurIPS será capaz de articular un consenso sobre cómo abordar las preocupaciones sobre la IA.

El problema radica en que la comunidad de la IA está profundamente dividida en dos ramas: la academia por un lado y la industria por el otro, explica Vardi.

Los investigadores académicos se sienten cómodos con el Código de Ética de ACM, que exige que los profesionales de la informática apoyen constantemente el bien público. La ACM es la sociedad profesional más grande en computación y, aunque tiene un grupo de interés especial en inteligencia artificial (SIGAI), la sensación general es que ACM se "ha desentendido" de la IA hace muchos años, según Vardi.

Uso responsable de la informática

Los investigadores industriales de la IA están en otra liga: suelen trabajar en corporaciones con fines de lucro, que a menudo hablan sobre la responsabilidad social corporativa, pero que, en la práctica, se centran en la maximización de ganancias. Además, tienen acceso a datos e informática a gran escala con los que los investigadores académicos sólo pueden soñar.

Lo que propone Vardi para resolver este dilema es recoger el testigo de la responsabilidad social que quedó en el aire cuando se disolvió en 2013 la Computer Professionals for Social Responsibility (CPSR), que la organización global que desde 1983 promovía el uso responsable de la tecnología informática, particularmente en el entorno bélico (recordemos que ese año estaba en pleno auge la crisis de los euromisiles entre la OTAN y el Pacto de Varsovia).

CPSR debería ser la encargada convocar y moderar la reflexión toda la comunidad sobre el futuro de la IA, según Vardi. La idea ya está en el aire, pero nada indica, de momento, que vaya a ponerse en marcha. La disciplina informática ciertamente está en shock.

___________
Referencia

Thousands of AI Authors on the Future of AI. Katja Grace et al. arXiv:2401.02843v2 [cs.CY]. DOI:https://doi.org/10.48550/arXiv.2401.02843

________
Fuente:

Entradas que pueden interesarte

Sin comentarios

LO MÁS VISTO

O ESTÁS CONTRA DE LA OTAN O ERES SU CÓMPLICE

Lo que se necesita hoy en Europa es una movilización sin precedentes para abandonar la OTAN. La oposición al 5 por ciento no basta; es necesario una ruptura GEORGE CREMASCHI, SINDICALISTA ITALIANO observatoriocrisis.com 27 junio, 2025 La OTAN marcha hacia la Tercera Guerra Mundial, para detenerla necesitamos señalar puntos claros, aquí hay algunos. 1. El aumento del gasto militar decidido en La Haya supone el mayor rearme desde el final de la Segunda Guerra Mundial. Dejemos de lado por un momento la cuestión del 5% del PIB, en la que se ha centrado el debate, y también la mistificación belicista; veamos las cifras absolutas. Hoy, Estados Unidos y sus aliados occidentales gastan casi 1.400 billones de dólares al año en armas y guerra, aproximadamente el doble de lo que invierte el resto del mundo, desde los «enemigos» Rusia y China hasta los países «neutrales». Los nuevos objetivos de la cumbre de la OTAN suponen entre 1.000 y 1.200 billones de dólares en gasto militar adicional, para ...

TRUMP: EL EMBUSTE DE LA PAZ

Es preocupante constatar la disociación de la realidad en que vive el comandante en jefe de la que es, como gusta de jactarse, la mayor fuerza militar de la historia humana.   Más allá del sadismo y la insensibilidad trumpianas, que a estas alturas indignan, pero no sorprenden, sus declaraciones comprueban que es un severo abuso del lenguaje llamar paz al frágil alto el fuego entre Tel Aviv y Teherán https://s.yimg.com/ La Jornada 06-27-2025 Pese a que hasta hoy dista de estar claro el verdadero alcance de los daños causados a las centrales nucleares iraníes de Fordo, Natanz e Isfahán en el ataque estadunidense del pasado sábado 21, el presidente Donald Trump y su secretario de Guerra –así lo denominó el propio magnate, aunque oficialmente está a cargo del Departamento de Defensa– se apresuraron a afirmar que sus bombas obliteraron las centrales iraníes, lo que en inglés significa eliminar sin dejar huella alguna. Al día siguiente, Trump aseguró que fue su gran honor destruir todas...

CREAR DOS, TRES, MUCHAS ARCAS

...Asistimos al elogio sistemático de la muerte frente a la vida, que no parece tener lugar en el mundo del capital Las guerras y destrucciones en curso son ya parte del colapso/tormenta. El mundo que conocimos está llegando a su fin.  Antes de que otro pueda nacer, estaremos atravesando un caos sistémico que durará décadas. Sólo la organización colectiva puede alumbrar ese futuro. Dolientes palestinos asisten al funeral de tres personas asesinadas el día anterior en Kafr Malik, Cisjordania ocupada por Israel, el 26 de junio de 2025. Foto Afp Raúl Zibechi La Jornada, 06, 27, 2025 En las guerras del capitalismo la cuestión central son los bienes materiales, no las personas. Los gobiernos y los medios mencionan en detalle, con abundante material gráfico y audiovisual, la destrucción de edificios, de instalaciones militares y centrales nucleares, el éxito o el fracaso de las incursiones aéreas y el lanzamiento de misiles, pero dejan de lado los dolores de los seres humanos, a los que...

ENTRADA DESTACADA

EMANCIPACIÓN N° 995

EMANCIPACIÓN N° 995

LEER REVISTA DIRECTAMENTE Leer en Línea DESCARGAR REVISTA N° 995 Y COMPARTIR Descargar Revista VISI…

Biblioteca Emancipación

  • Libro N° 6000. H. G. Wells, Aspectos De Una Vida. West, Anthony.

     © Libro N° 6000. H. G. Wells, Aspectos De Una Vida. West, Anthony....
    Jun - 25 - 2025 | 0 comentarios | Más