PANDEMIA, CAPITALISMO Y CONTEXTO DIGITAL

En la última década, el imperio de las grandes plataformas tecnológicas se ha expandido hasta ocupar todas las industrias, como una flota tentacular de cables y servidores, imponiendo su propio modelo de negocio y legislación. ¿Es más grande el poder de las plataformas digitales que el de los estados nación?

Hubo un momento en que parecía que Mark Zuckerberg quería ser presidente de los EE UU. A nadie le pareció un disparate porque era 2017 y acababa de ganar Donald Trump. El joven CEO anunció que su propósito para el nuevo año sería "conocer gente en cada estado de los Estados Unidos" y que, como había estado ya en veinte, le quedaban treinta por visitar. Los escándalos sobre el papel de Facebook como escenario y facilitador de las campañas de desinformación rusa, las manipulaciones de Cambridge Analytica y el genocidio de Myanmar estallaron casi simultáneamente mientras él visitaba fábricas, estrechaba manos y besaba bebés, como un nuevo Kennedy entrenando para las primarias. La compañía perdió más de cien mil millones de dólares en valores bursátiles antes de que se decidiera a volver. Era un mal momento para pensar en democracia. Tendría que seguir siendo emperador.

"Zuckerberg es una de las pocas personas del mundo para las que ser presidente sería bajar de categoría", ironizaba Nick Bilton en un artículo de Vanity Fair. En aquel momento, su plataforma tenía "solo" 1.800 millones de usuarios, un cuarto de la población del planeta. Hoy tiene más de 2.500 millones de usuarios, un tercio, y sin contar Instagram y WhatsApp. Nos faltan herramientas para comprender lo que significa eso exactamente. Si Facebook fuera un país, sería el más grande de la historia. Si fuera la herramienta de la revolución, como se declaró durante la Primavera Árabe, habría ganado la revolución. Si fuera una unión global de trabajadores, el mundo sería un lugar radicalmente distinto.

Pero Facebook es una clase nueva de imperio cuya expansión parecía tan circunscrita a lo estrictamente virtual que no reparamos en sus manifestaciones físicas. Como el hecho de que proporciona la única infraestructura de red a cientos de millones de personas en todo el mundo a través de su programa FreeBasics, o que lidera la construcción de la siguiente generación de cables submarinos de fibra óptica junto con Google, aparente némesis pero frecuente colaborador. Como los datos no se mueven solos y las antenas solo sirven para las distancias cortas, el grueso de Internet son unos 380 cables submarinos que transportan el 99.5% del tráfico transoceánico. El 0,5% restante es gestionado por lentos y caros satélites, el futuro de una industria que se prepara para perder sus infraestructuras en manos de desastres climáticos. Ese espacio también está siendo rápidamente colonizado por Facebook, Google y SpaceX, la empresa de Elon Musk, con su flota de nanosatélites StartLink.

Hay pocas plataformas como Facebook, con el poder gravitacional de sus miles de millones de usuarios. Google, Amazon, Apple y Netflix en occidente; en oriente Alibaba, Tencent y Baidu. Pero, en la última década, su imperio se ha expandido hasta ocupar todas las industrias, como una flota tentacular de cables, servidores y líquido refrigerante, imponiendo en ellas su propio modelo de negocio y de legislación. Su lógica opaca y cambiante, que incluye protocolos, algoritmos y un ejército de moderadores, se superpone al gobierno descentralizado del Internet sobre el que transita y también a las leyes de los estados soberanos cuyas democracias asfixia sin sufrir repercusiones. Ese imperio se sienta sobre esos territorios como una impenetrable capa de látex, interponiendo entre ambos una aduana de intermediación.

Alrededor del corazón amurallado de sus centros de datos linda, por un lado, el territorio poroso de las APIs donde viven las aplicaciones que operan en el feudo a cambio de subordinar derechos y pagar impuestos. Google y Apple, con Android y iPhone, gobiernan el mercado de las aplicaciones móviles y no hay aplicación que sobreviva en su mercado sin someterse a su jurisdicción. Lo mismo para Amazon, que hospeda la mitad de la World Wide Web. Sus reinos se relacionan íntimamente entre ellos, no siempre de manera hostil. Apple tiene su nube en Amazon Web Services, Facebook tiene sus aplicaciones en las tiendas de Apple y de Google.

Con el resto la relación de poder es 100% unidireccional y revela frecuentemente sus prioridades internas, como cuando Amazon expulsó a Wikileaks de sus servidores o Apple eliminó de su tienda la aplicación de los manifestantes de Hong Kong para evitar los enfrentamientos policiales pero mantuvo las que usa el gobierno chino para saber quiénes son y dónde están. En el reino del capitalismo digital, la extracción de datos es delito solo cuando no perjudica a la empresa y los derechos humanos importan solo cuando no entren en conflicto con el mercado. No es lo mismo censurar a los ciudadanos de la primavera árabe que enfrentarse a un régimen que controla el mercado de un séptimo de la población mundial.

Por el otro, el agujero negro por el que caen los contenidos y datos de los usuarios está legislado por Términos y Condiciones cuidadosamente diseñados para repeler la lectura y sacudirse responsabilidad. Ese imperio resiste mapas y definiciones y desborda el calificativo más generalista de Feudalismo Digital, porque es digital pero también es físico y cognitivo. En su discurso en la Universidad de Georgetown en Washington, Mark Zuckerberg lo llamó "el Quinto Poder".

Zuckerberg define el Quinto Poder como "la habilidad [que tienen los usuarios] de compartir sus pensamientos con las masas". Que es una interpretación dudosa pero involuntariamente provocadora. Contra lo que nos sugiere la intuición contemporánea, la prensa no se convirtió en el cuarto poder después del legislativo, ejecutivo y judicial porque Edmund Burke lo propusiera en 1787 y entonces no había democracia sino la jerarquía parlamentaria del Reino Unido. Allí los tres poderes iniciales eran los Lores Espirituales (iglesia), los Lores Temporales (nobleza) y los Comunes (políticos). Según cuenta Thomas Carlyle, Burke declaró que la prensa era el más influyente puesto que tiene el poder de crear opinión pública, además de reflejarla.

Zuckerberg quiere dar a entender que el quinto poder es el del los Comunes vulgaris (la masas), esa inteligencia colectiva que caracterizó la retórica de la web 2.0. y que iba a cambiar el mundo y hacerlo más justo y equilibrado. Solo que la Inteligencia Colectiva y la web 2.0 resultaron ser los ejes de una campaña de branding diseñada para oscurecer la verdadera operación: la extracción de cantidades masivas de datos, pensamientos y experiencias de los usuarios para entrenar algoritmos predictivos de inteligencia artificial. Algoritmos entrenados para entender, predecir y modificar los pensamientos de las masas. El quinto poder tiene la capacidad de persuadir a las masas de consumir cosas que no necesitan, votar a candidatos que no les convienen o quemar casas de vecinos que no han hecho nada. Podemos llamarlo, en honor a Zuckerberg, el Quinto Imperio. Burke diría que es el más peligroso porque tiene el poder de doblegar a los cuatro anteriores porque ha conseguido poner el proceso democrático a trabajar en su propia destrucción.

Como decía Alex Angulo en El Día de la Bestia, el diablo imita a Dios para burlarse pero también para apropiarse de sus cualidades divinas. En el caso de Facebook, la retórica democrática que empezó con su fallida campaña pre-presidencial ha ido incorporando una parodia de poder legislativo independiente. Primero llegaron los fact-checkers, periodistas externos certificados por la International Fact-Checking Network que verifican las excreciones del reino sin poder modificarlo y la novedad de este año, un "tribunal supremo" de apelaciones que dictará sentencia vinculante sobre aquellos temas que superen a los algoritmos y a los verificadores y den trabajo al departamento de Relaciones Públicas. Ambos asumen una responsabilidad sin poderes y facilitan que el reino ejerza un poder sin responsabilidad.

En el Quinto Imperio no existe la cárcel pero hay una pena máxima: desplataformar. Significa "impedir el acceso a una plataforma para expresar su opinión". El wikidiccionario propone los siguientes sinónimos: censurar, expurgar, suprimir, incidiendo en la expulsión como el bloqueo del ejercicio de la libertad de expresión en un lugar donde se tiene el derecho. Solo que el usuario no tiene derechos como la privacidad o la libertad de expresión porque no es ciudadano sino un súbdito que no ha elegido a sus gobernantes. Por lo tanto, la palabra apropiada es desterrar. Según la RAE, "dicho de quien tiene poder o autoridad para ello: expulsar a alguien de un territorio" y "apartar de sí algo inmaterial o hacerlo desaparecer". Aquí notamos que el imperio ejerce un monopolio del espacio público, político, cognitivo y también comercial. Para un usuario, el destierro significa censura. Para un desarrollador, un fabricante o un político, significa desaparecer.

Hay un contenido que no está sujeto al aparato legislativo independiente: la propaganda política. Incluyendo la clase de propaganda que escandalizó al mundo con Cambridge Analytica y que ahora es el lugar común del marketing político digital. "No creo que esté bien que una empresa privada censure a los políticos o las noticias en democracia", declaró Zuckerberg en Georgetown. En su reino, censurar usuarios no es censura ni está reñido con la democracia porque no entra en conflicto con su mercado y ayudar a sus grandes clientes a diseñar y distribuir noticias falsas en campañas oscuras que no puede monitorizar ni la prensa libre ni legislar las leyes democráticas es proteger la libertad de expresión.

"En tiempos de revuelta social, tendemos a retroceder en libre expresión. Queremos el progreso que viene de la libre expresión pero sin las tensiones que trae con ella –declaró Zuckerberg–. Lo vemos en la famosa carta que escribió Martin Luther King Jr. desde la cárcel de Birmingham, donde había sido ilegalmente encarcelado por manifestarse pacíficamente". Por suerte, hay momentos en que la disonancia cognitiva es denunciada con suficiente claridad. "Quisiera ayudar a Facebook a entender mejor lo que significaron para MLK las campañas de desinformación lanzadas por políticos –le respondió en Twitter la hija del Doctor King–. Esas campañas crearon la atmósfera para su asesinato". A diferencia de nuestra democracia, ese templo tenía un buen dragón.

Por Marta Peirano

Alfredo Moreno

Los datos digitales y la inteligencia generalizada mediante algoritmos sobre las conductas en el territorio digital de las personas, y sobre los fenómenos naturales y de artefactos, están en la base de una economía digital.

Con la revolución industrial, las máquinas pronto se volvieron prácticamente inevitables en todas partes; lo mismo ocurrirá con gran parte de los procesos y sistemas económicos basados en la inteligencia digital, ya que la economía digital ocupa un lugar central en la redefinición digital del mundo. El dividendo de eficiencia es demasiado alto, y una gran cantidad de servicios completamente novedosos son demasiado atractivos para que las sociedades los resistan.

Un requisito importante para la democracia sobre la política digital es permitir que las personas retengan el control sobre su información personal y su recorrido en el territorio digital. Los ciudadanos internautas tienen que poder negar por completo el acceso a algunos tipos de datos y compartir otros solo con partes confiables. Además, deberían poder conocer y controlar cualquier uso posterior de su información personal, cuyo abuso puede causar daños graves. Estos son los principios fundamentales que subyacen a varios regímenes de protección de datos personales, como el Reglamento General de Protección de Datos (GDPR) de la Unión Europea y la ley de protección de datos propuesta por la India.

A medida que la economía digital prevalece cada vez más en la mayoría de las relaciones económicas, el acceso y el control sobre varios tipos de datos determina la ventaja o desventaja económica comparativa de los actores involucrados. Este es un asunto muy diferente de la privacidad.

Las leyes dirigidas a la privacidad de datos pueden tener algunas implicaciones para proteger a las personas contra la explotación económica basada en datos. La razón es que las leyes actuales de protección de datos no se centran en la dimensión económica, incluso en términos de ciudadanos. A medida que el pilar principal de la economía digital pasa de los anuncios dirigidos, para los cuales los datos personales son clave, a la gestión inteligente basada en datos de actividades de todo el sector, los datos anónimos y agregados son cada vez más importantes. Los algoritmos aplicados en Inteligencia Artificial, por ejemplo, se basan en dichos datos y son el poder clave detrás de la economía digital.

Los EE.UU. y sus aliados tienen un fuerte control sobre los discursos de política global. Cualquier discusión de "datos como recurso" irá inmediatamente en la dirección de desafiar la extracción global de datos valiosos de las compañías estadounidenses. Con el apoyo de sus aliados, Estados Unidos está ocupado ahora tratando de lograr que todos los países firmen un régimen de "flujo de datos global libre". Quien recopila los datos, los posee.

Lamentablemente, la mayoría del activismo digital, incluso en países en desarrollo, sigue centrado exclusivamente en el tema de la privacidad, que sin duda es muy importante. Ignora por completo los derechos económicos sobre los datos. Aquí parece haber un sesgo de élite, según el cual se espera que los mercados garanticen por sí mismos la equidad. Pero la lógica del mercado no parece estar funcionando para el conductor de Uber, el comerciante de Amazon y el pequeño restaurante y hotel explotados respectivamente por las plataformas de entrega de alimentos y reserva de alojamiento.

Entre su lealtad geoeconómica a los EE. UU. y la rápida erosión de las perspectivas de la economía digital, la Unión Europea (UE) ha comenzado a hacer algunos ruidos tentativos sobre los derechos económicos sobre los datos, incluidos los de tipo no personal, que podrían ser datos colectivos / grupales, o artefactos y datos naturales. Sus documentos de política hablan sobre el acceso obligatorio a datos digitales con compañías privadas que se necesita para fines de interés público.

Las autoridades de competencia de la UE están investigando quién tiene los derechos de datos sobre productos puestos a la venta por terceros en la plataforma de Amazon, el vendedor o Amazon. Otro documento de política de la UE cuestiona si el propietario de una premisa de fábrica debe poseer los datos de la máquina que se originan en la fábrica o el proveedor de aplicaciones digitales que pueden ejecutar esas máquinas.

Es necesario cuestionar a la UE ya que estas posiciones emergentes de política interna cuadran con su apoyo a los EE.UU. en los foros de comercio mundial sobre los regímenes de "libre flujo global de datos".

En tiempos de COVID-19 asistimos a una valorización de los números, los porcentajes, cuadros que muestran curvas, análisis de datos estadísticos, en definitiva, frente a “la pantalla” vamos tomando cuenta para que sirven las Matemáticas y tal vez en particular el análisis de los datos.

Nunca como antes la humanidad depende de las infraestructuras de telecomunicaciones y las plataformas de software que brindan servicios en internet. La cuarentena global es posible porque podemos conectarnos a internet e interactuar con los servicios en la red. A tal punto que valoramos el trabajo de servicios como Rapi o Pedidos Ya, plataformas de distribución comercial que representan los máximos exponentes de la flexibilización laboral y el desconocimiento de los derechos del trabajador que nos toca el timbre para entregarnos el “delivery”.

Es muy común encontrar notas periodísticas que hacen referencia a los algoritmos. Ya sea en la sección de economía, tecnología o estilos de vida, estos procesos matemáticos se han convertido en poco tiempo en una pieza fija de nuestra cotidianidad informativa.

A medida que los algoritmos son los “agentes inteligentes” invisibles en la redefinición del mundo digital, es urgente hablar de cómo alertar a los ciudadanos de los impactos de sistemas de datos que toman decisiones sobre nuestras oportunidades, derechos y posibilidades vitales. Si un día te niegan la prestación de un empleo, la atención médica, el ingreso al sistema bancario, el acceso a becas de estudio o contratos de tú vida laboral porque lo dicta un algoritmo, ¿a quién podemos acudir?

Un algoritmo al igual que los datos con los que se entrena, pueden estar sesgados desde su propia conceptualización. ¿La sociedad algorítmica reproduce los conceptos del modelo de distribución de la riqueza y la desigualdad en el acceso a los conocimientos?

Varios autores, en particular Cathy O’ Neil en su libro “Armas de destrucción Matemática”, han denunciado que los desarrollos de estos modelos embebidos en el software no cuentan con regulación de los Estados. Así, van creando una sociedad dual en la que los ricos cuentan con el privilegio de una atención personalizada, humana y regulada mientras que a los grupos vulnerables se les condena a los resultados de “maquinas inteligentes”, en el que no existe transparencia, derechos ni procedimientos claros para apelar las decisiones algorítmicas.

Los algoritmos conforman un sistema de puntuación. Si tú puntuación es suficientemente elevada se te da una opción, pero si no la consigues se te deniega. La puntuación algorítmica, puede ser para ser candidato a un puesto de trabajo o la admisión a una institución educativa, una tarjeta de crédito o una póliza de seguros. El algoritmo te asigna una puntuación de manera secreta, no se puede entenderla, no se puede plantear un recurso. No conocemos su funcionamiento. Utiliza un método de decisión que no se conoce públicamente.

Sin embargo, no solo es algo injusto para el ciudadano, sino que normalmente este sistema de decisión es algo destructivo también para la sociedad. Con los algoritmos estamos tratando de trascender el prejuicio humano. Si fracasan, provocan que la sociedad entre un bucle destructivo, porque aumentan la desigualdad progresivamente. Pero también puede ser algo más preciso. Puede ser un algoritmo para decidir quién accede a la libertad condicional, uno que determina qué barrios sufren una mayor presión policial en función de la presencia de estereotipos configurados en datos de entrenamiento del algoritmo.

Muchas de estas cuestiones merecen una reflexión social profunda y la articulación de consensos tecno políticos y sociales sobre qué es y qué no es aceptable y deseable. Para empezar a articular estos consensos hacen falta herramientas que nos ayuden a entender qué es lo que está ocurriendo. ¿Contar con información pública sobre el comportamiento de los algoritmos y los datos de entrenamiento puede ser esa herramienta?

Comprender los alcances de los algoritmos y sus contextos de aplicación, nos ayudará a comprender como la digitalización de la vida cotidiana y nuestra relación con las plataformas y servicios digitales está orientada por una infraestructura de cómputos que conforman el proceso de los algoritmos. Por ello, se hace necesario comprender, discutir y criticar la manera como los algoritmos, que no conocemos, marcan nuestros días.

Se define algoritmo como "un conjunto ordenado y finito de operaciones que permite hallar la solución de un problema”. Estas acciones se entrenan con datos para obtener conclusiones y conocimientos.

La expansión de los métodos de cálculos expresados como algoritmos, algunos disponibles desde 1950, se debe en gran parte al encuentro del software (aplicaciones APP), las capacidades de procesamiento a gran escala y el ancho de banda creciente de internet hoy configuran el territorio del Big Data.

Los cálculos penetran tan íntimamente en nuestras vidas, que no logramos percibir con claridad como conducen nuestros datos a infraestructuras estadísticas ubicadas en lejanos servidores. Así, un número creciente de dominios de conocimientos como la cultura, el conocer y la información, la salud, la ciudad, el transporte, el trabajo, las finanzas e incluso el amor y el sexo son mediados por algoritmos.

La primer gran expansión de Facebook coincidió con la primera crisis económica del año 2007, que potenció el desarrollo de servicios de plataformas digitales orientados a la individualización, orientación y guía de cada navegante de internet. En el 2015 Facebook tenía 1.350 millones de usuarios registrados, que se comunicaban en 70 idiomas y utilizaban 50.000 servidores (computadoras de alta capacidades de procesamiento y almacenamiento). Facebook se ha constituido así en uno de los “dueños de Internet” controlando Instagram desde el 2012 y Whatsapp desde el 2014; un enorme negocio que representa más de 25.000 millones de dólares anuales y un volumen de datos muchísimo mayores a los millones de dólares estimados.

El valor político del flujo de datos permanente de esta plataforma digital, fue visible en el 2013 cuando la Agencia de Seguridad Nacional de USA reconoció la utilización de Facebook para el seguimiento de ciudadanos que aportaban sus datos “inocentemente”, información que durante años había sido un objetivo de los trabajos de inteligencia.

Algo similar sucede con los buscadores como Google que llevan invisibles cookies (pequeños softwares con algoritmos) que permite identificar al usuario y trazar un mapa de su navegación por las webs y profundidad de penetración en cada una, estos datos configuran nuevos productos del negocio digital.

La cuarentena en la que habitamos, nos pone en contexto de teletrabajo, teleeducación, tele entretenimiento, video conferencias; todas las relaciones sociales a través de una pantalla de un dispositivo que se conecta a internet.

Dos dinámicas avanzan para hacernos entrar en una “sociedad del algoritmo”. La primera es la digitalización de la sociedad con demanda creciente de los ciudadanos de ser incluidos; la segunda el desarrollo de los procesos. Estos últimos, mediados por software, entregan a las computadoras/servidores las instrucciones matemáticas para clasificar, ordenar, agrupar, predecir, tratar, agregar y representar la información por medio de datos cada vez más desapercibidos.

Los desplazamientos de personas, los tickets de compras, los clics en Internet, el consumo online, el tiempo de lectura de un libro digital, el tiempo de escucha de música y permanencia en video por demanda; son cifrados por algoritmos, algoritmos que clasifican y predicen nuestro consumo presente y futuro.

Omnipresentes en nuestras vidas, los algoritmos son presentados como “misteriosos” a nuestros conocimientos por no saber de su existencia y funcionalidad. Una nueva religión con nuevos actos de fe. Raramente nos cuestionamos cómo estos procesos de lógica y cálculo se producen y la visión de mundo que conllevan.

La sociedad digital ubicó a los ciudadanos en el lugar del consumidor digital, sabemos operar dispositivos y consumimos los contenidos a través de las aplicaciones. No conocemos los procesos y los procedimientos que regulan la sociedad digital. Por ejemplo, que los algoritmos usados por los gigantes tecnológicos, conocidos como GAFAM (Google, Amazon, Facebook, Apple y Microsoft), no sean siempre justos en las decisiones que toman.

Los algoritmos operan dentro de "cajas negras", no conocemos sus funcionalidades. El valor que mueve el cálculo algorítmico no es otro que el de la personalización, el del individualismo. Este sesgo en la confección del software que implementa el algoritmo responde a modelos políticos y culturales de relaciones sociales y distribución del conocimiento y la riqueza. Esos sesgos también pueden afectar a decisiones como el seguro médico u obra social o prepaga, la escolaridad o el registro criminal, la aceptación a una candidatura laboral. Los datos no hablan más que en función de los cuestionamientos e intereses de quienes los interrogan.

En la cultura actual, los cálculos algorítmicos atrapan deseos de libertades y servicios personales; donde los individuos por medio de sus representaciones, ambiciones y proyectos, se piensan como sujetos autónomos, por fuera de modelos políticos incluyentes o excluyentes.

Es necesario construir otras políticas públicas para la sociedad de los algoritmos. Los procesos y sesgos deben estar explicitados para los ciudadanos, como alertas en el mundo de internet y en la Estadística Estatal. El Estado tiene que garantizar a los ciudadanos la visibilidad pública sobre la conducta de los algoritmos y los datos de entrenamiento.

Es necesario conocer la visión política y cultural que se implementa en los procesos algorítmicos y el sesgo de los datos que arrojan resultados como verdades. Hay que instalar una mirada crítica al funcionamiento de los cálculos ocultos. Es necesario conocer qué sentido y objetivo implementan los algoritmos. Estos sentidos configuran un posible mundo donde el reconocimiento de los méritos no encuentra trabas; donde la autoridad se obtiene únicamente en torno a la calidad y a la resiliencia.

Las GAFAM persiguen instalar un ambiente tecnológico invisible que permita a las personas orientarse, sin contrariarlos. Gran parte de nuestras elecciones diarias, son efectuadas por una infraestructura socio-técnica; comprar un pasaje de avión, traducción automática de lenguajes, encontrar el mejor restaurante, conseguir una cita personal, llenar la heladera o cargar la SUBE (tarjeta digital para utilizar transporte público en Argentina).

Con el GPS hemos perdido el paisaje. Los algoritmos guían nuestras preferencias y atan nuestras elecciones. Vuelven realidad el sueño liberal de la elección sin ataduras, pero este sueño esconde también su contracara. Una libertad algorítmicamente pautada.

________________________

- Alfredo Moreno es Profesor TIC en Universidad Nacional de Moreno

@ticdata2