Tiempo digital
Emmanuel Biset
En el castillo de Francisco José aún se encienden velas, ¿comprende? Seremos destruidos por la electricidad y la nitroglicerina.
Joseph Roth
Pasado
¿De dónde viene la cosa?
En un libro escrito en el año 1964 titulado El gesto y la palabra, André Leroi-Gourhan sostiene que la hominización es el resultado de una revolución mecánica y biológica producida cuando nos paramos en dos pies: al liberar las manos de su función de locomoción, empezamos a producir herramientas. Una definición de ser humano: bicho que produce herramientas, bicho producido por esas herramientas. Siempre atentos a nuestra diferencia singular, a lo que nos distingue de un mundo animal menospreciado, una vieja tradición encuentra en la mediación técnica el origen del ser humano. Para responder a ese pequeño trauma de considerarnos únicos en el universo, tan especiales entre los infinitos existentes de galaxias y galaxias, se narra la historia de un proceso de exteriorización de las facultades biológicas en dispositivos técnicos.
En esta larga historia no se trata solo de indagar cómo el ser humano va inventando dispositivos técnicos para sacar de su cuerpo funciones —la memoria en el papel o la fuerza en el martillo—, sino de cómo esas herramientas también van modificando lo que somos. Una historia de lo que hacen los artefactos con nosotros: del papiro a la imprenta, de los medios de comunicación a los agentes de inteligencia artificial. Contar esa historia es una de las cosas que podemos hacer para entender qué está haciendo la tecnología con eso que somos y de qué otro modo podemos ser. Uno cuenta historias para tratar de entender. Uno cuenta historias para mostrar alternativas. Uno cuenta historia, al final, porque también somos animales que narran.
Todo esto para contar una historia posible de lo que está haciendo la tecnología con nosotros. Puesto que siempre fuimos ese bicho conformado por la técnica, la pregunta es cuáles son las técnicas actuales que nos están conformando. Sobreabundan textos catastróficos que ven en la tecnología una profunda deshumanización, nada nuevo, por cierto; sobreabundan textos optimistas que postulan una utopía de liberación. Aquí se trata de otra cosa, ni catástrofe ni utopía: comprensión histórica. Si estamos horas mirando la pantalla del celular, si los agentes de inteligencia artificial están modificando nuestro trabajo, si las plataformas modelan nuestros deseos, si producimos datos todo el tiempo para ser apropiados, si todo esto: ¿qué explicación podemos encontrar?
En un libro titulado Discriminating Data, Wendy Chun sostiene que debemos remontarnos hasta el siglo XIX para comprender las raíces de nuestros algoritmos que segmentan a partir de la correlación de patrones. El punto de partida es una transformación mayor en el modo en que ordenamos el mundo: el paso de la causalidad a la correlación. Si la ciencia, tal como nos enseñan, busca explicar el mundo a partir de causas y efectos, en la actualidad el big data opera estableciendo correlaciones entre datos. La correlación mide cómo varían juntas dos o más variables; si disminuyen o aumentan juntas, están altamente correlacionadas; si no lo hacen, su correlación es negativa. Hace casi 20 años Chris Anderson señaló que la correlación es el acta de defunción de la teoría. Lo importante de la tesis de Chun es esto: para entender esta transformación hay que remontarse a la eugenesia como la génesis de la correlación y la regresión lineal. Y esto implica volver a un nombre propio: Francis Galton. Preocupado por mejorar la raza humana, sostenía que si en el mundo animal y en el mundo vegetal es posible mejorar la genética mediante un cruce calculado de especies, se puede hacer lo mismo con el ser humano. La cuestión era cómo crear una herencia a partir de la correlación de patrones que mejoran la raza. Los eugenetistas, de Francis Galton a Karl Pearson, ya asumían que es necesario recopilar una enorme cantidad de datos de la población que dependía de las estadísticas nacionales. Solo así sería posible documentar mediante gráficos que muestren cómo se produce la transmisión de rasgos.
La eugenesia, fuente primigenia de la genética, estaba atravesada no sólo por una preocupación en torno a la raza, a mejores y peores razas, a razas puras o razas callejeras, como los perros, sino por una determinación de correlaciones que tiende a reproducir aquello que supuestamente encuentra. Dicho de otro modo, la eugenesia se funda en una lógica de la segregación que produce las correlaciones que supuestamente descubre. El problema siempre fue, entonces, qué patrón se correlaciona con qué patrón y cómo en esa correlación existe una decisión. Y esto es fundamental porque los algoritmos que en la actualidad procesan cantidades abrumadoras de datos buscan identificar correlaciones de patrones que permitan predecir comportamientos. Los datos nunca son simplemente datos, pura información disponible, sino que dependen de un registro y las correlaciones que se establece entre ellos.
De modo que nunca se trata de tecnología a secas, sino de una cierta tecnología: un pasado que se materializa en formas actuales. Si el núcleo de la racionalidad de nuestro mundo es la correlación de patrones, que tiene el doble estatuto de reconocimiento y predicción, entonces se trata de una forma del pasado que se materializa en una lógica de la segregación y que tiende a crear vecindarios digitales de gente que piensa parecido. En la correlación de patrones, los algoritmos identifican individuos supuestamente similares y los agrupan. Se correlacionan rasgos, se infiere pertenencia a un grupo y se predice comportamientos futuros. Por ello, los usuarios son agrupados en vecindarios según sus correlaciones de comportamiento, el algoritmo te pone cerca de quienes se te parecen y te aleja del resto, heredando los sesgos de los datos de entrenamiento. Al final del día es reconfortante encontrarse con tanta gente como uno, tan parecida, que piensa y siente tan bien. La cosa es que esto materializa en dos sentidos el pasado: primero, porque el aprendizaje en la correlación de patrones surge de las formas en las cuales la tradición ha ordenado el mundo, que no se ha caracterizado por evitar los prejuicios que segregan. Oh casualidad, nos encontramos con una inteligencia sintética que reproduce al infinito esos mismos prejuicios. Hoy le llamamos sesgos. Segundo, porque es un tipo de razonamiento el que ordena ese mundo; su corazón es la correlación que destituye la causalidad. Pero la correlación, hay que insistir en esto, es un tipo de razonamiento, solo una forma de construir inteligencia. La IA es pasado. Una forma del pasado. No more.
Presente
¿Cómo sigue la cosa?
En un libro titulado The Smartness Mandate, Orit Halpern y Robert Mitchell ensayan una historia de la inteligencia que focaliza en un desplazamiento significativo producido alrededor de la década del 70. Si hace tiempo venimos midiendo patrones, hace falta pensar dos cosas: qué cosa es susceptible de medición y qué hacemos con lo que medimos. Más que una epistemología de la correlación, es necesario identificar una epistemología de la inteligencia (smart más que intelligence) que se fue conformando desde múltiples discursos: la ecología, la biología, la informática y la economía. Desde esta epistemología que conforma en buena medida la racionalidad del mundo actual, el cálculo en tiempo real y a corto plazo produce un proceso autorregulador basado en la optimización y la resiliencia. En buena medida, hay que entender la inteligencia en oposición a la razón: si la razón construye un tipo de sujeto que calcula en una teoría de los juegos, la inteligencia asume la crisis como la condición normal producida por múltiples agentes que interactúan de modo complejo, donde solo es posible optimizar resultados.
La cuestión fundamental es que la recopilación de información de una población, delegada en principio en el mercado, adquirió un nuevo sentido con la computación ubicua. La informática empieza a competir con el mercado como lugar para recopilar información de la población. La premisa fundamental es que la computación de alta gama puede construir modelos desde ese conocimiento distribuido de la población. En este sentido, el concepto de inteligencia surge para dar cuenta de un tipo de racionalidad que ya no surge de una experiencia centralizada y única, sino de las poblaciones como entidades de aprendizaje. Un ejemplo notable de esto es el algoritmo PageRank de Google, que permite ordenar la búsqueda en un caudal enorme de información, clasificando lo que se muestra a partir dela recopilación de visitas anteriores en cada enlace. Pero entonces: ¿qué modelos se usan para procesar la información? ¿Cómo se define inteligencia? Para entender esto, son centrales dos conceptos: optimización y derivación. La optimización no es una medida absoluta de rendimiento o eficiencia, sino que viene a señalar que, para este sistema, dados estos objetivos y estas limitaciones, la solución óptima es esta. La derivación se entiende desde una lógica donde las poblaciones pueden aprender y modificar su comportamiento: se pueden corregir automáticamente en relación a sus propias operaciones. Aprendizaje automatizado. Nicholas Negroponte decía que la complejidad no se diseña, evoluciona.
En este marco, surge una forma del presente: contra cualquier perspectiva de la catástrofe o la crisis como gran interrupción, ahora la crisis es la nueva normalidad donde los seres humanos deben desarrollar estructuras intensivas de datos que transforman lo que antes era una catástrofe en una posibilidad de gestión. Esta visión se opone a cualquier pensamiento ordenado por la estabilidad o la homeostasis, donde una intervención se orienta hacia lo que puede persistir sin cambios. Pero si el cambio es permanente, si vivimos en crisis, ya no existe presente sin cambios ni estabilidad posible: pasamos del paradigma de la planificación al de la gestión. La incertidumbre y la volatilidad marcan nuestra condición común. En este marco, solo es posible recopilar datos y crear modelos: modernización informativa y planteo de escenarios posibles. Gestionar para adaptarse.
Esta gestión surge de una forma particular de especulación temporal generada por la lógica de las versiones y la creación de prototipos. La tecnología se construye sobre el tempo de los demos o las versiones beta. Entre la obsolescencia programada y la actualización permanente nunca existe un producto acabado, solo hay versiones preliminares. El presente tiene la forma de una actualización de versiones beta. Somos, cada uno de nosotros, la versión beta de un perfil que nunca termina de actualizarse. El presente, lo único que existe, se ordena según esos parámetros: una lógica de las versiones y una lógica de la actualización. Te ofrezco mi versión 0.1 o la 1.3. Donde la actualización se decide en infinitos decimales, la versión 2.1.4.6.8, que nunca se da por concluida: solo es la espera de una nueva versión. El presente: actualización permanente de nuestro software o hardware.
Y aquí hay una forma del tiempo, ya no el tiempo narrado, sino calculado. Esta forma del tiempo es el presente continuo donde tenemos sensores que capturan datos en vivo, sistemas que responden inmediatamente, políticas que ya no planifican a largo plazo, sino que adaptan sobre la marcha. Esto se puede ver en dashboards urbanos en tiempo real, algoritmos que ajustan decisiones constantemente, gestión de crisis permanente. En un nuevo régimen marcado por la crisis permanente y la adaptación constantes, se debe responder en tiempo real, ajustarse continuamente, vivir en un estado de alerta permanente. Somos un presente imposible: todo debe ser ahora, pero por eso mismo el ahora no existe. Pasamos de organizar reunión por mail a enviar whatsapps a cualquier hora. Y controlar, siempre, si la persona está en línea, si responde, cuanto demora. Tiene que ser ya, pero ese ahora es tantas cosas juntas, multitasking infinito, que nunca puede ser presente. Todo tiene que ser ahora, urgente, presente, precisamente por eso el presente desaparece.
Futuro
¿Hacia dónde va la cosa?
La relación con el futuro se construye en ese movimiento que va de las filosofías de la historia centradas en el progreso, formuladas en la Ilustración pero con antecedentes en la salvación cristiana, a las leyes de la termodinámica, donde la entropía es irreductible. Del progreso a la entropía, he ahí la historia de nuestras formas de pensar el futuro. En este marco, la figura fundamental para entender la relación con el futuro no es la de planificación en un marco de procesos estables, sino la de la predicción. El bueno de Paul Virilio decía que vivimos en una época de accidentes generalizados: crisis constantes, catástrofes cotidianas, inestabilidad permanente. Sin embargo, ahí mismo donde parece imposible los algoritmos predicen y deciden. Por ello, para entender nuestra relación con el futuro, hay que atender especialmente a los algoritmos predictivos. Los algoritmos de preferencias funcionan porque operacionalizan probabilidades a partir de la correlación de patrones. De este modo, no sólo se pueden ver correlaciones entre gustos, clases sociales y preferencias políticas, sino que se incide en ellas. Los algoritmos predictivos tienen un estatuto performativo: no registran correlaciones, las fabrican.
Esto piensa un libro de Elena Esposito titulado Artificial Communication. El punto de partida es simple: dejemos de discutir sobre si esta pantalla que me responde es inteligente o no. Abandonemos el famoso test de Turing. Al final, tampoco sabemos si al saco de huesos y carne que tengo en frente le puedo atribuir inteligencia. Lo que sabemos es esto: con estos aparatos nos comunicamos. Sean inteligencias, sean formas de cognición, sean operaciones de cálculo, no importa, hay comunicación. Comunicación artificial, he ahí la cosa. Y en esta comunicación artificial se produce una forma de futuro. Esposito sostiene que es posible diferenciar entre el modo en que los científicos construyeron herramientas estadísticas para gestionar la incertidumbre del futuro y el carácter adivinatorio de los algoritmos predictivos. La ciencia moderna tenía como objetivo explicar resultados generales; a partir de ello, el cálculo de probabilidades proporcionaba un método certero y una base racional para extrapolar. En este sentido, es un procedimiento que toma datos experimentales recopilados para poner a prueba las hipótesis formuladas. Los datos tienen que ser representativos y están al servicio de la teoría; sirven para validar hipótesis que explican los fenómenos. Por el contrario, los procedimientos algorítmicos recopilan todos los datos existentes y preceden a la teoría; esto es, si existe una hipótesis, se formula a posteriori de la recopilación de datos. Por ello, en el análisis de los datos, no se buscan relaciones causales que confirmen alguna hipótesis (no hay hipótesis). Se busca otra cosa: asociaciones y correlaciones, patrones cuya detección revele estructuras subyacentes y permita formular predicciones efectivas. Desde estos patrones se debería poder predecir desarrollos futuros, aunque no se puedan explicar. El modelo predictivo difiere radicalmente del modelo explicativo. Los algoritmos asumen que se puede predecir sin comprender.
De hecho, los algoritmos predictivos tienen una analogía estructural con las antiguas (y no tanto) técnicas adivinatorias. En ambos casos, no se busca comprender o explicar los fenómenos, sino procedimientos que se guían por técnicas precisas que establecen una serie de pasos a seguir. Las correlaciones se captan identificando patrones en los fenómenos que permitirían obtener indicios de fenómenos correlacionados. Los procedimientos adivinatorios funcionaban; se asumía que era posible vislumbrar la estructura del futuro. Tiene una coherencia y unidad que solo es incognoscible para los humanos. Mirando las formas del cielo o las lineas de la mano, hay patrones ocultos permiten ver el porvenir. Esto mismo se repite en la actualidad, donde el futuro es incognoscible para los humanos, pero no para los algoritmos. En este sentido, si el objetivo de la estadística es gestionar la incertidumbre del presente, el aprendizaje automático aborda el futuro y tiene como objetivo predecirlo: El objetivo es la explicación: cuando se trabaja con estadística, se busca inferir el proceso mediante el cual se generaron los datos. En el aprendizaje automático, por el contrario, el propósito no es explicar los fenómenos elaborando un modelo. En muchos casos, ni siquiera se sabe si puede existir un modelo inteligible, pero la máquina puede funcionar sin él. El objetivo del procesamiento algorítmico no es la verdad, sino la precisión predictiva. En el aprendizaje automático se parte de la suposición de que se está lidiando con modelos «complejos, misteriosos y, al menos, parcialmente incognoscibles». No se busca comprenderlos, sino saber cómo será el futuro en relación con ciertas variables. El aprendizaje automático se enfrenta al futuro e intenta predecirlo con precisión posible, sin que importe demasiado nuestro conocimiento del mundo.
De modo que, a pesar de sus parecidos, la estadística y el aprendizaje automático generan formas de predicción diferentes: la estadística, basada en un conjunto de datos limitados, busca establecer el promedio de los elementos o sujetos implicados, esto es, una proyección general; los procedimientos algorítmicos utilizan gran cantidad de datos, pero no para producir resultados generales, sino para indicar lo que cabe esperar de un sujeto específico en un momento dado. El promedio es reemplazado por la personalización, y por ende la individualización prevalece por sobre la generalidad. Esta individualización solo puede ejercerse en relación con el contexto específico en el que han sido entrenados. Pero estas predicciones, al suponer un recorte de datos (la generación de un contexto específico) más que una muestra acabada de la realidad, son un conjunto que depende de la intervención humana. En otros términos, que trabajen con datos no significa que correspondan con el mundo exterior, sino que “operan” sobre él. Tienen la lógica de la profecía autocumplida: inciden en aquello que predicen, fabrican con sus operaciones el futuro que anticipan. En otras palabras, predicen aquello que es efecto de su propia intervención, y por ello mismo futuros posibles son anulados como consecuencias de su trabajo. La forma del futuro: la predicción. No atendemos lo suficiente a la expresión: algoritmos predictivos. Nuestro enojo, nuestra furia, solo se dirige en la actualidad a las predicciones erróneas. ¿Cómo me puede recomendar estas zapatillas que no van con mi estilo? ¿Cómo me puede sugerir un viaje al caribe cuando he buscado destinos europeos? Maldita máquina ineficiente. Sólo pedimos que nos libere de tomar decisiones y moldee de una buena vez nuestro futuro.
***
El pasado, el presente, el futuro. Ya no son lo que eran. Nunca lo fueron. Al final, hace demasiados siglos que excavamos en torno al tiempo sin saber nunca qué es. Tiempo. Esa quimera. Eso que pasa. O no. Las formas del tiempo, de la espera, de la anticipación, del recuerdo, de la predicción. Materia evanescente. Eso que fuimos, eso que somos, eso que seremos. Conjugación de un verbo. El mundo que fue, que es, que será. Lo único que sabemos, en nuestra tradición, es que el tiempo se come a sus hijos sin piedad. Y que frente a eso nos revelamos, luchamos, buscamos construir otro orden del mundo. Sin embargo, lentamente y sin pausa, el tiempo sigue comiendo a sus hijos. A nosotros o al mundo. A cada cosa.
Y entonces el tiempo es la serenidad del germen de destrucción en todo lo que existe.