LA TÉCNICA, LOS FILÓSOFOS Y LA INTELIGENCIA ARTIFICIAL: LA PELOTA SIEMPRE AL DIEZ
Por Dr. Osvaldo Burgos
Especial para El Seguro en Acción.
- Introducción. Técnica sí; fascinación, no (reflexiones del último filósofo).
Nadie sabe bien qué es un filósofo y hay tantas definiciones de filosofía como estrategias para conquistar a una dama –o a un caballero, según las preferencias- pero en estos tiempos de pensamiento espisódico y a la carta –con fácil fascinación por el menú- pensar reflexivamente se ha tornado una necesidad imperiosa.
“No es el hombre el que tiene que correr, es la pelota” decían hasta no hace mucho los que sabían de fútbol, en una afirmación que hoy casi nadie daría por válida. Ahora se dice: el que no corre no juega. Y hasta don Román, que supo ser el último de los sabios cansinos, formó entre mate y mate un grupo de empeñosos diligentes, que cumplen metódicamente las instrucciones recibidas y corren como si en cada jugada pudieran alcanzar el avión que los lleva a sus euros. Tranquilos, muchachos, tarde o temprano ese avión llegará.
“El mediocampo argentino en Qatar, volaba” dicen ahora los que hablan –generalmente sin saber casi nada- de fútbol. Y entre nutricionistas, estadísticos, técnicos en redes, coach ontológicos y psicólogos sociales, los héroes que levantaban la cabeza, inflaban el pecho y ponían la pelota bajo la suela del botín ya ni siquiera se extrañan. Todos los “premessiánicos” (el Bocha, el Enzo, el tordo Palma) van camino a convertirse en ingenuas imaginaciones poéticas de un fútbol sin algoritmos. Quién sabe, más tarde o más temprano, tal vez el mismísimo Diego camine por ahí. Eso también es una cuestión de tiempo.
En resumen: todas las clasificaciones simplifican, reducen, engañan. Y la más engañosa de todas es la que categoriza algo que ya pasó. Por eso hay quien dice, irónicamente, que si la categorización aristotélica hubiera sido consecuente con sus propios postulados, Sócrates debió haber sido un presocrático. Y está el dato irrefutable de que algunos de los que se tienen por presocráticos vivieron en un tiempo posterior al suyo.
La cuestión es que si hablamos, en filosofía, de parar la pelota, mirar el paisaje y pensar antes de seguir (pero, ¿cuánto tiempo marca ese “antes” en un juego de “tiempo real”?) el último jugador global “de medias bajas y camiseta afuera” fue Martin Heidegger. Algunos dirían: no señor, fue Ludwig Wittgenstein. Pero todo el esfuerzo intelectual de Wittgenstein era por limitar la expresión del pensamiento, por clarificar lo dicho, por hacer más eficiente el decir. Y la premisa de Heidegger era, en contraposición, la de ampliarlo. Pensar lo que queda por pensar. Anticipar la jugada que viene.
Precisamente, con la “fantasía” de esa anticipación de la jugada –que no es, sino, la imaginación de las consecuencias y la continuidad previsible de lo que hacemos en el ahora en el que estamos- decía Heidegger hace ya ochenta años, que la pretensión de negar la técnica resulta tan absurda como la insistencia en fascinarse por ella. Nosotros también somos un producto de la técnica de nuestro tiempo. Luego, así como negarnos no nos conduce a nada, encantarnos de nosotros mismos parece ser una actitud vergonzante, propia de la ignorancia más supina.
De lo que se trata, según este gran pensador alemán, es de abrirse a la técnica sin incondicionalidades. Receptarla, recibirla, incorporarla, pero resistir críticamente su pretensión de omnisciencia. En la vida hay que calcular todo el tiempo, eso está claro. Pero cuando resignamos la reflexión en el altar del cálculo, cuando sustituimos criterios por parámetros, cuando olvidamos que la optimización, la efectividad, la utilidad o la eficiencia son valencias y no valores –en el sentido en que aluden a mediciones cuantitativas y no a apreciaciones cualitativas- estamos perdidos. Y esta sí que es una afirmación certera.
- Nueve gigantes tecnológicos. Toda la información del mundo.
La observación es simple: la certeza (finalidad última del cálculo) es una variable sujeta a mediciones de probabilidad y, por lo tanto, numéricamente demostrable. Sin embargo tener certeza sobre algo nada dice de su valoración, y ahí la cosa se complica un poco. Si una certeza tengo, al menos yo (no sé ustedes, diría don Román) es la de que un día me voy a morir; pero eso no quiere decir que considere que la muerte sea una buena cosa.
Simplemente, implica que aún en ese caso –en el que se trata de una certeza parcial, porque sé que alguna vez va a suceder, pero no sé cuándo- tener una certeza me ofrece la posibilidad de diseñar una “estrategia de juego”. En concreto: decidir qué es lo que voy a hacer y ser antes de morirme.
No obstante, ese diseño es imposible sin un pensamiento reflexivo (con el pensar calculante no alcanza, diríase en términos de Heidegger) porque las opciones válidas a considerar podrían ser tan imposibles de reducir a un criterio único como la de “vivir cada momento con intensidad” ( el viejo y querido “enjoy the moment”) y la de salir a matar a otros que considero que debieran morir antes que yo.
El pensar calculante funciona con información, esa es su materia prima. Pero qué información vamos a proporcionarle o a permitirle recabar es fruto de una decisión de pensar reflexivo.
Siempre fue así. Lo que ha cambiado, ahora (además de la celeridad y la magnitud del proceso que factibilizan y alientan su pretensión de omnisciencia) es que toda la información del mundo está en manos de un número muy reducido de “jugadores globales”. Y esa es una regla que modifica sustancialmente los márgenes del juego de las valoraciones y de las valencias por el que vamos a regirnos. Y que no siempre tenemos presente aquí.
Hablo de GAFAM y de BATX, claro. Dos acrónimos, todo el tráfico de internet del mundo (en rigor, el 97%)
- GAFAM es el “nombre de fantasía” para el oligopolio que forman Google, Amazon, Facebook, Apple y Microsoft.
A veces, según los parámetros que se consideren, a esta lista se suma Netflix; que suele reemplazar a Microsoft, cuando la idea es nombrar a las empresas absolutamente dominantes en su mercado. Entonces GAFAM pasa a ser FAANG. Otras veces, Google integra este colectivo inoficioso con su “nombre oculto” –que es en realidad, el nombre de su casa matriz-: Alphabet. Y las letras se reorganizan para dar lugar a FAAAM o FAAAN, según se prefiera. Ya lo sabemos; todos los héroes tienen superpoderes. La alteración del nombre y la sustitución a voluntad de partes de su cuerpo inabarcable, son solo dos de los más populares
- BATX, es el acrónimo que resulta de nombrar por sus iniciales a los gigantes chinos de internet: Baidu, Alibaba, Tencent y Xiaomi. Y acá no hay dudas.
Como tampoco hay dudas respecto a las grandiosas dimensiones del “ecosistema” que, según los especialistas, conforman estas nueve compañías que –desde su situación física en alguna de las dos potencias mundiales en pugna- condicionan nuestra vida, vivamos donde vivamos y seamos, o no, usuarios conscientes de sus servicios.
Para citar un ejemplo, nomás, podríamos reparar que en el año 2019, el PBI de Alemania, por caso, resultó sensiblemente inferior a los números que arrojó la capitalización combinada de las GAFA –sin contar a Microsoft ni a Netflix-.
Por supuesto que el hecho de que la potencialidad de las corporaciones sea escandalosamente más grande que la de los estados –aún que la de los estados más grandes- además de enviar la más obscena de las desigualdades hacia el interior de las fronteras (haciendo que la distancia entre residentes de un mismo país sea mayor a la distancia entre países) supone la consideración de ciertas consecuencias funestas. Y acá no es una cuestión de pesimismo filosófico sino de observación científica. En términos de futuridad (imaginación del futuro) una concentración semejante necesariamente implica, entre otras tantas cosas:
- El retraso del saber académico a disposición de la sociedad con respecto al saber organizacional privado, por migración de los recursos humanos más valiosos hacia las gigantescas sedes empresariales que los captan.
- El desconocimiento público de los avances alcanzados en las investigaciones desarrolladas dentro del marco de las empresas, en tanto las mismas tienen lugar bajo estrictos acuerdos de confidencialidad.
- La sujeción lisa y llana de la investigación científica a intereses comerciales y geopolíticos.
- Las dificultades en la transmisión del conocimiento a las generaciones futuras.
- El mundo del bebé-imagen
Particularmente, esta última afirmación es la que a mí más me preocupa. La doble pregunta en la que puede resumirse es: ¿cuál es el legado social que vamos a transmitir y cómo vamos a transmitirlo? No obstante, su consideración nos obliga al tratamiento de una cuestión previa. Y esa cuestión previa nos exige, a su vez, una definición clara: ¿transmitir el legado, a quién?
Entre la caricatura, el posthumanismo y la ciencia ficción, las futurizaciones (proyecciones) de los hombres por-venir (es decir de nuestros hijos y nietos) se despliegan en un elenco amplísimo. Tal vez una de las más interesantes sea la del bebé-imagen de Gerard Wacjman. En pocas líneas podríamos resumirla así:
- Los niños (y también las niñas, desde luego) nacen ahora al ser en la imagen, por la mirada: “la mirada puesta en el feto crea al niño”, afirma Wacjman.
Pero además, reciben el ser como imágenes. De modo que el problema, respecto a ellos, no se agota en el En sino que se extiende, también, al Como.
- Cuando por fin están aquí, para que se los filme en su primer llanto, el video que inmediatamente se comparte, es cotejado, comparado, correlacionado –por todos y cada uno de quienes lo reciben o acceden a él, desde cualquier lugar del mundo y sin importar lo que estuvieran haciendo al momento de recibirlo- con la ecografía filmada que se compartió antes.
- Se inaugura entonces un sondeo de opinión, más o menos cerrado, cuyos resultados tienden hacia la uniformidad: el niño generalmente se parece a sí mismo. Es decir, nace actuando el retrato del feto que fue.
Ahora lo sabemos: todo ese maravilloso proceso –por el que se llega a la vida, nada menos- resulta posible únicamente por la “desinteresada”, gratuita y gentil mediación de uno o algunos de los gigantes tecnológicos: GAFAM o BATX. La conclusión filosófica podría ser la siguiente; hoy, las cámaras son al cuerpo lo que los sondeos de opinión al espíritu. Soy mirado; luego, comparto y opino. Y, en la medida en que me comparten y opinan sobre mí, existo.
Sin embargo (más allá de los recién nacidos bebés-imágenes) visión, difusión y comentario ocurren en un mismo y único acto: mientras opino y comparto, hay alguien que me mira. O, al menos, una cámara que me enfoca –la del mismo dispositivo por el que estoy expresando mi opinión de lo que veo- y comparte lo que ve.
En el mundo que nos toca, que hicimos y que nos hace, hay casi tantas suscripciones a teléfonos móviles como habitantes. Miles de millones, con una continua y acelerada tendencia a aumentar.
“Éramos pocos y parió la abuela” afirmaba un refrán que mi abuela, la sabia, solía repetir por lo bajo (hoy probablemente alguien la filmaría y viralizaría su protesta) los domingos en que la cantidad de parientes en su casa la abrumaba y llegaba alguna familia más. ¿Y qué parió la abuela, en este caso? Sesgos, desviaciones de aprendizaje, discriminación. Y mientras nos acomodábamos a eso, una “bendi” inesperada: el chat IA.
- Amazon y su selector de personal. El reconocimiento facial en el Instituto Técnico de Massachusetts
De modo que antes de pasar a saludar a “la bendi” y concluir después estas brevísimas líneas –que ninguna intención tienen de agotar siquiera la introducción al tema- es necesario hacer un rodeo por los sesgos, las desviaciones y la discriminación que venimos cargando. Propongo, para eso, sobrevolar dos casos no judicializados, que las mismas organizaciones involucradas (un gigante de internet y un instituto científico) dieron a conocer.
- Vamos con Amazon. A9, era un selector algorítmico de personal que esa empresa puso en marcha en el 2014, con la pretensión de que escogiera cinco de cada cien postulaciones procesadas (es decir, que rechazara el 95% de las solicitudes, en cada operación de cálculo en la que interviniera).
Para eso, se le ingresaron como datos de inicio, todas las postulaciones recibidas por la empresa durante los diez años precedentes, y los criterios de selección que guiaron su tratamiento en cada oportunidad. De modo que aceleradamente –como corresponde a su configuración algorítmica de excelencia- A9 detectó dos cuestiones que interpretó como claves de su “aprendizaje” autónomo:
- La enorme mayoría de los postulantes de años anteriores eran de sexo masculino.
- También eran hombres todas las referencias ofrecidas por los postulantes finalmente seleccionados.
Dos más dos son cuatro, palo y a la bolsa. Sin atender a la causa de esa particularidad (el hecho de que, en sus comienzos, la comercialización remota era una actividad casi exclusivamente masculina) y contrariando lo que en filosofía se conoce como “el principio de Hume” (no hacer de lo que simplemente es, un deber ser) el empeñoso A9 generó una correlación no predispuesta y “aprendió” que las mujeres no eran aceptables como empleadas de Amazon. Y fue por más: descartó, en el mismo paso, a todos los postulantes -varones o mujeres- cuyas solicitudes de empleo incluyeran el vocablo “mujer” u otros del mismo grupo de “términos clave –por ejemplo, en el nombre de una institución en la que hubieran trabajado antes-. Apenas un año después (en el 2015) Amazon lo condenó al retiro, haciendo pública su prescindencia.
- Y ahora, seguimos con el MIT. Algunos años después del retiro sin gloria del A9, el Instituto Tecnológico de Massachusetts desarrolló y puso en funcionamiento un modelo algorítmico de reconocimiento facial que, según una de sus propias investigadoras constató, no lograba identificar a los investigadores de piel oscura. Y que, consecuentemente, les impedía el acceso a determinadas bases de datos, fundamentales para el desarrollo de su trabajo.
La explicación era simple: la abrumadora mayoría de los investigadores del Instituto en cuestión -cuyas fotografías conformaron el universo de los datos iniciales del sistema- pertenecían al grupo de “blancos caucásicos” y entonces, el algoritmo procesó la piel oscura como una anomalía. No obstante, la pregunta que esa irregularidad lógica inaugura resulta ser más simple aún: si esto pasó en el MIT; ¿dónde no pasaría?
Intentando ser todavía más directos, diríamos: si un modelo de reconocimiento facial, puesto en funcionamiento en uno de los sitios de mayor desarrollo tecnológico del mundo, negó a los investigadores el acceso a sus fuentes de investigación; ¿qué otras cosas podrían negar o imponer, modelos de reconocimiento facial más obsoletos, con menor tecnología, operando sin ningún tipo de auditoría, actualización ni control, por ejemplo, en los tribunales de provincia de nuestros países pobres y obscenamente inequitativos?
“Mejor no hablar de ciertas cosas” dice Luca. Y yo lo sigo.
- Bienvenida, bendi. ¿En qué puedo serte útil?
Volvamos a decirlo, por si hiciera falta: es insostenible estar en contra de la técnica, en tanto nosotros mismos somos producto de la técnica, en nuestras perspectivas sobre el mundo. Pero es igualmente insostenible la fascinación y la euforia por su pretensión omnisciente. Esa fascinación y esa euforia que ahora se han visto radicalizadas por un coro global de loas y elogios a los distintos modelos de chat IA, todavía en faces de prueba.
Pensémoslo desde acá, si les parece (mientras el chat sigue “entrenándose” gratuitamente con nosotros y nos pide la enésima disculpa): en un país con escuelas secundarias que siguen otorgando títulos de “perito mercantil” –y emplean a una enorme cantidad de profesores de distintas materias, en los cinco años que los adolescentes tienen que transitar para llegar a semejante galardón- aparece de pronto una tecnología que amenaza con hacer virtualmente sobreabundante el trabajo de todo lo que tenga que ver con cálculos y tramitación no reflexiva: empleados contables y bancarios, administrativos, contadores, empleados de estudios jurídicos y abogados que se limitan a rastrear modelos, copiar, pegar y escanear escritos.
Parafraseando una de las más famosas citas de Bertolt Btecht, podría hablar por los abogados (y los jueces) que es lo que conozco: primero prescindimos de la idea de que nuestra profesión exigía un esfuerzo intelectual. Pronto el chat IA prescindirá de nosotros, pero será demasiado tarde.
¿Quién va a trabajar y de qué? ¿Y cómo afectará esta incertidumbre reflexiva -que el afán de certezas calculante porta- al sistema educativo, al mercado de seguros, al espacio de interrelación política en el que nos relacionamos unos con otros? ¿Hay alguien pensándolo? Sí, claro. Los gigantes que concentran el 97% del tráfico global de datos tienen un futuro previsto para cada uno de nosotros. Así, en masa. Con la estabilidad de los grandes números.
El tema es que nosotros lo desconocemos. Y en cuanto podemos atisbarlo, no parece que sea algo para festejar. O al menos, eso debiéramos tener como posibilidad antes de seguir brindando a cuenta.
- Final con deseo
Algo resulta obvio, desde hace tiempo: ya no hablamos de lo que viene, sino de lo que está.
Es domingo. La casa de mi abuela la sabia se llenó de gente. Y ese es (como la técnica) un proceso sin reversión ni reseat. Luego, cuando todo parece técnicamente posible, lo que urge es definir qué es lo que vamos a tener como éticamente deseable. Regular el uso.
Ahí abajo, en la cancha, los muchachos corren obedeciendo directivas y persiguiendo sus euros, como autitos chocadores. Sin gestos, desde el palco, don Román cambia la yerba y mira.
“Estás desorienta’o y no sabés, qué trole hay que tomar, para seguir”, al fondo, la voz del Polaco –el de verdad, el único- suena inoxidable. No, Polaco, no dan ganas de balearse en un rincón, ni nada de eso. Faltaba más. Los desafíos se afrontan, el mundo se acomoda y sigue; mañana es mejor, siempre.
Solo dame un minuto que voy hasta Arroyito a ver si lo encuentro al tordo Palma (el único jugador por el que Diego dijo que pagaría una entrada). Hoy, más que nunca, nos hace falta uno que la pare con el pecho y escondiéndola abajo de la suela, levante la cabeza y marque el pase. No todo son euros, no todos son aviones. Hay que pensar en nosotros y en los menos nosotros de nosotros, que tanto cálculo sin reflexión va a alejar de la tribuna, a dejar en la calle.
Y entonces sí, como bien dice el trapo azul de la popular de Génova, acelerar el pulso y arrancar (otra vez arrancar) desde el amor. Es decir; desde la solidaridad, desde la equidad, desde la justicia. Para que, por una vez al menos, lo que se optimiza, lo que se hace más eficiente y eficaz no sea (como vienen denunciando en el norte autoras como Caty O’Neil o Virginia Eubanks) la exclusión jurídica, la negación de derechos, los números del desamparo.
