"¿Quién quiere que yo quiera lo que creo que quiero?
Dime qué debo cantar, oh, algoritmo
sé que lo sabes mejor, incluso que yo mismo..."
(Jorge Drexler, 2022).
Nuestras elecciones y preferencias personales se muestran cada vez más intervenidas por aplicaciones, plataformas y redes que nos ofrecen información acorde a nuestro perfil; por eso, llega un punto en que empieza a hacerse difícil distinguir entre lo que deseamos y buscamos y lo que nos oferta el algoritmo. Entonces, surge la pregunta claramente explicitada en la canción de Jorge Drexler: “¡Oh, algoritmo!” ¿Cómo pretender que nuestro cerebro no experimente cambios a partir del uso incesante de la tecnología que nos escanea día y noche? Y a partir de eso, ¿cómo distinguir cuánto de lo que creemos elegir es producto de nuestro deseo o se reduce a una mera acción de optar entre una oferta de información preestablecida que nos resulta familiar o amigable?
Estos y otros muchos interrogantes recorren el libro de Miguel Benasayag y Ariel Pennisi “La inteligencia artificial no piensa (El cerebro tampoco)”, de reciente aparición; y lejos de propender a la tecnofobia, invita a pensar-nos para descubrir las diferencias entre lo que el algoritmo hace y lo que el cerebro desea.
Cerebros y celulares
“Desde hace unos años, todo mi trabajo antropológico y psicológico, gira en torno a qué pasa en nuestro cerebro y también socialmente, con las máquinas digitales. Hay un error fundamental cuando pensamos que todas estas máquinas y el celular, que en realidad es una computadora, no nos modifican o que seguimos siendo los mismos antes y después de usarlas”, señala Benasayag, en diálogo con el programa A la Vuelta (Radio 2).
Su trabajo se centra en investigar cómo estas máquinas tan potentes cambian la sociedad y nos cambian a nosotros de forma profunda, inclusive cerebralmente. “No se trata de juzgar si está bien o está mal usarlas –aclara– sino de decir: «Ojo porque no estamos utilizando una herramienta de trabajo que al final del día, dejamos en su sitio, sin consecuencia alguna. Hay una potencia tecnológica nueva que nos está modificando como individuos y como sociedad”.
En ese sentido, apunta al protagonismo del celular/computadora: “Nosotros creemos que el útil de comunicación es secundario y que vamos a guardar el mismo contenido, la misma relación, con un útil o sin él; pero en realidad, ese útil interviene en una comunicación que impide la relación. Nos aisla dentro de algo que rebota, sin encuentro con el otro”.
La palabra dicha, a veces, es “una parte chica de lo que está pasando”. Y en la máquina, lo único que queda es la palabra dicha, mientras que todo el resto que da sentido a lo que se está diciendo, se pierde.
En línea con esa afirmación, advierte: “Estamos con un retraso en darnos cuenta de que a pesar de lo fascinante que son estas máquinas, están cambiando las cosas. No para ponernos tecnófobos, sino para evitar sufrir modificaciones sin darnos cuenta”.
Lo que nos sorprende y escapa al algoritmo es lo central de la vida.
Algoritmo versus amor
Cuando el algoritmo hace un perfil e identifica lo que nos gusta, propone cosas muy bien apuntadas. Y es ahí cuando uno tiene que darse cuenta de que en la vida, las cosas que coinciden y están bien apuntadas son un poco marginales. "Todas esas dimensiones de lo inesperado –como encontrar lo que yo no sabía que podía interesarme, o hallar algo que realmente no me interesa porque no coincide con mi perfil, pero lo encuentro interesante porque surge en una relación con un amigo, una amiga o una pareja– son nuevas dimensiones que nos sorprenden y que escapan al algoritmo”.
“Todo eso –que es lo central de la vida– queda soslayado con la máquina, porque la máquina es de una racionalidad estricta y nunca le va a proponer a un pescado que compre bicicletas, porque no tiene patas. Y nosotros, las personas, somos así: pescados que nos enamoramos de biclecletas”.
Ideología y algoritmo
Benasayag señala que esta potencia tecnológica que se mueve en base a sistemas algorítmicos lleva implícita una ideología muy clara que es la utilitarista. La que nos manda a ser útiles y a vivir vidas útiles en un mundo donde lo humano se llama “recursos humanos”.
“Se trata de un verdadero «terrorismo» (y sé que no hay que banalizar la palabra) que nos dice: «no tenés tiempo; tenés que hacer cosas útiles». Bajo esta ideología, cada uno evalúa su mundo, su cotidiano en términos de utilidad. Si alguien en un día ganó mil dólares, se dice que estuvo bien. ¿Estamos seguros de que eso era lo que teníamos que hacer? El utilitarismo nos hace funcionar dejando de lado las dimensiones más sutiles y complejas de la existencia. Lo útil es una dimensión menor en la vida, en comparación con el deseo, la curiosidad y lo que sentimos. Una cosa es lo que vemos y escuchamos y otra muy distinta es lo que sentimos” –subraya–. Eso es lo que el mundo algorítmico está aplastando: el mundo de los cuerpos, los olores, las sensaciones.
El investigador refiere que muchos de sus colegas psicólogos, después de la pandemia, siguieron recibiendo pacientes de forma virtual. "Pero no es lo mismo –remarca–. La situación de dos cuerpos que están frente a frente es complicada, tanto para el clínico como para el paciente. Todas esas incomodidades hacen parte de la situación y es en esas dimensiones de la realidad donde hay que anclarse. No para negar la tecnología, sino para darse cuenta de que nosotros vivimos en esas dimensiones”.
El otro es el que nos incomoda (ni mal, ni bien) sino que nos incomoda porque todo lo que hace (gestualiza, suspira, transpira levemente, etc.) forma parte de la situación; no sólo el texto hablado. “Actualmente, la gente desea dejar de lado esas cosas. Hay un deseo de transformarse en su propio avatar”.
“Los poderosos de este mundo se dieron cuenta, a partir de la pandemia, de que pueden encerrar a todos con el miedo. Y allí nos quedamos disciplinados con las pantallas. Y mientras nos quedamos encerrados, los poderes avanzan y ya vemos cómo lo hacen. Tanto en Argentina, como en Brasil, Estados Unidos, Francia, Italia y Hungría, entre otros países. Avanza el neofascismo funcionalista.
La IA: una nueva dimensión de la realidad
La posverdad (distorsión deliberada de una realidad, que manipula creencias y emociones con el fin de influir en la opinión pública y en actitudes sociales) afecta a toda la sociedad y pone en tela de juicio todo lo que se dice o se escribe. Los criterios de verdad, que antes garantizaban que algo era fidedigno, tambalearon y esto incide no sólo en quienes hacen periodismo, sino también en quienes producen y reciben a diario una multiplicidad de mensajes contradictorios y hasta opuestos sobre un mismo tema, con la misma fuerza de “verdad”.
“La tarea periodística es un problema –afirma– porque hay una multiplicación de dimensiones y de información que sumerge a la gente. Yo sigo trabajando como psicoanalista en la clínica, con los pacientes, y se ve que eso causa depresión por fatiga mental muy grande, porque estamos inundados de infromación que no logramos ordenar ni procesar.
Están emergiendo nuevas dimensiones de la realidad: multiplicación de informaciones e imágenes que no sabemos habitar, domesticar ni regular.
Pero también están en la mira los múltiples usos de la inteligencia artificial. Por ejemplo, el caso del estudiante de 15 años de una escuela privada de San Martín, Buenos Aires, que vendió fotos de sus compañeras de colegio, manipuladas a través de inteligencia artificial para exhibirlas desnudas.
¿Qué categoría tiene, desde el punto de vista filosófico, una información (imagen en este caso) producida a partir de la IA? Para Benasayag, no se considera a las dimensiones fabricadas por la IA como “imitaciones”, sino como “nuevas dimensiones de la realidad. Es como la literatura –ejemplifica– que no cuenta algo, sino que es una dimensión de la realidad donde entramos, vivimos y habitamos. Como sucede también con la música. Ahora, están emergiendo dimensiones de la realidad consistentes en la multiplicación de informaciones e imágenes que no sabemos habitar, domesticar ni regular”.
Realidad virtual y verdad
El filósofo apunta que cuanto más se virtualiza la realidad, menor es el efecto de verdad. “La verdad no es una información, sino un efecto dinámico. La verdad ordena la cosa. Entonces, cuanto más se virtualiza todo, menos existe la verdad. Una misma frase puede desencadenar un odio total o una adhesión total; pero no hay nada que lo ordene. Cada vez hay más de esa versión virtualizante que permite que el horror avance. La gente está ahí, sin poder pensar (parar y preguntarse a sí mismo: «todo esto ¿qué me dice a mí?») y sentirse convocado".
El sentirse convocado es cada vez menos frecuente. "Eso –insiste– es lo preocupante y sobre lo que tendríamos que reflexionar".
"Todos aplauden, tú también (canta Drexler)
pero no queda claro quién
tiene del mango a la sartén".
