Cuando los algoritmos deciden por nosotros: ¿progreso o una nueva forma de desigualdad?

La dificultad para entender cómo funcionan los algoritmos plantea una paradoja: nunca habíamos tenido tanta información sobre una tecnología y, al mismo tiempo, tanta sensación de no comprenderla. Mientras aumenta su capacidad de cálculo, también crece la distancia entre lo que puede hacer una máquina y lo que podemos entender. Filósofos como Günther Anders y Gilbert Simondon advertían sobre esto: cuando la tecnología avanza más rápido que nuestra capacidad para comprender sus efectos, terminamos relacionándonos con ella desde la distancia y la desconfianza.

Hoy la inteligencia artificial está presente en la vida cotidiana, selecciona información, participa en procesos administrativos, investigaciones y decisiones empresariales. Por eso, entender sus principios básicos no es opcional. Necesitamos esa base para participar con criterio en los debates sobre su uso, regulación y límites, pero también para dejar de verla como algo mágico. Quizá ese sea uno de los grandes desafíos de nuestro tiempo.

La pregunta que nadie quiere hacerse en voz alta es incómoda: ¿la inteligencia artificial amplía lo que podemos hacer como personas, o está construyendo, con más eficacia que antes, nuevas jaulas? Hay algo raro en toda esta conversación sobre progreso tecnológico. Se nos vende como liberación -más tiempo libre, comodidad, posibilidades- y, al mismo tiempo, cada vez tomamos menos decisiones por nosotros mismos. Delegamos en un sistema qué leer, comprar, con quién salir, a quién contratar y qué pensar. Y lo hacemos con gusto, porque es cómodo. Ahí está el truco.

«Posiblemente, las preguntas más importantes en inteligencia artificial no sean el diseño de nuevos algoritmos, sino cómo garantizar que los conjuntos de datos con los que los entrenamos no estén inherentemente sesgados (…). Las características de los datos de entrenamiento son mucho más importantes para el resultado que el algoritmo en sí. La incapacidad para comprender esto constituye un sesgo propio de quienes han estudiado informática en profundidad antes de adentrarse en el aprendizaje automático.»…

— Tim O’Reilly, ¿Cuál es el futuro y por qué depende de nosotros?

Empecemos por lo básico, porque conviene no perder de vista un principio anterior a que existiera un solo ordenador, hay cosas que no deberían negociarse nunca, ni en nombre del avance. Esa es la intuición del iusnaturalismo, existen derechos -dignidad, libertad, intimidad, capacidad de decidir sobre la propia vida- que no dependen de lo que diga una ley concreta o permita una plataforma. Son anteriores a cualquier contrato o término que aceptamos sin leer. El problema es que hoy esos derechos se erosionan sin que nadie firme en contra. Nadie vota para perder su privacidad. Simplemente la perdió, porque aceptó una cookie o instaló una aplicación.

Y aquí conviene mirar las cosas desde otro ángulo, más frío. Olvidemos a la persona individual y fijémonos en las estructuras. El estructuralismo nos enseña algo útil, no hace falta que exista un villano con intenciones oscuras para que un sistema module tu conducta. Basta con el diseño. Un algoritmo de recomendación no te obliga a nada, pero organiza lo que ves, el orden en que lo ves y cuán fácil o difícil es salir de ahí. Las plataformas no son ventanas neutras al mundo, son estructuras que deciden, silenciosamente, qué comportamientos premian con visibilidad y cuáles condenan a la invisibilidad. Y quien diseña esa estructura ejerce un poder que no se parece al de un gobierno con leyes visibles, sino al de una arquitectura invisible que uno atraviesa sin darse cuenta de que está siendo dirigido.

Ahí aparece algo que el filósofo Byung-Chul Han describe con precisión incómoda, hemos pasado de una sociedad que nos vigilaba desde fuera a una que nos hace vigilarnos a nosotros mismos. Ya no hace falta un jefe con un cronómetro. Nosotros llevamos la cuenta, pasos caminados, horas de sueño, minutos de pantalla, rendimiento medido por un panel. Nos autoexplotamos convencidos de que es libertad, porque nadie nos obliga con látigo. Pero el resultado -agotamiento, ansiedad, la sensación de no ser suficiente- es exactamente el mismo, solo que ahora lo llamamos optimización personal y nos sentimos orgullosos. La tecnología no inventó esa lógica, pero la ha vuelto más eficiente y difícil de ver.

Y falta la pregunta que más incomoda, la que hace John Rawls sin proponérselo: ¿quién gana y quién paga la factura? Rawls proponía un ejercicio, imagina diseñar las reglas de una sociedad sin saber qué lugar vas a ocupar-rico, pobre, con o sin estudios-. Si aplicamos ese filtro a la inteligencia artificial, el resultado es incómodo. Quien ya tenía capital, la usa para multiplicarlo. Quien tenía datos, los usa para predecir y vender. Quien tenía poder, lo usa para vigilar. Quien no tenía nada de eso sigue sin tenerlo, pero ahora es analizado, clasificado y descartado por un sistema sin explicaciones. La tecnología no perjudica a todos por igual, perjudica distinto según de qué lado de la pantalla estés. Es la distribución de beneficios y costos que ya estamos viviendo, cubierta de lenguaje técnico para parecer neutral.

Aquí toca ser frontal, no hay nada neutral en un algoritmo. Cada decisión de diseño -qué datos usar, qué optimizar, a quién priorizar- responde a intereses concretos, casi siempre comerciales. Llamar a eso progreso sin más matices es, mínimo, ingenuo, o una forma de mirar a otro lado mientras el poder se reorganiza sin votación.

Nada de esto significa rechazar la tecnología o volver al pasado. Significa exigir algo más concreto; que existan límites claros, que la dignidad y la privacidad no sean negociables, que se sepa quién diseña los sistemas y que los beneficios no queden atrapados arriba, en manos de quien ya tenía todo.

La pregunta no es si la inteligencia artificial es buena o mala. La pregunta es quién decide sus reglas, y si ahí estamos todos, o solo los pocos que ya sabían qué lugar ocupar.

Mientras no respondamos eso, seguiremos llamando progreso a lo que es una redistribución silenciosa del poder. Y esa redistribución tiene ganadores muy concretos. Toca decidir si estamos del lado pasivo o activo; si somos parte del molde maestro o nos quedamos rezagados. Ahí está el dilema. Y para resolver este conflicto hay que deshilvanar los supuestos que nos sostienen, pesar en balanza de dudas las consecuencias inmediatas y ocultas, escuchar al miedo y la esperanza, traducir la contradicción en criterio, convertir la incertidumbre en compañera y la certeza en mapa provisional, aceptar que elegir es renunciar, y trazar un rumbo que rime con coherencia, porque toda respuesta es, en secreto, una pregunta bien vestida.

En otra ocasión escribiré más a fondo sobre esta otra paradoja, «el algoritmo dictador y nuestra libertad», el  «algoritmo dictador» ejerce una tiranía invisible que no utiliza la fuerza física, sino un diseño persuasivo y de recompensa intermitente para colonizar cada segundo de nuestro tiempo libre, institucionalizando así la -nomofobia- (consiste en el miedo irracional, la angustia o la ansiedad intensa que experimenta una persona al no tener acceso a su teléfono móvil). Al erradicar por completo el aburrimiento y los espacios de silencio mental, este mecanismo nos empuja a sostener el dispositivo de manera inconsciente, sustituyendo la socialización real y profunda por una ilusión de comunidad basada en interacciones superficiales y likes. En este ecosistema, el individuo cree que se está comunicando con el mundo, cuando en realidad está trabajando gratis para una interfaz que mercantiliza su atención y debilita su capacidad para tolerar la fricción y la vulnerabilidad de los vínculos humanos en el plano físico.

A nivel neuropsicológico, este secuestro digital se traduce en una grave fragmentación cognitiva y en una ansiedad basal crónica que se manifiesta como un auténtico síndrome de abstinencia cuando perdemos el acceso a la red. El cerebro, habituado a estímulos inmediatos de pocos segundos, sufre una atrofia en su capacidad de atención sostenida, memoria de trabajo y pensamiento profundo, lo que erosiona directamente las funciones ejecutivas esenciales. Al delegar nuestra gestión emocional y cognitiva en el dispositivo, enfrentamos una preocupante vulnerabilidad psicológica donde la incapacidad de gestionar el vacío o la desconexión detona niveles elevados de cortisol, transformando una herramienta tecnológica en un regulador vitalicio de nuestra estabilidad mental.

“Los humanos se han obsesionado tanto con la innovación que han ignorado por completo su propia alma. Y entre estos humanos obsesionados con la innovación, los llamados transhumanistas son el grupo más engañado, ya que no tienen ni idea de ningún tipo de orden en la mente humana y sin embargo, se jactan de desarrollar tecnologías más avanzadas para fusionar la mente con la máquina – y lo más interesante de notar aquí es que, ni siquiera tienen idea de que no tienen idea.”

― Abhijit Naskar