Justa ignorancia

Aguardábamos con inquietud el momento en que el juez pronunciaría el veredicto. Fuera cual fuese, no lo entenderíamos. Sin embargo, sería justo.

Chris era un niño todavía cuando una decisión judicial puso fin a la brillante carrera de su madre. Ella nunca consiguió superarlo. Dos años después, la depresión la consumía. Chris había recordado el día que murió su madre cada día de su vida. Se juró a sí mismo trabajar para que algo así nunca pudiera volver repetirse. Su carrera profesional había sido brillante.

Formó parte del equipo de DeepMind que había desarrollado AlphaGo, la red neuronal que consiguió derrotar al campeón del mundo de Go en 2016. Luego desarrolló un sistema que predecía el riesgo de dejar libre a un acusado en espera de juicio. Su algoritmo tenía una tasa de acierto mayor que la de los jueces. Su tesis doctoral demostró que era posible aplicar las mismas técnicas de inteligencia artificial para sopesar la evidencia legal, antecedentes y variables psicométricas, consideraciones morales, noticias sobre el entorno social, centenares de variables para conseguir reproducir los veredictos judiciales.

Le llevó más de veinte años conseguir que su tecnología, BlindJustice, llegara a tomar decisiones en casos reales. Primero comenzó a usarse como una ayuda para los jueces. Luego fue sustituyendo progresivamente al jurado popular en algunas jurisdicciones. Finalmente había comenzado a sustituir a los propios jueces. Al principio, nadie lo quiso ver. Poco a poco se fue ganando perspectiva, tuvo que irse aceptando la realidad. La policía y la fiscalía persiguen a menudo a las personas equivocadas, los abogados defensores no siempre hacen un buen trabajo, los jurados se confunden en sus deliberaciones. Los jueces cometen errores, muchos, todo el tiempo. El velo de la justicia es demasiado transparente.

Más de doscientos años de legislación acumulada y millones de sentencias procesadas para entrenar el sistema. Decenas de miles de variables para informar una decisión. La precisión del sistema había ido mejorando y se había validado en centenares de miles de juicios, casos de tortura, malos tratos, privacidad, propiedad intelectual. Cuando había sido aplicado retrospectivamente para evaluar sentencias dudosas que habían sido recurridas, denunciadas por activistas y comunidades marginadas, o simplemente revisadas de manera rutinaria, BlindJustice había demostrado que era capaz de pronunciar sentencia con más objetividad y fiabilidad que un juez.

BlindJustice era más preciso que cualquier humano. Nadie puede recordar con tanta exactitud, procesar la jurisprudencia con tanta profundidad. Nadie ha estado expuesto jamás a tantos casos. Nadie puede tener en cuenta tantas variables, a veces detalles aparentemente nimios. Nadie tiene la ecuanimidad de un sistema tecnológico sin intereses, sin dobleces, sin sentimientos. Pero una batalla tan larga no puede librarse sin dejar secuelas. Chris era plenamente consciente del delicado equilibrio que mantiene la confianza en el estado de derecho, de la frontera que estaba a punto de cruzarse.

Aquella mañana, Chris recordó las palabras de Ke Lie cuando AlphaGo le derrotaba por segunda vez, un año después del primer encuentro.

– El año pasado, la forma de jugar de AlphaGo era muy parecida a la de los seres humanos. Hoy creo que juega como el Dios de Go. Por un tiempo, abrigué la esperanza de derrotarle. Ahora estoy convencido de que el futuro pertenece a la Inteligencia artificial.

Ke Lie había elegido un mal momento para ser jugador de Go. El juez que dejó en libertad a la adolescente acusada de parricida, había elegido un mal momento para ser juez. No había pruebas que la incriminaran. Con la ley en la mano no podía enviarla a prisión. El veredicto paralelo de Blindjustice, no vinculante, era de culpabilidad. Nadie podía explicarlo, todos lo sospechamos. Unos meses antes de celebrarse el juicio, pudo confirmarse trágicamente.

Un sistema de aprendizaje profundo como BlindJustice maneja información que ningún humano podrá llegar a procesar jamás. Los pesos que conectan los nodos apilados en múltiples capas crean una estructura de conocimiento, un repositorio de sabiduría, que no es posible explicar mediante el razonamiento. Aunque fuera posible hacerlo, no serviría de nada. Sería como un premio nobel de física cuántica intentando explicar la teoría del multiverso a su gato. Los humanos administrando justicia éramos ahora el gato. BlindJustice era la justicia divina.

El dilema atormenta a expertos como Chris, y mantiene contra las cuerdas a los responsables de la reforma del sistema judicial. ¿Hay que limitar el uso de la tecnología sólo a sistemas cuya operación podamos entender completamente? ¿Debemos renunciar a la sabiduría que se oculta en un universo computacional que resulta incomprensible para la mente humana? ¿Es justa una decisión que no podemos explicar? ¿Son los fallos judiciales, el sufrimiento causado por la injusticia, el precio a pagar por mantener el control?

Cuando el juez entró en la sala, todo el mundo se puso en pie. El protocolo se había mantenido, pero aquel juicio era diferente. El juez era un simple portavoz. Se limitaría a leer la sentencia. El demandante, Chris Maddison, había optado y aceptado el juicio por sistema inteligente automático. El sistema de inteligencia artificial que él mismo había desarrollado, BlindJustice, tomaría la decisión sobre su recurso de apelación contra el juicio de Linda Maddison celebrado hacia casi treinta años.

Chris cerró los ojos, contuvo la respiración. El juez leyó en veredicto:

– En el recurso de apelación contra la sentencia del juicio de Linda Maddison por negligencia profesional, este tribunal desestima la apelación de Chris Maddison y confirma la sentencia de culpabilidad.

Chris no pudo reprimir las lágrimas. Recordaba los ojos grises de su madre, sus últimas palabras, su mano fría. Una honda inquietud le conmovió. Él había programado BlindJustice, pero nunca sabría que era determinante en aquel veredicto. No era posible, pero intuyó que, de alguna manera, allí estaba su temor, reprimido a lo largo de los años, a conocer la verdad.