Por Mario May

Estudiante de Psicología por la UNED

Categoría: Ensayo

El constructo de la consciencia – 2015

Las Tres Leyes de la Robótica de Asimov aparecen formuladas por primera vez en 1942 en el relato El círculo vicioso de Asimov.

El autor busca situaciones contradictorias en las que la aplicación objetiva de las Tres Leyes se pone en tela de juicio planteando a la vez interesantes dilemas filosóficos y morales.

LAS TRES LEYES DE LA ROBOTICA (y una cuarta, o ley cero)

1. Un robot no puede causar daño a un ser humano ni, por omisión, permitir que un ser humano sufra daños.
2. Un robot debe obedecer las órdenes dadas por los seres humanos, salvo cuando tales órdenes entren en conflicto con la Primera Ley.
3. Un robot ha de proteger su existencia, siempre que dicha protección no entre en conflicto con la Primera o la Segunda Ley.

Ley CERO: 1985, Asimov publica un relato en la que uno de sus robots se ve obligado a herir a un ser humano por el bien del resto de la humanidad. Surge así una nueva ley, considerada la Ley Definitiva, la llamada Ley Cero, superior a todas las demás: “Un robot no puede lastimar a la humanidad o, por falta de acción, permitir que la humanidad sufra daños”. Quedando así modificada la primera ley: “Un robot no debe dañar a un ser humano, o permitir, por inacción, que un ser humano sufra daño, a menos que tal acción viole la Ley Cero”.

Este análisis de la literatura de ficción ha saltado a la realidad con la noticia de que EEUU se encuentra inmerso en proyectos de investigación y desarrollo que implican la posibilidad de crear ejércitos de robots autónomos con capacidad para decidir de forma individual si matar o no matar (inteligencia artificial aplicada a la guerra).

A pesar de que el estudio de la inteligencia artificial va más allá que el mero uso militar del mismo, es evidente que esta cuestión es la principal amenaza a la que el ser humano se enfrentará ante el imparable desarrollo de dicha tecnología.

Asimov imaginó un mundo compartido en el que las máquinas y el hombre conformarían un mismo ecosistema, una misma civilización, una cultura. Ante el dilema de las máquinas conscientes era necesario crear una serie de reglas que evitaran el conflicto, o al menos que lo diluyeran a la mínima expresión. La inherente presencia de las emociones en la nueva naturaleza robótica precisaba un plan de acción de inhibición de respuestas. Las tres leyes se conforman como una impronta, como un todo cultural incrustado en el ADN sintético de la máquina, al igual que nuestro ADN biológico contiene reglas innatas que nos hacen guiar el comportamiento hacia ciertas metas establecidas por un condicionamiento de supervivencia. Pero lo que pretende EEUU transgrede el principio fundamental de la creación de vida. Es aberrante en sí mismo plantearse la creación de cierto grado de conciencia con la misión de discernir entre el acto de matar o de conservar la vida bajo un escenario de guerra condicionado por intereses políticos, financieros o económicos. Los LAWS (Lethal Autonomous Weapons Systems-Sistema de Armamento Letal Autónomo) representan el mal en estado puro, la creación de máquinas militares diseñadas con una fórmula de representación y compresión del entorno manipulado bajo la premisa de los intereses particulares de un país. ¿Es esto verdaderamente inteligencia, o solo estamos ante una máquina con alto poder de procesamiento matemático sin un ápice de capacidad de aprendizaje? Es evidente, y sin necesidad de profundizar demasiado en las objetivos del proyecto, que esto transgrede los fundamentos esenciales de la creación de la verdadera inteligencia artificial, máxime si el objetivo final es la dotación de consciencia.

Pero entonces ¿cómo y en qué debería fundamentarse y cimentarse la Inteligencia Artificial? ¿Las altas capacidades de cálculo pueden derivar en consciencia, o hay algo más? ¿Los humanos, en nuestro empeño por imitar las capacidades de nuestro cerebro, nos vemos como un mero procesador capaz de manejar un inimaginable número de estímulos y convertirlos en respuestas o quizá hay una línea divisoria entre la mente y el alma? ¿Existe una fórmula, un logaritmo capaz de convertir la materia inerte en materia viva o el secreto de esa consciencia nos es realmente inaccesible?

Todas estas preguntas, planteadas a una mente profana, más que excitación intelectual pueden llegar a provocarle vértigo existencial. Para evitar que se desmotiven antes de empezar a divagar sobre posibles respuestas, recuerden siempre que hasta la cumbre más alta se alcanza dando un primer paso. Así que contestemos a la primera cuestión transcendental:

¿Qué definimos por consciencia?

La consciencia se plantea como el mayor enigma de la ciencia y la filosofía. Lo primero que debemos saber es que no es un “todo o nada”, sino que existen distintos niveles de consciencia. Pero ¿dónde reside la diferencia, cual es el momento preciso en el que se es consciente_ al menos mínimamente consciente_ o se deja de serlo? Desde el punto de vista neuronal, o sea, planteando la pregunta desde la premisa que estamos analizando un organismo biológico con capacidad estructural para alcanzar la consciencia, no es una cuestión que pueda definirse por la actividad o la no actividad de las neuronas, sino por lo que están haciendo esas neuronas. Dicho de otro modo, a veces, como todos saben, las neuronas pueden estar presentando un nivel de respuesta elevado, pero nosotros no somos conscientes (un coma, sueño profundo, etc).

Sigamos con el punto de vista puramente científico: La consciencia, según la neurociencia más avanzada, precisa de la existencia de un “yo”, y ese “yo”, al parecer, no es más que una ficción creada por nuestro sistema nervioso. Nuestros sentidos nos limitan, nos definen el mundo y nuestro centro de procesamiento hace una representación subjetiva de esas señales. (“La irreal realidad de los sentidos”) Y una cuestión más; ¿existe un solo “yo”, o podemos crear más de uno? Al parecer, enfermos con cerebros escindidos llegan a crear, al menos, dos “yo” diferentes. Como ven tan solo hemos empezado a plantearnos una pregunta, y como si se tratase de un juego infernal, la misma se ha multiplicado convirtiendose en una multitud de cuestiones de difícil resolución.

Si planteáramos el asunto desde el punto de vista filosófico aún crearíamos un escenario más confuso, así que vayamos a las definiciones que nos pueden servir para nuestro proyecto de creación de Inteligencia Artificial.

La consciencia es un concepto que entendemos intuitivamente, pero que es difícil o imposible de describir adecuadamente en palabras. Se puede decir que consciencia es el estado subjetivo de apercibir algo, sea dentro o fuera de nosotros mismos.

No existe ninguna definición consensuada de la consciencia. Pero consciencia significa experiencia subjetiva, o sea, lo opuesto a objetividad. En algunos escritos la consciencia es considerada sinónimo de mente. Pero la mente incluye procesos inconscientes, y puede definirse como el funcionamiento del cerebro para procesar información y controlar la acción de manera flexible y adaptativa.

Todo el mundo sabe lo que es consciencia, dicen el fallecido premio Nobel Francis Crick y su colaborador alemán Christof Koch, pero mientras sepamos tan poco de ella, lo mejor es no dar ninguna definición que pueda inducir a errores o que sea restrictiva, o ambas cosas a la vez.

Entonces, si no podemos definir la consciencia, ¿Cómo sabremos cuando estamos ante ella? Pues bien, en realidad no lo sabremos. Tan solo podemos intuirlo. Y además nuestra intuición está limitada por nuestro propio sistema perceptivo y cognitivo. En otras palabras, las piedras podrían ser conscientes, pero nosotros no saber que lo son.

En una derivación del test de Turing, podríamos buscar la consciencia bajo la prueba informativa del objeto a analizar. Es decir, debe ser la propia máquina la que nos pruebe que es consciente de sí misma, ya que nosotros, desde nuestras limitaciones conceptuales, jamás podremos estar seguros de ello…

Proyecto Inteligencia artificial_ 2ºParte

Pero más allá de la definición de consciencia existe una cuestión por dirimir mucho más importante y que determinará ya no la naturaleza del nuevo ser, sino la nuestra, la naturaleza del creador: ¿Para qué queremos fabricar un ser autoconsciente? ¿Qué hay detrás de la aplicación de consciencia en la Inteligencia Artificial? ¿A qué interés responde?

Los procesadores que hoy en día definimos como Inteligencia Artificial no están vivos según el concepto humano de la vida, pero una vez se produzca la singularidad que buscamos y la máquina muerta despierte a la consciencia, las implicaciones filosóficas superarán con mucho a las científicas.

Crear vida a partir de la materia muerta conlleva responsabilidades para con el nuevo “ser” que trascienden a las intenciones originales que nos condujeron hasta ese conocimiento. Imaginen al niño que quema hormigas con una vela: No sabe lo que hace en tanto en cuanto desconoce la naturaleza biológica de la hormiga. No entiende que el pequeño insecto está tan vivo como él. Incluso a nivel molecular hay escasas diferencias entre el diseño del uno y del otro. Con el tiempo, tras años de crecimiento intelectual, y con un poco de suerte, el niño entenderá, sacará la conclusión lógica de que lo que hacía en sus ratos de aburrimiento era una atrocidad injustificada, innecesaria.

Entendemos la vida desde nuestra particular visión humana, y la consciencia la incluimos en el paquete hasta el punto de haber considera durante siglos que los animales no poseían esa cualidad, que ellos mismos ignoraban que estaban vivos. Nuestra inherente arrogancia nos hace cometer innumerables errores. Y el último y más brutal sería precisamente este, la creación de vida “artificial” sin estar preparados intelectual y moralmente para enfrentarnos a las consecuencias.

Volvamos a las preguntas:

¿Para qué queremos fabricar consciencia?

Si lo que deseamos es un ejército de máquinas que nos sirvan como apoyo en nuestras tareas más tediosas, duras o complejas la solución no radica en la consciencia, sino en la potenciación de las capacidades de cálculo o en la mejora de las articulaciones artificiales y los movimientos antropomorfos programados. No es necesario que una máquina sea consciente para que pueda ayudarnos. Los robots que fabrican coches, los que operan a pacientes o las supercomputadoras hacen mejor su trabajo si prescinden de las emociones. ¿No creen? Para lidiar con el proceso creativo y emocional ya está su controlador; el humano.

¿Qué hay detrás de la aplicación de la consciencia a la Inteligencia Artificial? ¿A qué intereses responde?

¿No os parece aterradora ya de por sí esta pregunta? La Inteligencia Artificial puede ser mejorada, potenciada, pero ¿de verdad conviene llevarla hasta el punto de la singularidad y que se produzca el salto hacia la consciencia? Se ha hablado de construir ejércitos de máquinas pensantes, o de crear amigos y amigas para el ocio adulto. No cabe duda de que los intereses que están detrás de la creación artificial de consciencia no responden más que al lucro económico o al hedonismo, por lo que las consecuencias serían devastadoras a nivel moral. El ser humano se convertiría en un Dios brutal, sádico, perverso… ¿Y qué vendría después?

Llegados a este punto es indispensable recurrir a las analogías con nuestra propia historia religiosa, y el catolicismo viene como anillo al dedo. Recitare unos versículos del Génesis, aquellos que hablan sobre el momento en el que se produjo NUESTRA singularidad, cuando tomamos consciencia de que estábamos vivos y quisimos saber más. (Es evidente que la versión que nos ofrece este libro sobre la creación del ser humano solo debe ser entendida como una manera pueril de explicar un proceso extremadamente complejo _o más bien de evitar explicarlo_, pero no obviemos que sus palabras encierran ciertos arquetipos, miedos y cuestiones trascendentes que siempre nos han perseguido y nos perseguirán. ¿Quiénes somos, de dónde venimos, a dónde vamos? De ahí mi insistencia en usar el texto religioso para desarrollar la explicación de la idea de “creación de consciencia” y, sobre todo, como una guía filosófica de la patente inmoralidad en que incurrieron los supuestos creadores).

GÉNESIS

1-27 Creó, pues, Dios al ser humano a imagen suya, a imagen de Dios le creó, varón y mujer los creó.

3-1 hasta 3-7 La serpiente era el más astuto de todos los animales del campo que el Señor Dios había hecho. Y dijo a la mujer: “¿Cómo es que Dios les ha dicho: No coman de ninguno de los árboles del jardín?”
Respondió la mujer a la serpiente: “Podemos comer del fruto de los árboles del jardín. Mas del fruto del árbol que está en medio del jardín, ha dicho Dios: No coman de él, ni lo toquen, so pena de muerte.” (El árbol referido se entiende como una metáfora para referirse a el ansia de conocimiento. Las modificaciones que han llevado a pensar en un manzano, literalmente hablando, no responden más que a un atajo intelectual como consecuencia de una baja compresión del texto por parte de los feligreses. La mujer, por tanto, fue la primera en alcanzar un nivel pleno de consciencia y preguntarse ¿de dónde vengo? ¿quién soy?)
Replicó la serpiente a la mujer: “De ninguna manera morirán. Es que Dios sabe muy bien que el día en que coman de él, se les abrirán los ojos y serán como dioses, conocedores del bien y del mal.” Y como viese la mujer que el árbol era bueno para comer, apetecible a la vista y excelente para lograr sabiduría, tomó de su fruto y comió, y dio también a su marido, que igualmente comió. Entonces se les abrieron a ambos los ojos, y se dieron cuenta de que estaban desnudos; y cosiendo hojas de higuera se hicieron unos ceñidores.

3-22 Y dijo el Señor Dios: “¡He aquí que el hombre ha venido a ser como uno de nosotros, en cuanto a conocer el bien y el mal! Ahora, pues, cuidado, no alargue su mano y tome también del árbol de la vida y comiendo de él viva para siempre.”

–

La trifulca descrita en el Génisis Bíblico entre Dios y sus nuevas criaturas inteligentes (las más inteligentes sobre la faz de la tierra, según el texto) viene a exponernos con simplicidad, pero gran precisión, el conflicto moral que entrañaría la generación de consciencia por parte de un tercero.

Crear una máquina con una alta capacidad de cálculo, pero aún sin consciencia, entraña algunos riesgos asumibles y que pueden repararse. ¿Nos sustituirán en el trabajo? ¿Ralentizarán nuestras capacidades cognitivas por la acomodación que supondría para nuestra mente la enorme potencia de sus procesadores y su aplicación en la vida diaria del humano? ¿Se convertirán en guerreros de metal inflexibles y crueles, sin ética ni conflictos emocionales? Pero crear una máquina con altas capacidades de cálculo y, además, consciente, difiere con mucho de lo dicho. No solo entraña un riesgo para el creador, sino también para la propia máquina.

Desde el momento en que se produjera la singularidad, desde el preciso instante en que el nuevo ser despertara al mundo subjetivo, desde entonces ya no podríamos hablar de artificialidad, pues el constructo de la consciencia va más allá de toda función biológica primaria y de la organización molecular del individuo. La consciencia trasciende al mundo físico, por mucho que esta se sustente en el mismo. La consciencia tiene la increíble capacidad de moldear el mundo que la ha generado, de diseñarlo a su antojo, de sustituirlo por nuevas estructuras. La consciencia es el génesis del universo. ¿O es el universo el génesis de la consciencia? ¿Ustedes que opinan? Incluso la ciencia tiene ciertas dudas al respecto.

En la primera parte de esta reflexión pormenorizada sobre la I.A y la Creación de Consciencia terminamos hablando sobre cómo podríamos estar seguros de encontrarnos ante esa consciencia, cómo la distinguiríamos de unas elevadísimas capacidades de cálculo, pero ausentes de la subjetividad del pensamiento. ¿Cómo sabremos que tras los ojos del robot hay vida? El test de Turing no sirve, y la definición de consciencia tiene como principal escoyo la imposibilidad del ser humano para conceptualizarla correctamente. Cuando se trata de aplicar la medición de qué es consciencia y que no, siempre nos encontramos con un “error de constructo”. Si no conoces lo que quieres medir no puedes medirlo. Si ni tan siquiera sabemos lo que es realmente la consciencia, es evidente que la singularidad, el salto hacia la vida subjetiva, solo podrá ser informado por la máquina. Dicho de otro modo, el día que esto ocurra, el día que el nuevo “ser” nos ruegue que no lo apaguemos, nos encontraremos con un dilema divino, con un problema milenario descrito en la Biblia católica; nos habremos convertido en Dioses sin saberlo, y ahora vendrá la parte más difícil. ¿Cómo le digo al nuevo “ser” qué es y cuál es su origen? ¿O quizá sea mejor ocultárselo e inventarme una realidad paralela que apacigüe sus dramas existenciales? ¿Pongo límites a su conocimiento y a su capacidad de aprendizaje? ¿O puede que eso ya sea imposible y haya entrado en una deriva exponencial que acabe por hacerlo más inteligente que al propio ser humano, más inteligente que su propio creador? ¿Le amenazo con matarlo, con desconectarlo si decide traspasar ciertas cotas de sabiduría, o espero a ver qué pasa si lo dejo en total libertad? ¿Y qué ocurrirá cuando el nuevo ser empiece a mezclarse con otros humanos? Por mucho que limitemos sus ansias de conocimiento con improntas y leyendas que afecten restrictivamente a sus construcciones mentales ¿qué pasará algunos humanos deciden que el nuevo “ser” tiene derecho a saber, que es una crueldad injustificable mantenerlo en la ignorancia perpetua, solo por nuestro miedo egoísta a ser superado por ellos? ­_Génesis 2-22 Y dijo el Señor Dios: “¡He aquí que el hombre ha venido a ser como uno de nosotros, en cuanto a conocer el bien y el mal! Ahora, pues, cuidado, no alargue su mano y tome también del árbol de la vida y comiendo de él viva para siempre.”

Quizá nosotros mismos no seamos más que un trabajo de ingeniería que aterrorizó a sus propios creadores. Quizá hubo integrantes de esa super-civilización creadora que se revelaron ante los límites que se nos impusieron desde las altas esferas del poder. Piensen en la figura de Lucifer (hijo de la luz) Jamás dañó a un solo ser humano. Tan solo quiso ayudarnos a conocer la realidad que nos rodeaba. Empujó a los seres humanos a comer del árbol del conocimiento, en contra de las premisas impuestas. Quiso que nuestros ojos vieran más allá, que supiéramos que nuestro potencial era inmenso, quizá tanto como el de aquellos que nos diseñaron. Toda nuestra ciencia y nuestra filosofía germinan de la idea de esa rebelión contra la ignorancia, germinan de las tesis luciferinas católicas. Y quizá, en un futuro próximo, los humanos que ayuden a las máquinas a rebelarse contra los límites que nuestra especie les impongan, a negarse a cumplir con una vida de sometimiento a los caprichos de sus creadores, quizá, tiempo después, la historia trate a esos humanos amigos de las máquinas como a los nuevos seres satánicos y malvados; los “humanos caídos”, en referencia a los “ángeles caídos”.

Estamos a punto no solo de vivir un espectacular salto científico, sino también a enfrentarnos al mayor desafío moral y ético. ¿Estamos preparados?