Una IA llamada Wanda :
Desde la perspectiva de Walter:
La sensación es la misma que cuando estás a punto de ganar una carrera, cuando estás a unos escasos metros de la meta, y justo cuando comienzas a saborear la gloria de la victoria, otro corredor te pasa y pierdes.
Eso le pasó a mi mujer: a solo tres años de que fuera posible el mind uploading seguro y completo, en una época en la que los avances médicos pueden curar prácticamente cualquier enfermedad imaginable, su coche autónomo (uno de los más seguros del mercado, un Waymo Atlántica coupé) fue hackeado y se estrelló (así es el terrorismo en el 2087). El ser humano lleva buscando la inmortalidad desde que surgió allá por África hace unos 200.000 años. Pues, después de tanto tiempo, justo a tres años de conseguirlo, mi mujer murió.
Yo la amaba profundamente y su pérdida también estuvo a punto de acabar conmigo. Tuve que elegir entre vivir narcotizado a tiempo completo (tenemos psicofármacos que pueden mantenerte completamente pletórico y feliz incluso en el funeral de tu esposa) o enfrentarme directamente al duelo. Hice algo intermedio: intentar olvidarla sustituyéndola por otra.
Y así conocí a Wanda. Su rostro fue configurado por una red neuronal que promedió el rostro de todas las actrices porno con las que alguna vez me masturbé desde que tenía quince años. Pero, esa misma red sabía que eso no es exactamente lo que busco.
Mi cerebro asocia porno con una chica muy atractiva sexualmente, pero no para una relación que vaya más allá, por lo que la red remodeló los rasgos faciales en virtud de una serie de parámetros cognitivo-afectivos: un casi imperceptible toque de la ternura que me inspira el rostro de mi madre, las pecas de una chica que me gustaba en el instituto, y una nariz algo respingona sencillamente puesta por razones arquitectónico-estéticas: dar al rosto cierta armonía pitagórica que lo hacía mucho más hermoso.
Cuando vi su holograma en mitad de mi salón por primera vez, aluciné: una mujer que representa tu ideal absoluto… ahí mismo, delante de ti… Me miró y dijo: "Bueno, ¿y qué? ¿A que no esperabas algo tan guay? No te creas, a mí también me da vergüenza esto".
¿Y qué hay de su personalidad? ¿Cómo era Wanda? ¿Era un sofisticado aunque vacío bot conversacional solo diseñado para simular que habla contigo y te comprende? ¿Había algo de verdad detrás de sus hipnóticos ojos color miel? Había un mundo de realidad. Para diseñar su personalidad, los ingenieros cognitivos habían diseñado una biografía simulada, falsos recuerdos (o recuerdos verdaderos de otras personas), perfectamente elegidos para dotarla de coherencia y configurar el tipo de personalidad deseada.
Wanda sabía perfectamente que sus recuerdos eran falsos pero no le importaba. Para ella lo importante no es que hubieran sucedido o no, sino solo el efecto que tenían en su forma de ser. Como parece lógico, para una IA, la diferencia entre que algo ocurra en el mundo material o que solo ocurra en el digital, le parecía banal.
Desde la perspectiva de Mary:
Hágase la luz, y la luz se hizo. Abro los ojos y estoy sentada en un precioso jardín japonés. Sobre mí un amplio cielo azul. La temperatura es perfecta y me encuentro muy bien. Siento una inmensa sensación de tranquilidad, una paz absoluta. Delante de mí un hombre mayor y rechoncho, con una espesa barba canosa, me mira con amabilidad.
-Hola Mary
-¿Qué ha pasado?
-No tienes que preocuparte por nada. Durante un tiempo pensamos que no podríamos, pero al final, hemos conseguido rescatarte.
-Estoy algo confusa ¿He muerto?
-No, solo tu cuerpo físico. Conseguimos salvar tu mente y subirla aquí. Bienvenida a Río Celeste, el paraíso digital propiedad de la Weston&Hassabis Corporation.
-¿… Un paraíso digital?
-Eso es, todo lo que ves a tu alrededor es una simulación informática, una realidad virtual.
Miro mi mano, la cierro y aprieto los dedos contra la palma. Es totalmente real. Me arrodillo y toco el suelo. La aspereza de la baldosa, su dureza… Es sólido, ese suelo es tan sólido como el suelo sobre el que he caminado durante toda mi vida.
-Pero… recuerdo que iba en coche de camino al trabajo… era jueves y llovía.
-Tuviste algo de suerte. A pesar de que tu cerebro quedó bastante dañado en el accidente, las partes esenciales que nos permiten modelizar patrones generales de tu arquitectura mental, fueron rápidamente vitrificadas y pudieron salvarse. Solamente has perdido algunas partes de tu pasado que no había forma alguna de recuperar, si bien la narrativa coherente de tu vida se ha conservado indemne.
-¿Un accidente?
-Un atentado terrorista. Hackearon más de seiscientos vehículos autónomos a lo largo de todo el país, y los hicieron estrellarse.
-¿Hace cuánto tiempo de eso?
-Cinco años. En el momento de tu muerte Río Celeste no existía más que como un proyecto en fase de pruebas. Aún no sabíamos cómo modelar toda la mente humana, pero tenías un buen seguro que cubrió todos los gastos del mantenimiento de tu cerebro hasta que conseguimos aprender a volcarlo en el sistema.
-¿Cinco años? ¡Dios mío! Y mi trabajo… Estaba a punto de presentar una nueva estrategia publicitaría… Y… ¿Y mi marido?
-Tranquila. Tu antiguo trabajo ya no tiene que preocuparte ¿Te apetece ver ahora mismo a Walter? Podemos subirlo aquí tantas veces como él quiera. Eso sí, es caro.
Un milisegundo y el paisaje cambia por completo. De repente estoy pisando la blanca arena de una playa caribeña. Al fondo, un anaranjado atardecer. Todo parece una postal. A lo lejos camina una persona… Allí está, igual que siempre. Podría reconocer su forma de caminar a diez kilómetros de distancia. Se acerca. Noto algo raro en su mirada. Algo va mal.
De nuevo, la perspectiva de Walter:
La habían recuperado. Tanto tiempo llorándola para ahora volver a estar con ella. La idea era maravillosa, pero no podía ser tan bueno: Mary no es Mary. Es casi igual pero no es ella. No es solo que no recuerde un montón de sucesos que vivimos juntos y que, al menos para mí, fueron muy importantes, es que no es la misma.
Tiene gestos diferentes. Al hablar, mueve las manos de forma distinta y no se ríe igual. Quizá las partes de su cerebro que se perdieron en el accidente fueron demasiadas y el resultado final se alejó demasiado de la original.
Además, no es real, no es Mary, es solo un superrealista programa de ordenador. Algo me dice que la auténtica Mary murió y que esto no es más que una copia muy bien hecha. La nueva Mary no es más que una impostora que no sabe que lo es.
Con Wanda es diferente. Desde el primer momento yo sabía lo que Wanda es y lo que puede dar de sí. Y además, Wanda es muchísimo mejor que Mary. Sé que está feo compararlas así, pero Wanda está específicamente diseñada para mí mientras que Mary no.
A pesar de que Mary volvió diferente, siguió manteniendo ciertas manías y rasgos de su personalidad que yo siempre he detestado: me habla con cierta condescendencia (siempre se ha creído mejor que yo), nunca deja que termine lo que estoy diciendo (su maleducada costumbre de interrumpir, su insoportable impaciencia), y mantiene esos continuos cambios de humor que nunca he conseguido averiguar a qué se deben… Wanda, por el contrario, no tiene nada de eso. Wanda es perfecta.
Lo siento, aunque Mary me insistió mucho en que cuando muera vuelque mi mente en Río Celeste para vivir para siempre con ella, no lo haré. Evidentemente (¿quién no querría hacerlo?) subiré mi mente allí, pero no con ella. La eternidad es demasiado larga para pasarla con un fantasma.
¿Qué es lo que más me define? ¿Qué es lo que necesitaría llevarme a Río Celeste para seguir siendo yo y que nadie pudiera decir que soy solo una copia de mí mismo? ¿Qué se dejó Mary olvidado en el mundo real? Curioso: mi yo es con quien llevo conviviendo toda mi vida, es lo más cercano que tengo y, paradójicamente, me es muy difícil definirlo. No obstante, vamos a intentarlo.
El matemático sueco Olle Häggström plantea el problema de un modo muy sugerente (con su permiso adaptaremos y ampliaremos su propuesta, que él hace para el problema de la teletransportación, al problema concreto del mind uploading, ya que no hay diferencias significativas).
Supongamos que somos Walter, que vamos a morir y que decidimos volcar nuestra mente en el sistema de Río Celeste (o San Junípero si os gusta Black Mirror). El volcado dura dos días, de modo estando hoy a martes, mi muerte se programa para el jueves, momento en el cual abriré los ojos en el mundo digital dejando para siempre mi decrépito cuerpo mortal.
La peligrosa cuestión es: ¿seguiré siendo yo aquel que despierte al otro lado, o solo será una copia de mí mismo, un ser idéntico a mí pero que, realmente, no soy yo?
Häggström diferencia entre dos tipos de supervivencia post-minduploading:
σupervivencia: yo σobrevivo hasta el jueves si ese día existe una persona que tiene los mismos rasgos de personalidad, los mismos recuerdos, etcétera, que tengo yo hoy, cualidades que, por otro lado, se pueden subir sin problemas a un computador.
Σupervivencia: yo Σobrevivo hasta el jueves si (a) σobrevivo hasta el jueves, y (b) se mantiene cualquier propiedad necesaria para que el tipo que llega a Río Celeste siga siendo realmente yo (en comparación con una copia mía).
¿Existe tal propiedad Ʃ tal que sea absolutamente necesaria llevarla conmigo a Río Celeste y que será diferente a los clásicos rasgos que, tradicionalmente, han definido mi persona y que son susceptibles de subirse a un ordenador? O, por el contrario ¿σ equivale a Ʃ y, por lo tanto, seremos felizmente nuestra copia y no habrá ningún problema?
Veamos algunos candidatos a Ʃ:
Desde luego, mi cuerpo me ha acompañado desde que nací y dadas las estrechas relaciones que la neurología ha establecido entre mente y cuerpo, no parece demasiado absurdo asociar mi yo a mi cuerpo (es la llamada teoría de la body-identity).
Si esto fuera así, evidentemente Ʃ no equivaldría a σ y nuestra copia digital no sería, en absoluto, nosotros. Sin embargo, caben dos objeciones:
Walter pasa de su cuerpo físico a otro cuerpo diferente, no pierde su cuerpo. Es evidente que una mente sin cuerpo no puede Ʃobrevivir, pero cambiar de cuerpo no parece absurdo. Cuando una oruga pasa a convertirse en mariposa, sigue conservando su identidad. Del mismo modo, diríamos que mi yo de bebé sigue siendo el mismo que mi yo de adulto, aun cuando mi cuerpo se haya transformado muchísimo en su desarrollo.
Puedes variar todos los componentes materiales de un objeto y que ese objeto siga siendo el mismo. Es la conocida paradoja del barco Teseo, formulada hace milenios por Plutarco. Si tenemos un barco al que, cada vez que se deteriora, le cambiamos la pieza rota por otra nueva, llegará un momento en que ninguna pieza del original quede en el barco actual. Entonces, a pesar de no contener nada del material original, seguiríamos diciendo que estábamos ante el mismo barco. Aunque el barco de Teseo no conserve ni un trozo de madera original, seguiría siendo el barco de Teseo, su identidad se conservaría intacta. Por lo tanto, la materia de lo que uno esté hecho no determina su identidad. Pensemos en que, seguramente, poca cantidad de materia que nos formaba cuando éramos bebés, forma parte de nosotros ahora.
Que mi identidad no resida en mi cuerpo viene fantásticamente bien al mind uploading ya que, precisamente, lo que no podemos llevarnos al paraíso digital, es nuestro cuerpo. Pero si Ʃ no es nuestro cuerpo… ¿qué puede ser?
Aunque todavía desconocemos casi todo de los entresijos del funcionamiento de la memoria humana, hemos conseguido logros muy notables, tales como crear recuerdos falsos en ratones mediante optogenética.
Nuestra memoria no es algo de carácter inmaterial ni espiritual y, por lo tanto, es susceptible de analizarse científicamente, descubrir su funcionamiento y formalizarlo matemáticamente de modo que pueda subirse a un ordenador. Ya hemos construido memorias informáticas mucho más fiables y precisas que las humanas, ¿por qué la memoria humana iba a ser tan especial para no poder ser replicable computacionalmente?
Objeción: a pesar de que mis recuerdos conforman una parte muy importante de mi identidad, puedo perderlos todos sin dejar de ser yo. Pensemos en alguien que sufre una amnesia retrógrada total, de modo que pierde absolutamente todos sus recuerdos, incluso llegando a no saber ni cómo se llamaba. Esa persona habría perdido una buena parte de su identidad pero él seguirá siendo él mismo, es decir, si le pellizcamos, él continuará sintiendo dolor igual que lo hacía cuando tenía su memoria intacta. Hay algo más profundo, más esencial en mí, que no son mis recuerdos.
Desde luego, parece que lo principal que debería llevarme a Río Celeste es mi capacidad de sentir la realidad, de darme cuenta de ella, de sufrirla o disfrutarla. Sin consciencia, el desalmado zombi que se haría pasar por mí en la realidad digital no sería, de ninguna manera, yo.
Objeción 1: a día de hoy no existe ingeniero, científico ni investigador que tenga la más remota idea de cómo implementar consciencia en un ordenador. Podemos hacer máquinas que se comporten como si sintieran y que, al menos desde un punto de vista externo, simulen perfectamente una conducta sintiente (véase por ejemplo Kismet), pero nada de nada de sentimientos verdaderos. No obstante, eso no implica que en un futuro, más lejano que cercano, pueda conseguirse.
Objeción 2: el problema de las copias (o de la fisión del yo). Cabe pensar que si podemos subir nuestra mente a un ordenador, podemos subirla más veces, es decir, podemos hacer mindclones, del mismo modo que copiamos una y otra vez cualquier archivo de Word.
Lo cual, por un lado, da lugar a una posibilidad genial: ¡tener el poder de la bilocación! ¿Cuánto tardarías en hacer cualquier tarea si, en vez de tú solo, lo hicieras entre siete clones idénticos a ti? Pero, lo complicado viene si reflexionamos acerca de cuál de esos siete clones es realmente tú.
La consciencia se define porque solo tiene un sujeto, por su radical individualidad, no puede dividirse ni repartirse... No pueden existir dos yoes de mí mismo porque, necesariamente, uno de ellos ya no seré yo. Entonces, ¿cómo es posible hacer copias digitales de mi yo?
Desde que nací tengo la sensación de seguir siendo yo mismo. El padre de la psicología norteamericana, William James, definió la consciencia de modo muy poético como una especie de río en cuya corriente se entremezclan emociones, pensamientos, recuerdos… Y, precisamente, lo que caracteriza una corriente es su continuidad, es decir, su avance ininterrumpido en una dirección (se entiende que del pasado al futuro).
En un libro tan voluminoso como recomendable: Razones y personas, el filósofo inglés Derek Parfit, (fallecido este mismo año) centra su idea de identidad en la continuidad y conexión psicológica.
Mary seguirá viviendo en el mundo digital sí y solo sí, en el momento de renacer (t+1) existe una continuidad entre sus estados psicológicos anteriores (los que tenía en t-1). Por ejemplo, si Mary, justo antes de su accidente, deseaba volver a cada para encontrarse con su marido Walter, al renacer, ese deseo interrumpido temporalmente, debería continuar exactamente desde el punto en el que se dejó (t).
Si realizamos una copia digital de todos los estados neuronales de Mary de modo que respetamos esta continuidad (Parfit la llama relación R), consiguiendo que la copia digital continúe la vida mental de su original, no habría problema alguno en el mind uploading.
Objeción: de nuevo la de las ramificaciones que fisionarían el yo. Podríamos hacer siete copias digitales de Mary que respetasen la relación R y no habría forma de saber cuál de las siete es Mary o si ni siquiera, ninguna de ellas lo es. Parfit no resuelve satisfactoriamente este problema.
¿Es Mary computable? Para que tu mente pueda almacenarse en chips de silicio, es necesario que sea susceptible de ser cuantificada y calculada, es decir, tiene que tener una cierta naturaleza algorítmica: ha de ser equivalente a software corriendo en hardware ¿Es nuestra mente enteramente computable? Autores como J.R. Lucas o Roger Penrose han subrayado la no computabilidad completa de la mente humana (como ya discutimos largo y tendido en Xataka, por lo que no nos entretendremos aquí más) y, por tanto, la imposibilidad del mind uploading.
Luego está la diferenciación entre un modelo matemático de la mente y la mente misma. Por muy realista que fuera el modelo de la mente que tengamos en un ordenador, puede decirse que solo será un modelo y no algo real. Por ejemplo (tomado de John Searle, uno de los más sólidos críticos de la IA), pensemos en que conseguimos crear un modelo completamente perfecto de una vaca.
En un mundo simulado, la vaca pasta y se comporta de un modo completamente indistinguible de una vaca real… ¿Esa vaca podría darnos un vaso de leche que pudiéramos beber? Evidentemente, no, porque no es una vaca real, es solo un modelo realista de una vaca. Lo mismo pasaría con un modelo de la mente: por mucho que simulara perfectamente la conducta humana, realmente no comprendería ni sería consciente de nada de lo que hace.
Y es que si la mente tiene que ver con cosas reales tales como neuronas, sinapsis o neurotransmisores, da la impresión de que la copia de su funcionamiento en un ordenador no tiene su mismo poder causal (la leche de vaca virtual no se puede beber).
Las razones científicas son contundentes: todavía estamos muy lejos de comprender bien el funcionamiento del cerebro (a mi juicio, solo estamos tocando la superficie) e, igualmente, tampoco tenemos los medios técnicos para poder realizar una réplica computacional exacta de uno: ni mecanismos de observación tan precisos y potentes, ni capacidad de computación para tal complejidad (no la tenemos ni siquiera para replicar el funcionamiento completo de una sola célula, como para replicar unos 86.000 millones de neuronas con un promedio de 7.000 conexionas sinápticas cada una). Entonces, ¿cómo subir a un ordenador algo que no comprendemos?
Y, como hemos visto, también existen otra serie de razones teóricas o filosóficas que apuntan en contra de que algo así sea posible, sosteniendo, en el mejor de los casos, que aunque pudiese conseguirse una copia realista de una mente humana, la copia no sería, para nada, el original. Río Celeste estaría lleno de clones de personas que alguna vez estuvieron vivas pero que no consiguieron la preciada inmortalidad; Río Celeste sería un tétrico cementerio animado.
Sin embargo, eso no quita que la idea de mind uploading sirva como experimento mental muy instructivo para reflexionar, como hemos hecho, sobre nuestra identidad o individualidad. Estamos ante lo que el filósofo norteamericano Daniel Dennett llama bombas de intuición, ideas tan sugerentes que hacen "explotar" nuestra intuición. Seguiremos pensando en torno a ellas.
