En las últimas dos décadas el filósofo David Chalmers se ha erigido en un destacado pensador acerca de la conciencia. Su contribución más conocida a la filosofía es «Problema difícil de la consciencia», donde analiza la experiencia subjetiva. Actualmente está escribiendo un libro sobre los problemas del futuro tecnológico al que nos estamos acercando rápidamente: realidad virtual, conciencia cargada digitalmente, inteligencia artificial, etc., cuestiones que aborda en la entrevista a la que le somete Prashanth Ramakrishna, estudiante de matemáticas aplicadas y ciencias de la computación en la Universidad de Nueva York y que publicó el pasado día 18 el New York Times.

Prashanth Ramakrishna: La inteligencia general artificial, A.G.I., es un sistema capaz, como nosotros los humanos, de realizar tareas abiertas e independientes de problemas o contextos específicos: conversación, razonamiento con sentido común, aprendizaje experimental, etc. El ejemplo de ciencia ficción popular es HAL 9000 de la película «2001: Una Odisea en el Espacio». ¿Se puede lograr la A.G.I.?

David Chalmers: Creo que la inteligencia general artificial es posible. Algunas personas están exagerando sobre el tema de la inteligencia artificial general, diciendo que la inteligencia general artificial está a la vuelta de la esquina en tal vez 10 o 20 años. Me sorprendería que tuviesen razón. En los últimos tiempos ha habido muchos progresos interesantes con el aprendizaje profundo, que se centra en los métodos de búsqueda de patrones en los datos.

El aprendizaje profundo es excelente para las cosas que hacemos perceptualmente como seres humanos: reconocimiento de imágenes, reconocimiento de voz, etc. Pero cuando se trata de cualquier cosa que requiera autonomía, razonamiento, decisiones, creatividad, etc., la I.A. sólo es buena en dominios limitados. Es bastante buena jugando a juegos como el Go. En el momento en que llegas al mundo real, las cosas se complican. Hay muchas montañas que necesitamos escalar antes de llegar al nivel humano de la A.G.I. Dicho esto, creo que va a ser posible, digamos, en un plazo de 40 a 100 años.

Una vez que tengamos una inteligencia artificial a nivel humano, no hay duda de que cambiará el mundo. Las A.G.I.s van a ser seres con poderes inicialmente equivalentes a los nuestros y en poco tiempo mucho mayores que los nuestros. En ese sentido, estoy de acuerdo con la gente que dice que tenemos que pensar mucho sobre cómo diseñar la superinteligencia para maximizar las buenas consecuencias. Encuentro que cada vez hay más atención entre los investigadores de I.A. para hacer que la I.A. sea beneficiosa a corto plazo y consistente con un buen futuro para la humanidad a largo plazo.

P.R.: Te pillé usando la palabra «seres». ¿Está equiparando la inteligencia general con la conciencia?

D.C.: Me gusta distinguir entre inteligencia y conciencia. La inteligenciaversa sobre las capacidades de comportamiento de estos sistemas: lo que pueden hacer, qué productos pueden producir dadas sus entradas. Cuando se trata de la inteligencia, la cuestión central es, dados algunos problemas y objetivos, ¿puedes encontrar los medios adecuados para tus fines? Si puedes, ese es el sello de la inteligencia. La conciencia es más una cuestión de experiencia subjetiva. Tú y yo tenemos inteligencia, pero también tenemos subjetividad; se siente como algo en el interior cuando tenemos experiencias. Esa subjetividad -la conciencia- es lo que hace que nuestras vidas tengan sentido. También es lo que nos da una posición moral como seres humanos.

P.R.: Aunque la conciencia sea un epifenómeno reproducible del sistema correcto de procesamiento de la información dotado de las estructuras representacionales correctas, siempre habrá un velo opaco que separa la conducta aparentemente inspirada por la experiencia subjetiva de la conducta realmente inspirada por la experiencia subjetiva. Si nuestras obligaciones éticas con respecto a los objetos sólo importan en la medida en que son conscientes, ¿cómo debemos abordar nuestras obligaciones éticas intrínsecamente ambiguas con respecto a la inteligencia artificial?

D.C.: En filosofía este es el antiguo problema de otras mentes. ¿Cómo sabes si otra persona o sistema en general tiene una mente? Sé que tengo una mente. Descartes dice: «Pienso. De eso estoy seguro. Por lo tanto, existo» Pero, cuando se trata de otras personas y de computadoras, no vas a tener ese grado de certeza.

¿Cuáles deberían ser los criterios? ¿Es suficiente con hacer cosas sofisticadas para convencerte de que un sistema es consciente? Ganar una partida de Go ciertamente no lo es. Ser capaz de mantener una conversación inteligente sería un comienzo. Tal vez un sistema de I.A. que pudiese describirme sus propios estados de conciencia, diciéndome: «Estoy sintiendo dolor ahora mismo. Estoy teniendo esta experiencia de dolor o felicidad o tristeza» sería más preciso. Tal vez lo que más contaría es sentir un poco de desconcierto en su estado mental: «Sé objetivamente que sólo soy una colección de circuitos de silicio, pero desde dentro me siento mucho más.»

P.R.: Algunas personas podrían argumentar que si puedo estar seguro de que estoy consciente y de que hay varios grados de similitud entre mí yo y otros seres de conciencia potencial, entonces puedo hacer juicios probabilísticos sobre la conciencia de esos seres.

D.C.: Para mí, la manera de conseguir algo claro aquí es pensar en transformarse gradualmente en un I.A. Tú eres la I.A.: carga gradual. Gradualmente reemplaza tus neuronas, una a una, con partes de computadora o súbelas a una computadora. Comienzas como un sistema completamente biológico, luego eres tres cuartos de silicio biológico y un cuarto de silicio, y luego mitad biológico y mitad de silicio, luego un cuarto biológico y tres cuartos de silicio, y finalmente eres un sistema completamente de silicio. Si lo haces una simulación funcionalmente perfecta, entonces vas a estar ahí hasta el final diciendo, «Sí, todavía estoy en casa». Si es una prueba, sólo será una prueba para ti. Alguien más todavía podría decir: «Creo que te convertiste en un zombi».

P.R.: Uno puede imaginar no sólo convertirse en la I.A., sino también fusionarse con ella de manera no destructiva. En un futuro en el que todo el mundo se verá incrementado por la I.A., en el que todos tendremos una potencia de cálculo perfecto, una memoria perfecta, una capacidad perfecta para sintetizar y desplegar el conocimiento, ¿la colaboración se convertirá en algo obligatorio? Después de todo, no habría ningún obstáculo excepto la colaboración para resolver la mayoría de los problemas relacionados con el bienestar humano.

D.C.: Ojalá encontremos una buena solución para el cambio climático. ¿Y 30 segundos después, disolver el conflicto israelí-palestino? Tal vez esto sea más difícil. Muchas de las irracionalidades que tenemos son colectivas. Algunas de nuestras irracionalidades están atadas a nuestros objetivos, a mí queriendo racionalmente mi objetivo y a ti queriendo racionalmente tu objetivo. A menudo una solución es que ambos obtenemos el segundo resultado más deseado, o el tercero, y así sucesivamente. Sin embargo, la gente no se conforma con este tipo de solución. Tal vez necesites un nuevo módulo de compromiso, para encontrar metas que podamos universalizar. Pero eso va más allá de la simple inteligencia instrumental y termina en algo más reflexivo como averiguar cuáles deberían ser nuestros objetivos.

Immanuel Kant pensaba que la moralidad es parte de la racionalidad. Se piensa que una I.A. superinteligente se convertirá en una I.A. súper moral, que se convertirá en una especie de ser kantiano que sólo asumirá objetivos que puede universalizar para todos. Esa es una visión muy especulativa de cómo será la inteligencia artificial.

P.R.: ¿Cuál será la relación entre este ser kantiano que mencionas y nosotros?

D.C.: Valoro la historia humana y egoístamente me gustaría que fuera continua con el futuro. ¿Cuánto importa que nuestro futuro sea biológico? En algún momento creo que debemos enfrentarnos al hecho de que va a haber muchos sustratos más rápidos para hacer funcionar la inteligencia que los nuestros. Si queremos apegarnos a nuestros cerebros biológicos, corremos el riesgo de quedarnos atrás en un mundo con ordenadores superrápidos y superinteligentes. En última instancia, tendremos que mejorarnos.

La otra posibilidad es que las nuevas inteligencias artificiales se apoderen del mundo y no haya lugar para la humanidad. Tal vez estemos relegados a algún mundo virtual o a alguna parte designada del mundo físico. Pero tienes razón, sería una existencia de segunda clase. Quizás nos mantienen como mascotas o por entretenimiento o por el bien de la historia. Ese sería deprimente. Tal vez nos pondrían en mundos virtuales. Tal vez ya ha ocurrido y ahora vivimos en uno de esos mundos virtuales. Hey, no es tan malo.

P.R.: Este es probablemente un buen momento para definir lo que es la realidad virtual, porque hay múltiples maneras en que usamos la palabra «virtual».

D.C.: La palabra «virtual» originalmente significaba «falso» o «como si». Una corbata virtual es «como si» fuera una corbata. Con el paso de los años, sin embargo, la palabra «virtual» ha evolucionado. Ahora significa algo así como «generado por ordenador».

P.R.: ¿Cuál es la caracterización funcional de la realidad que encuentra su analogía en la realidad virtual?

D.C.: Reformulo tu pregunta: ¿En qué sentido es real la realidad normal, y puede ser real la realidad virtual de esa manera? Es una gran pregunta filosófica. George Berkeley, el gran filósofo irlandés, dijo: «Ser es ser percibido». Si algo parece un pato, suena como un pato y así sucesivamente, es un pato. Eso es idealismo: El mundo está todo en tu mente.

La visión dominante, sin embargo, es que la realidad está fuera de tu mente. Para ser real, se necesita algo más que sólo apariencias; se necesitan algunos poderes o potencialidades subyacentes. El gran filósofo australiano Samuel Alexander dijo: «Ser real es tener poderes causales», si puedes ser algo que realmente marque la diferencia. Phillip K. Dick dijo una vez: «La realidad es algo que no desaparece cuando dejas de creer en ella». Si tienes algo que es independiente de tu mente, que tiene poderes causales, que puedes percibir de todas estas maneras, para mí estás muy lejos de ser real.

Las cosas en las realidades virtuales, al menos en principio, tienen todas esas propiedades. Digamos que estás en un mundo virtual. Hay objetos allí que puedes percibir a tu alrededor. En un mundo virtual, un árbol virtual puede caer aunque yo no esté. Un árbol virtual tiene poderes causales. La caída de un árbol virtual puede hacer que la gente tenga experiencias. Puede romper algo sobre lo que cae en el mundo virtual, y puede ser experimentado. La realidad virtual es sólo una forma diferente de realidad. Pero sigue siendo perfectamente real.

P.R.: ¿Por qué crees que la intuición original sobre este tema era precisamente la contraria, que la realidad virtual no es más que un modelo?

D.C.: Esto se remonta a mucho tiempo atrás en la historia de la filosofía. René Descartes dijo: «¿Cómo sabes que no estás siendo engañado por un demonio malvado para que piense que esto es real cuando nada de esto es real?» La pregunta de Descartes sobre el demonio maligno es como la pregunta sobre una realidad virtual. La versión moderna es: «¿Cómo sabes que no estás en la matrix? ¿Cómo sabes que no estás en una simulación por ordenador donde todo esto parece real pero nada de esto es real?» Es fácil incluso para una película como «The Matrix» sonsacar que «esto es malo». Esto no es real. No, todo esto es falso».

La idea de que la realidad virtual no es real proviene de una visión anticuada de la realidad. En el Jardín del Edén, pensamos que había originalmente una manzana roja incrustada en un espacio original. Hemos aprendido de la ciencia moderna que el mundo no es así. Un color es sólo un conjunto de longitudes de onda que surgen de las propiedades de reflexión física de los objetos que producen un cierto tipo de experiencia en nosotros. ¿Solidez? Nada es realmente sólido en el mundo. Las cosas son en su mayoría espacio vacío, pero tienen los poderes causales para producir en nosotros la experiencia de la solidez. Incluso el espacio y el tiempo están siendo gradualmente disueltos por la física, o al menos reducidos a algo más simple.

La realidad física se está pareciendo mucho a la realidad virtual en este momento. Resulta que tomamos todo eso en cuenta y decimos: «Bien, las cosas no son como pensábamos, pero siguen siendo reales». Esa debería ser también la actitud correcta hacia la realidad virtual. El código y los circuitos de silicio forman otro sustrato subyacente para la realidad. ¿Es mucho peor estar en una realidad generada por ordenador que lo que nos dice la física contemporánea? ¿Funciones de onda cuántica con valores indeterminados? Eso parece tan etéreo e insustancial como la realidad virtual. Pero oye! Estamos acostumbrados.

P.R.: Me pregunto si es útil decir que la realidad virtual no es simplemente una realidad alternativa, sino más bien una sub-realidad de la que normalmente ocupamos.

D.C.: Es una especie de multiverso. Nada nos dice que no haya una realidad objetiva. Tal vez haya un cosmos objetivo que abarque todo lo que existe. Pero quizás hay un cosmos de nivel uno y la gente crea simulaciones y realidades virtuales dentro de él. Tal vez a veces hay simulaciones dentro de las simulaciones. ¿Quién sabe cuántos niveles hay?

Una vez especulé que estamos en el nivel 42. Recuerda que en «The Hitchhiker’s Guide to the Galaxy» programaron un ordenador para encontrar la respuesta a la última pregunta de la vida, al universo, a todo. Después de años, el ordenador dijo: «La respuesta es 42». ¿Qué pregunta podría ser lo suficientemente importante como para que ésta fuera la última pregunta y la respuesta pudiera ser un simple número? Bueno, tal vez la pregunta era: «¿En qué nivel de realidad estamos?» (Bella metáfora a tenor del libro de Doug Adams sobre la posible concatenación de simulaciones que usa Chalmers)

P.R.: ¿Te imaginas estos mundos virtuales siguiendo sus propios cursos de historia? Evolución de los sistemas políticos, evoluciones de la cultura, etc. Mi intuición es que lo harán.

D.C.: Ya ha habido algunos mundos virtuales que han sido recapitulaciones de la historia de la filosofía política. A principios de los años 90, los MUDs -dominios multiusuario- comenzaron como dictaduras o anarquías. Había un tipo que los creó, y él era el dictador. Luego nombró a algunos magos y esa fue la aristocracia. Pero los magos no querían todo este poder, así que lo resolvieron con la democracia. La mayoría de los mundos virtuales que existen en la actualidad son corporaciones, que son propiedad y están gobernadas por corporaciones. Linden Lab es propietario de Second Life, por ejemplo.

P.R.: Pero eso plantea un problema en sí mismo. La apropiación de la realidad física está democratizada. No hay ningún señor que pueda encenderlo y apagarlo o cambiar las reglas arbitrariamente. ¿No es la falta de democratización de la propiedad un grave riesgo para los mundos virtuales?

D.C.: Aunque, por supuesto, va a haber muchos entornos virtuales. No sé si deberíamos pensar en esto como: «Eliges tu mundo virtual y siempre estás bajo el gobierno de la única corporación que lo posee». Es más probable que cambiemos entre muchos mundos virtuales con bastante regularidad. Habrá un mundo virtual al que irás para tu trabajo, uno diferente para la recreación y otro diferente para la educación. Nadie dirigirá el ciberespacio, que era el término de William Gibson para referirse a la realidad virtual en su conjunto.

P.R.: Por último, me pregunto si piensas que en última instancia habrá una transición de la realidad física a la realidad virtual a escala de civilización. Hemos hablado de la inteligencia artificial, de la carga digital, de los yoes cargados digitalmente que viven en la realidad virtual, de la frontera transitoria entre la realidad física y la realidad virtual. ¿Alguna vez se apagarán las luces de esta casa?

D.C.: Sería sorprendente. Digamos que la realidad física es una realidad de nivel cero. Siempre habrá recursos que encontrar allí. Sospecho que siempre vamos a necesitar más y más recursos. «Hagamos explotar el sol y usémoslo para alimentar nuestros ordenadores. ¡Espera, eso no es suficiente! Vamos a tener que ir a otra parte a través de la galaxia.» Es fácil imaginar una carrera armamentista tecnológica dependiente de los recursos. Un evento de este tipo requeriría de alguna manera llegar al mundo exterior.

Lo que puedo imaginar fácilmente es que el 99 por ciento de la población vivirá en el mundo virtual, especialmente si el mundo físico se vuelve distópico, después de la destrucción nuclear o del cambio climático, por ejemplo. El mundo virtual será mucho más interesante y agradable. Habrá algunos anhelos. Habrá gente a la que le guste estar en el mundo de nivel cero, a la que le guste vivir en ciudades o a la que le guste vivir en el campo. Ahora tenemos una sociedad cada vez más urbanizada, pero eso no significa que todo el mundo viva en la ciudad. Tal vez tengamos una sociedad cada vez más virtualizada. Pero eso no significa que todo el mundo vaya a ser virtualizado.

No creo que los mundos virtuales vayan a ser la panacea para los problemas de la humanidad. Serán como Internet. Ha conducido a cosas maravillosas. Ha conducido a cosas horribles. Mi predicción es que tendrán espacio para toda la gama de la condición humana. En ese sentido, al menos estará a la par de la realidad física. Tal vez podamos encontrar algunas formas distintivas en las que la realidad virtual sea mejor y permita más libertad, más justicia. O tal vez no lo hagamos. Creo que al menos es un futuro abierto y emocionante.

(Visto en https://chitauri.blogspot.com/)

Deja un comentario