¿Es la conciencia más como el ajedrez o el clima?, por Brian Gallagher

 

¿Es la conciencia más como el ajedrez o el clima?

Nuestras mentes parecen tanto físicas como intangibles. Esa paradoja se ha apoderado de este neurocientífico desde la infancia.

Por Brian Gallagher

Nautilus, 18 MAYO 2023

 

Cuando era solo un niño, Anil Seth se preguntaba acerca de las grandes preguntas. ¿Por qué soy yo y no otra persona? ¿Dónde estaba yo antes de nacer? Sentía curiosidad por la conciencia antes de saber el nombre. Esto lo atrajo inicialmente a la física, que pensó que tenía las ideas y las herramientas para entenderlo todo. Luego, la psicología experimental pareció prometer una ruta más directa para comprender la naturaleza de la mente, pero su atención se desviaría nuevamente a otra parte. “Hubo una desviación muy larga a través de la informática y la IA”, me dijo Seth recientemente. “Así que mi doctorado, de hecho, es en inteligencia artificial”. Aunque no era como si eso fuera a limitar su curiosidad: la IA lo llevó a la neurociencia y de regreso a la conciencia, que ha sido su enfoque, dijo, durante «la mayor parte de los últimos 20 años«.

Ahora Seth es un neurocientífico cognitivo y computacional de la Universidad de Sussex en Inglaterra. Su misión intelectual es hacer avanzar la ciencia de la conciencia, y codirige un par de organizaciones, el Centro Sackler para la Ciencia de la Conciencia y el programa sobre Cerebro, Mente y Conciencia del Instituto Canadiense de Investigación Avanzada, con ese fin. Seth también es autor del libro de 2021 Siendo tú: una nueva ciencia de la conciencia. En él, argumenta que las mentes requieren maquinaria predictiva de carne y hueso. Su charla TED de 2017 sobre esto tiene más de 13 millones de visitas.

Recientemente me reuní con Seth para hablar sobre su trabajo sobre la conciencia, la IA y la preocupante intersección de sus dos pasiones: la posibilidad de crear una IA consciente, máquinas que no solo piensan sino que también sienten. Discutimos por qué la conciencia probablemente no se puede reducir a algoritmos cerebrales, el problema con las IA diseñadas para parecer conscientes, por qué nuestra experiencia del mundo equivale a una «alucinación controlada» y el punto evolutivo de tener una mente.

 

 

¿Cómo entiendes el vínculo entre inteligencia y conciencia?

La conciencia y la inteligencia son cosas muy diferentes. Existe esta suposición dentro y alrededor de la comunidad de IA de que, a medida que la IA se vuelve más inteligente, en algún momento, tal vez el punto de la IA general, el punto en el que la IA se vuelve tan inteligente como un ser humano, de repente las luces se encienden para el sistema y es consciente No solo hace cosas, se siente cosas. Pero la inteligencia, en sentido amplio, consiste en hacer lo correcto en el momento adecuado, teniendo y logrando objetivos de forma flexible. La conciencia tiene que ver con la experiencia cruda y subjetiva, los sentimientos, cosas como el dolor, el placer y las experiencias del mundo que nos rodea y del yo dentro de él. Puede haber algunas formas de inteligencia que requieran conciencia en humanos y otros animales. Pero fundamentalmente son cosas diferentes. Esta suposición de que la conciencia simplemente viene por el camino es errónea.

¿Qué necesita la conciencia para funcionar?

No sabemos cómo construir una máquina consciente. No hay consenso sobre cuáles son los mecanismos suficientes. Hay muchas teorías. Todos son interesantes. Tengo mi propia teoría en mi libro Siendo Tú que está muy relacionado con estar vivo: no tendrás máquinas conscientes hasta que tengas máquinas vivas. Pero podría estar equivocado. En cuyo caso, la conciencia en la IA está mucho más cerca de lo que podríamos pensar. Dada esta incertidumbre, deberíamos ser muy, muy cautelosos al tratar de construir máquinas conscientes. La conciencia puede dotar a estas máquinas con todo tipo de nuevas capacidades y poderes que serán muy difíciles de regular y controlar. Una vez que un sistema de IA sea consciente, es probable que no tenga los intereses que le damos, sino sus propios intereses. Más inquietante, tan pronto como algo es consciente, tiene el potencial de sufrir, y en formas que ni siquiera reconoceremos necesariamente.

 

 

¿Deberíamos preocuparnos por las máquinas que simplemente parecen conscientes?

Sí. Es muy difícil evitar proyectar algún tipo de mente detrás de las palabras que leemos provenientes de personas como ChatGPT. Esto es potencialmente muy disruptivo para la sociedad. Todavía no estamos allí. Todavía se pueden detectar los modelos de lenguaje grande existentes, los chatbots. Pero los humanos tenemos una tendencia profundamente antropomórfica a proyectar la conciencia y la mente en las cosas sobre la base de una similitud relativamente superficial. A medida que la IA se vuelva más fluida, más difícil de captar, será cada vez más difícil para nosotros evitar interactuar con estas cosas como si fueran conscientes. Tal vez cometamos muchos errores en nuestras predicciones sobre cómo podrían comportarse. Algunas malas predicciones podrían ser catastróficas. Si pensamos que algo es consciente, podemos suponer que se comportará de una manera particular porque lo haríamos, porque somos conscientes.

Esto también podría distorsionar el tipo de ética que tenemos. Si realmente sentimos que algo es consciente, es posible que empecemos a preocuparnos por lo que dice. Preocuparnos por su bienestar de una manera que nos impida preocuparnos por otras cosas que son conscientes. Series de ciencia ficción como Westworld han abordado esto de una manera que no es muy tranquilizadora. Las personas que interactúan con los robots terminan aprendiendo a tratar estos sistemas como si fueran esclavos de algún tipo. Esa no es una posición muy saludable para nuestras mentes.

Cuanto más miras dentro del cerebro, menos parecido a una computadora parece ser.

 

Usted advierte contra la construcción de máquinas conscientes: ¿está eso en tensión con su objetivo de comprender la conciencia? El especialista en robótica Alan Winfield cree que construir máquinas conscientes, comenzando con modelos internos basados ​​en simulación y teoría artificial de la mente, será clave para resolver la conciencia. Tiene una visión de esto de «si no puedes construirlo, no lo entiendes». ¿Qué opinas?

Hay una tensión. Alan tiene un punto. Es algo con lo que lucho un poco. Depende de lo que creas que va a crear una IA consciente. Para mí, la conciencia está muy ligada a estar vivo. Creo que simular el cerebro en computadoras, como las tenemos ahora, no es lo mismo que construir o instanciar un sistema consciente. Pero podría estar equivocado. Hay un cierto riesgo en eso: de hecho, simular algo es lo mismo que instanciarlo, es lo mismo que generarlo. En cuyo caso, no estoy siendo tan cauteloso como creo.

Por otro lado, por supuesto, a menos que entendamos cómo ocurre la conciencia en los cerebros y cuerpos biológicos, entonces no estaremos en terreno firme para tratar de hacer inferencias sobre cuándo otros sistemas son conscientes, ya sea que estén aprendiendo máquinas. sistemas, sistemas de inteligencia artificial, otros animales, bebés recién nacidos, o cualquier cosa. Estaremos en terreno muy, muy inestable. Así que hay una necesidad de investigación sobre la conciencia. Todo lo que digo es que no debería haber este tipo de objetivo entusiasta: «Intentemos construir algo que realmente sea consciente, porque es genial«. Para la investigación en esta área, debería haber algún tipo de regulación ética sobre lo que vale la pena hacer. ¿Cuáles son los pros y los contras? ¿Cuáles son los riesgos y las recompensas? Así como los hay en otras áreas de investigación.

 

 

¿Por qué crees que la conciencia no es una especie de algoritmo complicado que implementan las neuronas?

Esta idea, a menudo llamada funcionalismo en filosofía, es una gran suposición. Algunas cosas en el mundo, cuando las simulas, ejecutas un algoritmo, realmente obtienes la cosa. Un algoritmo que juega al ajedrez, digamos, en realidad está jugando al ajedrez. Está bien. Pero hay otras cosas para las que una simulación algorítmica es solo, y siempre será, una simulación. Tome una simulación por computadora de un sistema meteorológico. Podemos simular un sistema meteorológico con tanto detalle como queramos, pero nadie esperaría que se mojara o hiciera viento dentro de una simulación por computadora de un huracán, ¿verdad? Es solo una simulación. La pregunta es: ¿la conciencia es más como el ajedrez o más como el clima?

La idea común de que la conciencia es solo un algoritmo que se ejecuta en el software del cerebro asume que la conciencia es más como el ajedrez y menos como el clima. Hay muy pocas razones por las que este debería ser el caso. Se deriva de esta idea con la que todavía estamos cargados: que el cerebro es una especie de computadora y la mente consciente es un programa que se ejecuta en la computadora del cerebro.

No obtendrá máquinas conscientes hasta que obtenga máquinas vivas.

Pero cuanto más miras dentro del cerebro, menos parecido a una computadora parece ser. En una computadora, tiene una clara distinción entre el sustrato, el hardware de silicio y el software que se ejecuta en él. Es por eso que las computadoras son útiles. Puede hacer que la misma computadora ejecute mil millones de programas diferentes. Pero en el cerebro, no es así en absoluto. No hay una distinción clara entre el mindware y el wetware. Incluso una sola neurona, cada vez que se dispara, cambia la fuerza de su conexión. Una sola neurona también intenta persistir en el tiempo. Es un objeto muy complicado. Luego, por supuesto, hay químicos dando vueltas. Simplemente no me queda claro que la conciencia sea algo que se pueda abstraer de la materia de la que están hechos los cerebros y los cuerpos, y que simplemente se implemente en los circuitos prístinos de algún otro tipo de sistema.

 

Usted argumenta que el mundo que nos rodea tal como lo percibimos se entiende mejor como una alucinación controlada. ¿Qué quieres decir con eso?

Nos parece que vemos el mundo tal como es, de una manera independiente de la mente: abrimos los ojos y ahí está. Ahí está el mundo. La idea que exploro en mi libro y en mi investigación es que esto no es lo que está sucediendo. Lo que experimentamos como realidad, en última instancia, tiene sus raíces en la biología del cuerpo de una manera muy dependiente del sustrato. De hecho, el cerebro siempre está haciendo predicciones sobre lo que hay en el mundo o en el cuerpo. Y usar señales sensoriales para actualizar esas predicciones. Lo que experimentamos conscientemente no es una lectura de los datos sensoriales en una especie de dirección de afuera hacia adentro. Son las propias predicciones. Es la mejor conjetura del cerebro de lo que está pasando.

 

¿Eso equivale a una simulación de la realidad objetiva?

No necesariamente. Solo creo que significa que el cerebro tiene algún tipo de modelo generativo de las causas de sus señales sensoriales. Eso realmente constituye lo que experimentamos, pero también tiene el mismo proceso sobre el propio cuerpo. Si piensas para qué son los cerebros, hablando desde el punto de vista evolutivo y de desarrollo, no son para hacer neurociencia o jugar al ajedrez o lo que sea. Son para mantener vivo el cuerpo. Y el cerebro tiene que controlar y regular cosas como la presión arterial, los latidos del corazón, la tensión gástrica y todos estos procesos fisiológicos para asegurarse de que permanezcamos dentro de estos límites muy estrechos que son compatibles con la supervivencia de organismos complejos como nosotros. Argumento que esto implica que el cerebro es o tiene un modelo predictivo de su propio cuerpo, porque la predicción es muy buena para la regulación. Esto desciende hasta lo más profundo de la fisiología. Incluso las células individuales se autorregulan de una forma muy interesante. La dependencia del sustrato se construye desde cero.

Lo que experimentamos conscientemente es la mejor suposición del cerebro de lo que está pasando.

 

¿Por qué la conciencia tiene que ser un fenómeno encarnado cuando podemos tener experiencias de falta de cuerpo?

Tienes razón, las personas pueden tener experiencias fuera del cuerpo, experiencias de cosas como la disolución del ego, etc. Muestra que la forma en que aparecen las cosas en nuestra experiencia no siempre, si es que lo hace alguna vez, es un reflejo exacto de cómo son en realidad. Nuestra experiencia de lo que es nuestro cuerpo es en sí misma una especie de percepción. Hay muchos experimentos que muestran que es bastante fácil manipular las experiencias de las personas sobre dónde está y dónde no está su cuerpo. O qué objeto en el mundo es parte del cuerpo o no. Para poner el cerebro en una condición en la que pueda tener ese tipo de estados experienciales, mi sospecha es que debe haber al menos una historia de encarnación. Un cerebro que no haya tenido ninguna interacción con un cuerpo o un mundo podría ser consciente, pero no sería consciente de nada en absoluto.

 

 

¿Es algo que podría suceder con los organoides cerebrales ?

Bien. No se ven muy impresionantes. Son grupos de neuronas derivadas de células madre humanas que se desarrollan en un plato. Ciertamente no escriben poesía como pueden hacerlo los chatbots. Los observamos y tendemos a pensar: «No hay nada de qué preocuparse éticamente aquí«. Pero yo, estoy mucho más preocupado por las perspectivas de la conciencia sintética en los organoides cerebrales que en la próxima iteración de chatbots. Porque estos organoides están hechos del mismo material. Claro, no tienen cuerpos. Eso podría ser un factor decisivo. Pero todavía están mucho más cerca de nosotros en un sentido crítico, que es que están hechos del mismo material.

 

Pero eso no significa que sería consciente, ¿verdad? ¿No están nuestros cerebros activos de muchas maneras que no están conectadas con la generación de conciencia?

Estás absolutamente en lo correcto. Hay muchas cosas que suceden en el cerebro que no parecen estar directamente implicadas en la conciencia. Todo está indirectamente implicado. Pero si observamos dónde se encuentran las relaciones más estrechas entre la actividad cerebral y la conciencia, podemos descartar grandes partes del cerebro. Podemos descartar el cerebelo. El cerebelo, en la parte posterior del cerebro, tiene las tres cuartas partes de todas nuestras neuronas y, sin embargo, no parece estar directamente implicado en la conciencia. Entonces, si solo tuvieras un cerebelo, supongo que no admitiría ninguna experiencia consciente. La forma correcta de pensar en eso es que solo estar hecho de neuronas y tener este tipo de sustrato biológico, bueno, eso podría ser necesario para la conciencia, pero ciertamente no es suficiente.

 

¿Cómo piensas en cuál podría haber sido el valor adaptativo de tener experiencias conscientes? ¿Crees que los insectos o las plantas tienen posibilidad de ser conscientes?

Este es un gran problema. En realidad, hay dos problemas conectados aquí. Una es: ¿Cuál es la función de la conciencia? Es famoso el dicho de que nada en biología tiene sentido excepto a la luz de la evolución. ¿Por qué la evolución nos proporcionó a nosotros y a otros organismos experiencias conscientes? ¿Y proporcionó a todos los organismos experiencias conscientes? Y la pregunta relacionada es: ¿ Cómo lo sabremos alguna vez? ¿Podemos desarrollar una prueba ahora para decidir si una planta tiene experiencia o no, o de hecho, si un organoide o un sistema de IA tiene experiencias conscientes? Si comprende la función, entonces tenemos una forma de aplicar algunas pruebas, al menos en algunos casos.

Hay algunas personas, ciertamente en filosofía, que argumentan que la conciencia no tiene función alguna. No juega ningún papel en el comportamiento de un organismo. Encuentro esto muy difícil de entender. Es un fenómeno central de nuestras vidas. Si solo observa el carácter de la experiencia consciente, es increíblemente útil desde el punto de vista funcional. Una experiencia consciente, típicamente para nosotros los humanos, reúne una gran cantidad de información sobre el mundo, de muchas modalidades diferentes a la vez (vista, oído, tacto, gusto, olfato) en una sola escena unificada que hace evidente de inmediato lo que el organismo debería hacer. Esa es la función principal de la conciencia: guiar el comportamiento motivado del organismo que maximiza sus posibilidades de mantenerse con vida.

 

¿Experimentan las plantas motivación para mantenerse con vida?

Las plantas son asombrosas . Suena como algo muy trillado, pero las plantas son más interesantes de lo que mucha gente piensa. Se mueven en escalas de tiempo lentas, pero si aceleras su movimiento, se comportan. No solo flotan en el viento. Muchas plantas parecen tener metas y parecen involucrarse en acciones intencionales. Pero no tienen sistemas nerviosos de ningún tipo, ciertamente no del tipo que se compara con los humanos. En realidad, no enfrentaron el mismo problema de integrar grandes cantidades de información de una manera que respaldara un comportamiento rápido y flexible.

Inferir dónde reside la conciencia en el mundo, más allá de lo humano, es realmente muy difícil. Sabemos que somos conscientes. Cuando miramos a todos los mamíferos, vemos los mismos mecanismos cerebrales que están implicados en la conciencia humana. Si vas más lejos que eso, a los insectos y un pez, se vuelve más controvertido y más difícil decirlo con seguridad. Pero no creo que el problema sea insoluble. Si comenzamos a entender que no es solo tener esta parte del cerebro, sino que es esta forma en que las regiones del cerebro se comunican entre sí lo que es importante, eso nos da algo que podemos buscar en otros animales que pueden tener cerebros muy diferentes al nuestro. Pero cuando llegas a las plantas es mucho más difícil.

 

 

¿En qué estás trabajando en este momento?

Una cosa es tratar de usar modelos computacionales para comprender más sobre los diferentes tipos de experiencia visual. Estamos viendo diferentes tipos de alucinaciones, alucinaciones que pueden ocurrir en la psicosis, con psicodélicos o como resultado de diversas afecciones neurológicas como la enfermedad de Parkinson. Todas estas alucinaciones tienen caracteres diferentes. Algunos son simples, algunos son complejos, algunos son espontáneos, algunos parecen surgir del entorno. Estamos tratando de comprender los mecanismos computacionales que sustentan estos diferentes tipos de experiencia, tanto para arrojar luz sobre estas condiciones como, en términos más generales, para comprender más sobre la experiencia normal no alucinatoria.

También sabemos muy poco sobre el paisaje oculto de la diversidad interna o perceptiva. Ahí estaba ese ejemplo del vestido de hace unos años que medio mundo veía de una manera y medio de otra. Pero no es sólo el vestido. Tengo un proyecto llamado Censo de Percepción, que es un proyecto de ciencia ciudadana en línea a gran escala para caracterizar cómo diferimos en nuestras experiencias perceptivas en muchos dominios diferentes como el color, el tiempo, la emoción, el sonido, la música, etc. Hay alrededor de 50 dimensiones diferentes de percepción que estamos viendo en este estudio. Ya tenemos alrededor de 25.000 personas participando de 100 países. El objetivo es ver si hay algún tipo de espacio latente subyacente, una especie de personalidades perceptivas, si se quiere, que expliquen cómo las diferencias individuales en la percepción pueden ir juntas cuando observamos diferentes tipos de percepción. Eso es un poco de territorio desconocido.

 

 

Brian Gallagher es editor asociado de Nautilus. Sígalo en Twitter @bsgallagher .

 

Imagen principal: Tasnuva Elahi, a partir de imágenes de Irina Popova st y eamesBot / Shutterstock

 

*******

JJ Cale – Call Me The Breeze

EL AJEDREZ

 

 

JJ Cale performing Call Me The Breeze with Eric Clapton at the Crossroads Guitar Festival 2004 (HD)

***

EL CLIMA

 

 

JJ Cale performing «Call Me The Breeze» (J.J. Cale »his masterpiece» Live HD)

*******