Nuestras mentes parecen tanto f\u00edsicas como intangibles.\u00a0Esa paradoja se ha apoderado de este neurocient\u00edfico desde la infancia.<\/span><\/strong><\/em><\/span><\/p>\n Por Brian Gallagher<\/span><\/p>\n Nautilus<\/a>, 18 MAYO 2023<\/span><\/p>\n <\/p>\n Cuando era solo un ni\u00f1o, Anil Seth<\/strong> se preguntaba acerca de las grandes preguntas.\u00a0\u00bfPor qu\u00e9 soy yo y no otra persona?\u00a0\u00bfD\u00f3nde estaba yo antes de nacer?\u00a0<\/em>Sent\u00eda curiosidad por la conciencia antes de saber el nombre.\u00a0Esto lo atrajo inicialmente a la f\u00edsica, que pens\u00f3 que ten\u00eda las ideas y las herramientas para entenderlo todo.\u00a0Luego, la psicolog\u00eda experimental pareci\u00f3 prometer una ruta m\u00e1s directa para comprender la naturaleza de la mente, pero su atenci\u00f3n se desviar\u00eda nuevamente a otra parte.\u00a0\u201cHubo una desviaci\u00f3n muy larga a trav\u00e9s de la inform\u00e1tica y la IA<\/em>\u201d, me dijo Seth<\/strong> recientemente.\u00a0\u201cAs\u00ed que mi doctorado, de hecho, es en inteligencia artificial<\/em>\u201d.\u00a0Aunque no era como si eso fuera a limitar su curiosidad: la IA lo llev\u00f3 a la neurociencia y de regreso a la conciencia, que ha sido su enfoque, dijo, durante \u00abla mayor parte de los \u00faltimos 20 a\u00f1os<\/em>\u00ab.<\/span><\/p>\n Ahora Seth<\/strong> es un neurocient\u00edfico cognitivo y computacional de la Universidad de Sussex<\/em> en Inglaterra.\u00a0Su misi\u00f3n intelectual es hacer avanzar la ciencia de la conciencia, y codirige un par de organizaciones, el Centro Sackler para la Ciencia de la Conciencia<\/em> y el programa sobre Cerebro, Mente y Conciencia del Instituto Canadiense de Investigaci\u00f3n Avanzada<\/em>, con ese fin.\u00a0Seth<\/strong> tambi\u00e9n es autor del libro de 2021\u00a0Siendo t\u00fa: una nueva ciencia de la conciencia<\/em><\/a>.\u00a0En \u00e9l, argumenta que las mentes requieren maquinaria predictiva de carne y hueso.\u00a0Su charla TED de 2017 sobre esto tiene m\u00e1s de 13 millones de visitas.<\/span><\/p>\n Recientemente me reun\u00ed con Seth<\/strong> para hablar sobre su trabajo\u00a0sobre la conciencia<\/a>, la IA y la preocupante intersecci\u00f3n de sus dos pasiones: la posibilidad de crear una IA\u00a0consciente, m\u00e1quinas que no solo piensan sino que tambi\u00e9n sienten<\/strong><\/em>.\u00a0Discutimos por qu\u00e9 la conciencia probablemente no se puede reducir a algoritmos cerebrales, el problema con las IA dise\u00f1adas para parecer conscientes<\/strong>, por qu\u00e9 nuestra experiencia del mundo equivale a una \u00abalucinaci\u00f3n controlada<\/em>\u00bb y el punto evolutivo de tener una mente.<\/span><\/p>\n \u00a0<\/p>\n \u00a0<\/p>\n \u00bfC\u00f3mo entiendes el v\u00ednculo entre inteligencia y conciencia?<\/span><\/strong><\/p>\n La conciencia y la inteligencia son cosas muy diferentes. Existe esta suposici\u00f3n dentro y alrededor de la comunidad de IA de que, a medida que la IA se vuelve m\u00e1s inteligente, en alg\u00fan momento, tal vez el punto de la IA general, el punto en el que la IA se vuelve tan inteligente como un ser humano, de repente las luces se encienden para el sistema y es consciente No solo hace cosas, se siente cosas. Pero la inteligencia, en sentido amplio, consiste en hacer lo correcto en el momento adecuado, teniendo y logrando objetivos de forma flexible. La conciencia tiene que ver con la experiencia cruda y subjetiva, los sentimientos, cosas como el dolor, el placer y las experiencias del mundo que nos rodea y del yo dentro de \u00e9l. Puede haber algunas formas de inteligencia que requieran conciencia en humanos y otros animales. Pero fundamentalmente son cosas diferentes. Esta suposici\u00f3n de que la conciencia simplemente viene por el camino es err\u00f3nea.<\/span><\/p>\n \u00bfQu\u00e9 necesita la conciencia para funcionar?<\/span><\/strong><\/p>\n No sabemos c\u00f3mo construir una m\u00e1quina consciente. No hay consenso sobre cu\u00e1les son los mecanismos suficientes. Hay muchas teor\u00edas. Todos son interesantes. Tengo mi propia teor\u00eda en mi libro Siendo T\u00fa que est\u00e1 muy relacionado con estar vivo: no tendr\u00e1s m\u00e1quinas conscientes hasta que tengas m\u00e1quinas vivas. Pero podr\u00eda estar equivocado. En cuyo caso, la conciencia en la IA est\u00e1 mucho m\u00e1s cerca de lo que podr\u00edamos pensar. Dada esta incertidumbre, deber\u00edamos ser muy, muy cautelosos al tratar de construir m\u00e1quinas conscientes. La conciencia puede dotar a estas m\u00e1quinas con todo tipo de nuevas capacidades y poderes que ser\u00e1n muy dif\u00edciles de regular y controlar. Una vez que un sistema de IA sea consciente, es probable que no tenga los intereses que le damos, sino sus propios intereses. M\u00e1s inquietante, tan pronto como algo es consciente, tiene el potencial de sufrir, y en formas que ni siquiera reconoceremos necesariamente.<\/span><\/p>\n \u00a0<\/p>\n <\/p>\n \u00bfDeber\u00edamos preocuparnos por las m\u00e1quinas que simplemente parecen conscientes?<\/span><\/strong><\/p>\n S\u00ed. Es muy dif\u00edcil evitar proyectar alg\u00fan tipo de mente detr\u00e1s de las palabras que leemos provenientes de personas como ChatGPT. Esto es potencialmente muy disruptivo para la sociedad. Todav\u00eda no estamos all\u00ed. Todav\u00eda se pueden detectar los modelos de lenguaje grande existentes, los chatbots. Pero los humanos tenemos una tendencia profundamente antropom\u00f3rfica a proyectar la conciencia y la mente en las cosas sobre la base de una similitud relativamente superficial. A medida que la IA se vuelva m\u00e1s fluida, m\u00e1s dif\u00edcil de captar, ser\u00e1 cada vez m\u00e1s dif\u00edcil para nosotros evitar interactuar con estas cosas como si fueran conscientes. Tal vez cometamos muchos errores en nuestras predicciones sobre c\u00f3mo podr\u00edan comportarse. Algunas malas predicciones podr\u00edan ser catastr\u00f3ficas. Si pensamos que algo es consciente, podemos suponer que se comportar\u00e1 de una manera particular porque lo har\u00edamos, porque somos conscientes.<\/span><\/p>\n Esto tambi\u00e9n podr\u00eda distorsionar el tipo de \u00e9tica que tenemos. Si realmente sentimos que algo es consciente, es posible que empecemos a preocuparnos por lo que dice. Preocuparnos por su bienestar de una manera que nos impida preocuparnos por otras cosas que son conscientes. Series de ciencia ficci\u00f3n como Westworld han abordado esto de una manera que no es muy tranquilizadora. Las personas que interact\u00faan con los robots terminan aprendiendo a tratar estos sistemas como si fueran esclavos de alg\u00fan tipo. Esa no es una posici\u00f3n muy saludable para nuestras mentes.<\/span><\/p>\n Cuanto m\u00e1s miras dentro del cerebro, menos parecido a una computadora parece ser.<\/span><\/em><\/p>\n <\/p>\n Usted advierte contra la construcci\u00f3n de m\u00e1quinas conscientes: \u00bfest\u00e1 eso en tensi\u00f3n con su objetivo de comprender la conciencia? El especialista en rob\u00f3tica Alan Winfield cree que construir m\u00e1quinas conscientes, comenzando con modelos internos basados \u200b\u200ben simulaci\u00f3n y teor\u00eda artificial de la mente, ser\u00e1 clave para resolver la conciencia. Tiene una visi\u00f3n de esto de \u00absi no puedes construirlo, no lo entiendes\u00bb. \u00bfQu\u00e9 opinas?<\/span><\/strong><\/p>\n Hay una tensi\u00f3n. Alan tiene un punto. Es algo con lo que lucho un poco. Depende de lo que creas que va a crear una IA consciente. Para m\u00ed, la conciencia est\u00e1 muy ligada a estar vivo. Creo que simular el cerebro en computadoras, como las tenemos ahora, no es lo mismo que construir o instanciar un sistema consciente. Pero podr\u00eda estar equivocado. Hay un cierto riesgo en eso: de hecho, simular algo es lo mismo que instanciarlo, es lo mismo que generarlo. En cuyo caso, no estoy siendo tan cauteloso como creo.<\/span><\/p>\n Por otro lado, por supuesto, a menos que entendamos c\u00f3mo ocurre la conciencia en los cerebros y cuerpos biol\u00f3gicos, entonces no estaremos en terreno firme para tratar de hacer inferencias sobre cu\u00e1ndo otros sistemas son conscientes, ya sea que est\u00e9n aprendiendo m\u00e1quinas. sistemas, sistemas de inteligencia artificial, otros animales, beb\u00e9s reci\u00e9n nacidos, o cualquier cosa. Estaremos en terreno muy, muy inestable. As\u00ed que hay una necesidad de investigaci\u00f3n sobre la conciencia. Todo lo que digo es que no deber\u00eda haber este tipo de objetivo entusiasta: \u00abIntentemos construir algo que realmente sea consciente, porque es genial<\/em>\u00ab. Para la investigaci\u00f3n en esta \u00e1rea, deber\u00eda haber alg\u00fan tipo de regulaci\u00f3n \u00e9tica sobre lo que vale la pena hacer. \u00bfCu\u00e1les son los pros y los contras? \u00bfCu\u00e1les son los riesgos y las recompensas? As\u00ed como los hay en otras \u00e1reas de investigaci\u00f3n.<\/span><\/p>\n \u00a0<\/p>\n <\/p>\n \u00bfPor qu\u00e9 crees que la conciencia no es una especie de algoritmo complicado que implementan las neuronas?<\/span><\/strong><\/p>\n Esta idea, a menudo llamada funcionalismo en filosof\u00eda, es una gran suposici\u00f3n. Algunas cosas en el mundo, cuando las simulas, ejecutas un algoritmo, realmente obtienes la cosa. Un algoritmo que juega al ajedrez, digamos, en realidad est\u00e1 jugando al ajedrez. Est\u00e1 bien. Pero hay otras cosas para las que una simulaci\u00f3n algor\u00edtmica es solo, y siempre ser\u00e1, una simulaci\u00f3n. Tome una simulaci\u00f3n por computadora de un sistema meteorol\u00f3gico. Podemos simular un sistema meteorol\u00f3gico con tanto detalle como queramos, pero nadie esperar\u00eda que se mojara o hiciera viento dentro de una simulaci\u00f3n por computadora de un hurac\u00e1n, \u00bfverdad? Es solo una simulaci\u00f3n. La pregunta es: \u00bfla conciencia es m\u00e1s como el ajedrez o m\u00e1s como el clima?<\/strong><\/span><\/p>\n La idea com\u00fan de que la conciencia es solo un algoritmo que se ejecuta en el software del cerebro asume que la conciencia es m\u00e1s como el ajedrez y menos como el clima. Hay muy pocas razones por las que este deber\u00eda ser el caso. Se deriva de esta idea con la que todav\u00eda estamos cargados: que el cerebro es una especie de computadora y la mente consciente es un programa que se ejecuta en la computadora del cerebro.<\/span><\/p>\n No obtendr\u00e1 m\u00e1quinas conscientes hasta que obtenga m\u00e1quinas vivas.<\/span><\/em><\/p>\n Pero cuanto m\u00e1s miras dentro del cerebro, menos parecido a una computadora parece ser. En una computadora, tiene una clara distinci\u00f3n entre el sustrato, el hardware de silicio y el software que se ejecuta en \u00e9l. Es por eso que las computadoras son \u00fatiles. Puede hacer que la misma computadora ejecute mil millones de programas diferentes. Pero en el cerebro, no es as\u00ed en absoluto. No hay una distinci\u00f3n clara entre el mindware y el wetware. Incluso una sola neurona, cada vez que se dispara, cambia la fuerza de su conexi\u00f3n. Una sola neurona tambi\u00e9n intenta persistir en el tiempo. Es un objeto muy complicado. Luego, por supuesto, hay qu\u00edmicos dando vueltas. Simplemente no me queda claro que la conciencia sea algo que se pueda abstraer de la materia de la que est\u00e1n hechos los cerebros y los cuerpos, y que simplemente se implemente en los circuitos pr\u00edstinos de alg\u00fan otro tipo de sistema.<\/span><\/p>\n \u00a0<\/p>\n Usted argumenta que el mundo que nos rodea tal como lo percibimos se entiende mejor como una alucinaci\u00f3n controlada. \u00bfQu\u00e9 quieres decir con eso?<\/span><\/strong><\/p>\n Nos parece que vemos el mundo tal como es, de una manera independiente de la mente: abrimos los ojos y ah\u00ed est\u00e1. Ah\u00ed est\u00e1 el mundo. La idea que exploro en mi libro y en mi investigaci\u00f3n es que esto no es lo que est\u00e1 sucediendo. Lo que experimentamos como realidad, en \u00faltima instancia, tiene sus ra\u00edces en la biolog\u00eda del cuerpo de una manera muy dependiente del sustrato. De hecho, el cerebro siempre est\u00e1 haciendo predicciones sobre lo que hay en el mundo o en el cuerpo. Y usar se\u00f1ales sensoriales para actualizar esas predicciones. Lo que experimentamos conscientemente no es una lectura de los datos sensoriales en una especie de direcci\u00f3n de afuera hacia adentro. Son las propias predicciones. Es la mejor conjetura del cerebro de lo que est\u00e1 pasando.<\/span><\/p>\n \u00a0<\/p>\n \u00bfEso equivale a una simulaci\u00f3n de la realidad objetiva?<\/span><\/strong><\/p>\n No necesariamente. Solo creo que significa que el cerebro tiene alg\u00fan tipo de modelo generativo de las causas de sus se\u00f1ales sensoriales. Eso realmente constituye lo que experimentamos, pero tambi\u00e9n tiene el mismo proceso sobre el propio cuerpo. Si piensas para qu\u00e9 son los cerebros, hablando desde el punto de vista evolutivo y de desarrollo, no son para hacer neurociencia o jugar al ajedrez o lo que sea. Son para mantener vivo el cuerpo<\/strong>. Y el cerebro tiene que controlar y regular cosas como la presi\u00f3n arterial, los latidos del coraz\u00f3n, la tensi\u00f3n g\u00e1strica y todos estos procesos fisiol\u00f3gicos para asegurarse de que permanezcamos dentro de estos l\u00edmites muy estrechos que son compatibles con la supervivencia de organismos complejos como nosotros. Argumento que esto implica que el cerebro es o tiene un modelo predictivo de su propio cuerpo, porque la predicci\u00f3n es muy buena para la regulaci\u00f3n. Esto desciende hasta lo m\u00e1s profundo de la fisiolog\u00eda. Incluso las c\u00e9lulas individuales se autorregulan de una forma muy interesante. La dependencia del sustrato se construye desde cero.<\/span><\/p>\n Lo que experimentamos conscientemente es la mejor suposici\u00f3n del cerebro de lo que est\u00e1 pasando.<\/span><\/em><\/p>\n \u00a0<\/p>\n \u00bfPor qu\u00e9 la conciencia tiene que ser un fen\u00f3meno encarnado cuando podemos tener experiencias de falta de cuerpo?<\/span><\/strong><\/p>\n Tienes raz\u00f3n, las personas pueden tener experiencias fuera del cuerpo, experiencias de cosas como la disoluci\u00f3n del ego, etc. Muestra que la forma en que aparecen las cosas en nuestra experiencia no siempre, si es que lo hace alguna vez, es un reflejo exacto de c\u00f3mo son en realidad. Nuestra experiencia de lo que es nuestro cuerpo es en s\u00ed misma una especie de percepci\u00f3n. Hay muchos experimentos que muestran que es bastante f\u00e1cil manipular las experiencias de las personas sobre d\u00f3nde est\u00e1 y d\u00f3nde no est\u00e1 su cuerpo. O qu\u00e9 objeto en el mundo es parte del cuerpo o no. Para poner el cerebro en una condici\u00f3n en la que pueda tener ese tipo de estados experienciales, mi sospecha es que debe haber al menos una historia de encarnaci\u00f3n. Un cerebro que no haya tenido ninguna interacci\u00f3n con un cuerpo o un mundo podr\u00eda ser consciente, pero no ser\u00eda consciente de nada en absoluto.<\/span><\/p>\n \u00a0<\/p>\n <\/p>\n![\"Es](\"https:\/\/puntocritico.com\/ausajpuntocritico\/wp-content\/uploads\/2023\/05\/Conciencia-Gallagher-678x381.jpg\")
<\/p>\n![\"\"](\"https:\/\/puntocritico.com\/ausajpuntocritico\/wp-content\/uploads\/2023\/05\/Anil-Seth-1-678x381.jpg\")
![\"\"](\"https:\/\/puntocritico.com\/ausajpuntocritico\/wp-content\/uploads\/2023\/08\/TheBrainIcon-300x164.png\")
<\/p>\n![\"\"](\"https:\/\/puntocritico.com\/ausajpuntocritico\/wp-content\/uploads\/2023\/08\/Word-chess-300x200.jpg\")
<\/p>\n![\"\"](\"https:\/\/puntocritico.com\/ausajpuntocritico\/wp-content\/uploads\/2023\/08\/Chess-climatic.jpg\")
<\/p>\n
![\"\"](\"https:\/\/puntocritico.com\/ausajpuntocritico\/wp-content\/uploads\/2023\/08\/chess-board-with-globe-300x231.png\")
<\/p>\n![\"\"](\"https:\/\/puntocritico.com\/ausajpuntocritico\/wp-content\/uploads\/2017\/09\/Percebe-300x169.jpg\")
<\/p>\n![\"\"](\"https:\/\/puntocritico.com\/ausajpuntocritico\/wp-content\/uploads\/2019\/07\/Cerebro-y-Cerebra-1-300x229.jpg\")
<\/a><\/p>\n