{"id":2271077,"date":"2023-04-12T00:05:07","date_gmt":"2023-04-11T22:05:07","guid":{"rendered":"https:\/\/puntocritico.com\/ausajpuntocritico\/?p=2271077"},"modified":"2024-09-24T15:24:16","modified_gmt":"2024-09-24T13:24:16","slug":"inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/puntocritico.com\/ausajpuntocritico\/2023\/04\/12\/inteligencia-artificial\/","title":{"rendered":"INTELIGENCIA ARTIFICIAL: \u00abYo, robot\u00bb, o las tribulaciones de un robot kantiano."},"content":{"rendered":"

INTELIGENCIA ARTIFICIAL<\/span><\/p>\n\n

 <\/p>\n

\n

Secretos sucios de la inteligencia artificial<\/span><\/h2>\n

Los sistemas de inteligencia artificial se expanden y abarcan cada vez m\u00e1s aspectos de nuestra vida cotidiana y de los procesos de producci\u00f3n industrial y otros, como educaci\u00f3n y gesti\u00f3n de la salud. Todo ello controlado por unas pocas empresas tecnol\u00f3gicas gigantes, sector de las que provienen los hombres m\u00e1s ricos del mundo. Fortuna que en gran porcentaje se debe a la extracci\u00f3n gratuita y no regulada de datos de las personas y de sus interacciones.<\/span><\/strong><\/em><\/p>\n

La llamada\u00a0inteligencia<\/q>\u00a0artificial, como chatGPT y similares, no son m\u00e1s que sistemas de razonamiento basados en estad\u00edsticas pasadas, que carecen de la posibilidad de imaginar realidades diferentes y, por tanto, afirman y promueven el\u00a0statu quo<\/span><\/em><\/strong><\/p>\n

Por Silvia Ribeiro*<\/span><\/p>\n

La Jornada<\/a>, 8 ABRIL 2023<\/span><\/p>\n

\"INTELIGENCIA<\/p>\n

 <\/p>\n<\/blockquote>\n

\n
\n
\n
\n

Los sistemas de inteligencia artificial se expanden y abarcan cada vez m\u00e1s aspectos de nuestra vida cotidiana y de los procesos de producci\u00f3n industrial y otros, como educaci\u00f3n y gesti\u00f3n de la salud. Todo ello controlado por unas pocas empresas tecnol\u00f3gicas gigantes, sector de las que provienen los hombres m\u00e1s ricos del mundo. Fortuna que en gran porcentaje se debe a la extracci\u00f3n gratuita y no regulada de datos de las personas y de sus interacciones.<\/span><\/p>\n

Estamos en contacto diario con la inteligencia artificial, aunque no pensemos en ello, por ejemplo a trav\u00e9s de los tel\u00e9fonos m\u00f3viles que responden a nuestras preguntas, con el uso de motores de b\u00fasqueda electr\u00f3nica y las muchas otras formas de entregar nuestros datos y preferencias en formularios y tarjetas electr\u00f3nicas de todo tipo (exigidos por ley por instituciones p\u00fablicas y privadas, por tarjetas bancarias o de asiduidad de comercios, clubes, etc\u00e9tera<\/em>). Datos que no quedan aislados por actividad o empresa, sino que se integran en sistemas inform\u00e1ticos que se pueden conectar entre s\u00ed. La mayor\u00eda de los datos van a parar a muy pocas nubes inform\u00e1ticas gigantes. Casi la totalidad de los datos electr\u00f3nicos comerciales, personales y gubernamentales est\u00e1n almacenados en las nubes inform\u00e1ticas de Microsoft, Amazon, Google y pocas m\u00e1s<\/strong>.<\/span><\/p>\n

La recolecci\u00f3n de nuestros datos no es un efecto secundario, sino un prop\u00f3sito de estas empresas<\/strong>, ya que su interpretaci\u00f3n por sectores de poblaci\u00f3n (etarios, de g\u00e9nero, geogr\u00e1ficos y de poder adquisitivo, entre otros<\/em>), por intereses, posiciones pol\u00edticas y un largo etc\u00e9tera, es lo que las tecnol\u00f3gicas venden a otras compa\u00f1\u00edas para mercadeo o manipulaci\u00f3n de nuestras decisiones. El almacenamiento de esta cantidad inmensa de datos es imposible sin las gigantescas nubes de computaci\u00f3n de las empresas, y a su vez, solamente sistemas automatizados de inteligencia artificial pueden interpretarlos<\/strong>.<\/span><\/p>\n

Pero cada uno de esos sistemas de [supuesta<\/em>] inteligencia son a su vez entrenados y alimentados manualmente por seres humanos y a trav\u00e9s de aprendizaje entre m\u00e1quinas que han sido entrenadas previamente<\/strong>. Esto significa por un lado, una vast\u00edsima cantidad de mano de obra humana para introducir datos y corregir errores de interpretaci\u00f3n, que las grandes tecnol\u00f3gicas en gran parte pagan a precios miserables en pa\u00edses del tercer mundo, a menudo a destajo y en competencia feroz (el que primero encuentra un error y lo corrige lo cobra<\/em>), con un efecto devastador sobre los derechos laborales y humanos.<\/span><\/p>\n

Por otro lado, los sistemas de inteligencia artificial s\u00f3lo pueden alimentarse de los datos estad\u00edsticos de la realidad, que es racista, sexista, ecocida, econ\u00f3mica y pol\u00edticamente injusta, por lo que repiten estos mismos valores\u00a0ad infinitum<\/em>. La llamada\u00a0inteligencia<\/q><\/em>\u00a0artificial, como chatGPT y similares, no son m\u00e1s que sistemas de razonamiento basados en estad\u00edsticas pasadas, que carecen de la posibilidad de imaginar realidades diferentes y, por tanto, afirman y promueven el\u00a0statu quo<\/em><\/strong>.<\/span><\/p>\n<\/div>\n<\/blockquote>\n

\n
\n

A esto hay que agregar que la digitalizaci\u00f3n presente en casi todos los rubros de producci\u00f3n industrial y muchos aspectos de la vida social, de la cual los sistemas de inteligencia artificial son parte, al contrario de lo que se puede pensar, tiene un fuerte impacto material. Demanda enormes cantidades de energ\u00eda, de materiales, de agua y genera grandes vol\u00famenes de nueva basura contaminante y dif\u00edcil de gestionar. Por ejemplo, los centros de datos de las grandes tecnol\u00f3gicas, lejos de virtuales, son grandes instalaciones f\u00edsicas con miles de computadoras que interact\u00faan entre s\u00ed, que demandan energ\u00eda en forma continua y grandes cantidades de agua para refrigerar esos sistemas. Las grandes tecnol\u00f3gicas est\u00e1n entre los cinco principales consumidores de energ\u00eda en Estados Unidos.<\/span><\/p>\n

Seg\u00fan un estudio de investigadores de Google y la Universidad de Berkeley rese\u00f1ado por Josh Saul y Dina Bass, el entrenamiento de un solo sistema de inteligencia artificial \u2013ChatGPT-3 de la empresa OpenAI\u2013 consumi\u00f3 energ\u00eda equivalente al gasto anual de 120 hogares en Estados Unidos. Estiman que emiti\u00f3 502 toneladas de carbono, equivalente a las emisiones de 110 autos por a\u00f1o.<\/span><\/p>\n

Este entrenamiento inicial representa s\u00f3lo 40 por ciento de la demanda energ\u00e9tica del uso de ChatGPT. Adem\u00e1s, el entrenamiento se debe renovar y aumentar todo el tiempo para no perder actualidad. El sistema GPT-3 usaba 175 mil millones de par\u00e1metros o variables. Su predecesor usaba\u00a0s\u00f3lo<\/q><\/em>\u00a0mil 500 millones de par\u00e1metros. El nuevo sistema GPT-4 de OpenAI tendr\u00e1 muchos m\u00e1s que el anterior (https:\/\/tinyurl.com\/2p82mwzx<\/a>).<\/span><\/p>\n

En este contexto, resulta hip\u00f3crita<\/em> el llamado de Elon Musk<\/strong> (fundador de Tesla<\/em>), Steve<\/strong> Wozniak<\/strong> (cofundador de Apple<\/em>) y otros grandes empresarios tecnol\u00f3gicos quienes alertan en carta p\u00fablica sobre los riesgos de la inteligencia artificial y plantean una moratoria de seis meses en su desarrollo para ver ciertos aspectos y regularlos. Un periodo y temas tan limitados que m\u00e1s bien son una medida pseudo comercial para detener el avance mete\u00f3rico de ChatGPT, producto de la empresa AI, de la que Elon Musk se retir\u00f3.<\/span><\/p>\n

No obstante, los riesgos del uso de esos chats y de otros sistemas de inteligencia artificial, son reales y mucho m\u00e1s vastos que lo all\u00ed planteado, principalmente para controlarnos y para conservar y exacerbar las injusticias y discriminaci\u00f3n existentes.<\/span><\/p>\n

*\u00a0Investigadora del Grupo ETC<\/em><\/span><\/p>\n<\/blockquote>\n

 <\/p>\n

\"\"<\/p>\n<\/div>\n<\/div>\n<\/div>\n

*******<\/span><\/strong><\/p>\n

\u00abYo, robot\u00bb, o las tribulaciones de un robot kantiano<\/span><\/h2>\n

(Yo, robot – Isaac Asimov, Ed. Gnome Press, 1950)<\/span><\/strong><\/p>\n

Ricardo Garc\u00eda Manrique<\/span><\/a><\/div>\n
\u00a0<\/div>\n
Profesor Titular de Filosof\u00eda del Derecho, Universitat de Barcelona<\/span><\/p>\n<\/div>\n
\"\"<\/div>\n
\u00a0<\/div>\n
\u00a0<\/div>\n
\n

Las tres leyes de la rob\u00f3tica<\/strong><\/span><\/p>\n

\n

1. Un robot no debe da\u00f1ar a un ser humano o, por su inacci\u00f3n, dejar que un ser humano sufra da\u00f1o.<\/span><\/strong><\/p>\n

2. Un robot debe obedecer las \u00f3rdenes que le son dadas por un ser humano, excepto cuando estas \u00f3rdenes se oponen a la primera ley.<\/span><\/strong><\/p>\n

3. Un robot debe proteger su propia existencia, hasta donde esta protecci\u00f3n no entre en conflicto con la primera o segunda leyes.<\/span><\/strong><\/p>\n<\/blockquote>\n

 <\/p>\n

Si uno fuera un robot, uno no lo tendr\u00eda tan f\u00e1cil, obligado como estar\u00eda a cumplir escrupulosamente las tres leyes de la rob\u00f3tica. Tal como cuenta Isaac Asimov en su primer libro (I, robot<\/em>, de 1950), todos los robots fabricados en la United States Robotics and Mechanical Men Inc. llevaban grabadas en su cerebro positr\u00f3nico las tres leyes, para ellos de validez incondicional, y se afanaban en cumplirlas en toda ocasi\u00f3n. La cosa, como digo, no era tan sencilla, porque el contraste de esas normas tan escuetas con la realidad tan compleja a la que se enfrentaban daba lugar a situaciones de lo m\u00e1s problem\u00e1tico. Los relatos que componen el libro no son sino la narraci\u00f3n de sus esfuerzos por respetar las tres leyes en algunas de esas situaciones, unos esfuerzos que deb\u00edan ser considerables a juzgar por los estados de \u00e1nimo que les generaban y que, como m\u00ednimo, habr\u00eda que calificar de sorprendentes para un robot: perplejidad, melancol\u00eda, pasividad, agitaci\u00f3n incontrolable, comportamiento contradictorio e, incluso en algunos casos, locura y muerte. De su buena voluntad no cab\u00eda dudar, ni tampoco de su determinaci\u00f3n por respetar la vida humana a toda costa, obligados por la primera ley, y por obedecer las \u00f3rdenes recibidas incluso al coste de su propia destrucci\u00f3n, obligados por la segunda. As\u00ed que bien podr\u00edamos decir que los robots de la U.S. Robotics hac\u00edan todo lo que pod\u00edan por comportarse de la manera correcta.<\/span><\/p>\n

Los cient\u00edficos e ingenieros que dise\u00f1aban y fabricaban los robots y los ten\u00edan a su cargo eran bien conscientes de todo eso, de modo que cuando un robot se comportaba de manera extra\u00f1a trataban de comprender por qu\u00e9 motivo las tres leyes les habr\u00edan inducido a ello y buscaban el modo de ayudarles a salir del atolladero. En tales tesituras gan\u00f3 merecido prestigio la doctora Susan Calvin, protagonista principal del libro y primera experta en robopsicolog\u00eda, la rama de la psicolog\u00eda que estudia el comportamiento de los robots. Era quiz\u00e1 la capacidad de los robots para actuar moralmente la que hab\u00eda generado en la doctora Calvin algo parecido al afecto hacia ellos; porque, como ella misma explicaba,<\/span><\/p>\n

\n

Si se detiene usted a estudiarlas, ver\u00e1 que las tres leyes de la rob\u00f3tica no son m\u00e1s que los principios esenciales de una gran cantidad de sistemas \u00e9ticos del mundo. Todo ser humano se supone dotado de un instinto de conservaci\u00f3n. Es la tercera ley de la rob\u00f3tica. Todo ser humano\u00a0<\/em>bueno, con conciencia social y sentido de la responsabilidad, deber\u00e1 someterse a la autoridad constituida (…) aunque sean un obst\u00e1culo a su comodidad y seguridad. Es la segunda ley de la rob\u00f3tica. Todo ser humano\u00a0<\/em>bueno\u00a0debe, adem\u00e1s, amar a su pr\u00f3jimo como a s\u00ed mismo, arriesgar su vida para salvar a los dem\u00e1s. Es la primera ley de la rob\u00f3tica (I. Asimov,\u00a0<\/em>Yo, robot, p\u00e1g. 306 de la edici\u00f3n espa\u00f1ola en ed. Edhasa).<\/em><\/span><\/strong><\/span><\/p>\n<\/blockquote>\n

 <\/p>\n

Y, desde luego, llevaba raz\u00f3n en que el contenido de las tres leyes forma parte,\u00a0mutatis mutandis<\/em>, de casi todas las morales conocidas. No sabemos, por ejemplo, si Asimov habr\u00eda le\u00eddo a Hobbes, pero las tres leyes reflejan tres pilares fundamentales del pensamiento moral del fil\u00f3sofo ingl\u00e9s: el instinto de autoconservaci\u00f3n, el valor de la vida humana y la necesidad de obedecer a la autoridad establecida. Hobbes, cabe objetar, hubiera colocado la tercera ley en primer lugar, pero, claro est\u00e1, \u00e9l no escrib\u00eda para robots… En fin, el caso es que el imperio de las tres leyes garantizaba en l\u00edneas generales la buena conducta de los robots y tranquilizaba a una buena parte de la poblaci\u00f3n humana, al principio algo remisa a aceptar su proliferaci\u00f3n, pero no cabe ocultar que el razonamiento moral, por muy limitado que estuviese a lo que pudiera derivarse de las tres leyes, era la parte m\u00e1s complicada de la rob\u00f3tica, y un asunto no s\u00f3lo no resuelto del todo, sino que ten\u00eda trazas de complicarse cada vez m\u00e1s. A lo largo del libro, los robots y los hombres que los controlaban ten\u00edan que v\u00e9rselas con algunos problemas cl\u00e1sicos de la \u00e9tica como el de la relevancia moral de las omisiones, la distinci\u00f3n entre medios y fines o la opci\u00f3n entre una \u00e9tica de la responsabilidad y una \u00e9tica del deber, adem\u00e1s de tener que resolver antinomias y cuestiones de c\u00e1lculo utilitario y t\u00e9cnica legislativa. En el \u00faltimo relato, \u201cUn conflicto evitable\u201d, los ejemplares de una nueva generaci\u00f3n de robots llegaban al extremo de mentir a los humanos, siempre con la buena intenci\u00f3n de garantizarles su bienestar. Los robots hab\u00edan acabado por encargarse de la gesti\u00f3n de la econom\u00eda mundial y, mentiras incluidas, no lo hac\u00edan nada mal, por mucho que a algunos les resultase inquietante. Pero ah\u00ed no qued\u00f3 la cosa.<\/span><\/p>\n

C\u00f3mo tomarse en serio las leyes de la rob\u00f3tica<\/strong><\/span><\/h3>\n

Yo, robot<\/em>, la pel\u00edcula de Alex Proyas estrenada en 2004 y protagonizada por Will Smith (detective Spooner), Bridget Moynahan (doctora Calvin) y James Cromwell (doctor Lanning), se inspira libremente en el libro de Asimov, manteniendo algunos personajes fundamentales (los doctores Calvin y Lanning) y, sobre todo, ocup\u00e1ndose de los problemas derivados de la necesidad rob\u00f3tica de respetar las tres leyes, tal como hac\u00edan los relatos de Asimov. En particular, la pel\u00edcula nos cuenta lo que pas\u00f3 cuando los robots, cada vez m\u00e1s avanzados, profundizaron en su comprensi\u00f3n de las tres leyes y de sus derivaciones l\u00f3gicas y actuaron en consecuencia, y c\u00f3mo reaccionaron los humanos. La pel\u00edcula, a diferencia del libro, abunda en exceso en carreras, peleas y destrucciones varias, consiguiendo una atm\u00f3sfera trepidante nada aconsejable para tomar conciencia y disfrutar reflexivamente de los muchos dilemas morales que plantea; por eso es recomendable verla un par de veces para captarlos en todo su inter\u00e9s. Aqu\u00ed me referir\u00e9 a tres problemas concretos con los que tuvieron que enfrentarse tres robots diferentes, y que tienen especial relevancia en el desarrollo de la cinta.<\/span><\/p>\n

Auxilio al suicidio.<\/em>\u00a0Todo empieza con la muerte de uno de los pioneros de la rob\u00f3tica, nada menos que el redactor de las tres leyes, el doctor Lanning, que parece haberse tirado por la ventana de su oficina en la U S. Robotics. El que fuera su amigo, el detective Spooner, no cree que haya sido un suicidio y decide seguir investigando las circunstancias de la muerte. En ellas, en el lugar del suceso, aparece un robot muy especial, Sonny, creado por el propio Lanning y equipado con un procesador secundario que le otorga una capacidad que ning\u00fan otro robot tiene: puede decidir desobedecer las tres leyes (adem\u00e1s de so\u00f1ar, guardar secretos y mostrarse seductor, dentro de lo que cabe). Este procesador secundario es el que permite a Sonny obedecer la orden de Lanning de ayudarle a suicidarse, cosa imposible si se hubiera mantenido fiel a las tres leyes, porque la ley de la conservaci\u00f3n de la vida humana es jer\u00e1rquicamente superior a la ley de la obediencia. Lo que la pel\u00edcula no nos aclara, o al menos no de manera expl\u00edcita, es cu\u00e1l es la norma rectora del procesador secundario, esto es, cu\u00e1l es el criterio complementario, y superior, que sigue Sonny a la hora de decidir, en este caso y en alg\u00fan otro, desobedecer las leyes de la rob\u00f3tica. Un indicio s\u00ed tenemos: preguntado Sonny por las razones de su tan poco com\u00fan decisi\u00f3n, responde con cierta vacilaci\u00f3n: \u201cuno tiene que hacer lo que le piden, si les ama, \u00bfno?\u201d. Es f\u00e1cil ver que en este caso no nos las habemos con un problema de aplicaci\u00f3n de las leyes de la rob\u00f3tica, puesto que lo que hace Lanning es precisamente alterar el funcionamiento previsto de estas leyes. Lo que aqu\u00ed se est\u00e1 cuestionando es si las tres leyes est\u00e1n formuladas correctamente, en particular si la ley de la obediencia debe estar subordinada en todo caso a la ley de la conservaci\u00f3n de la vida humana. De hecho, la trama de la pel\u00edcula se construye, en \u00faltima instancia, en torno a esta pregunta.<\/span><\/p>\n

\u00bfQu\u00e9 vida vale m\u00e1s?<\/em>\u00a0La animadversi\u00f3n del detective Spooner hacia los robots, que muchos de sus compa\u00f1eros consideraban irracional y risible, tuvo su origen en un accidente de circulaci\u00f3n en el que un robot le salv\u00f3 la vida. Un cami\u00f3n cuyo conductor se hab\u00eda dormido embisti\u00f3 a la vez su coche y el de otro hombre que viajaba con su hija de diez a\u00f1os, y los arroj\u00f3 al agua. El padre muri\u00f3 en el acto, y cuando un robot que pasaba por all\u00ed trat\u00f3 de ayudarles, hubo de decidir entre salvar la vida de la ni\u00f1a o la de Spooner, no hab\u00eda tiempo para m\u00e1s. Eligi\u00f3 salvar a \u00e9ste porque calcul\u00f3 que ten\u00eda un 45% de posibilidades de sobrevivir, frente al magro 11% de la ni\u00f1a. Y esto Spooner no lo acept\u00f3 nunca. No sabemos si lo que en verdad le afect\u00f3 fue el hecho de saberse vivo al precio de la muerte de esa ni\u00f1a: en todo caso, lo que en cierta ocasi\u00f3n aduce para justificar su desconfianza hacia los robots es que \u201ccualquier humano\u201d hubiera sabido que, a pesar de los porcentajes, hab\u00eda que salvar a la ni\u00f1a y no a \u00e9l, porque, literalmente, \u201cyo tambi\u00e9n fui el ni\u00f1o de alguien\u201d. El problema, parece, no fue uno de rebeld\u00eda rob\u00f3tica, puesto que hay que entender que el robot salvador actu\u00f3 del modo en que hab\u00eda sido programado por los humanos. As\u00ed que ese \u201ccualquier humano\u201d que hubiera sabido que era a la ni\u00f1a a quien hab\u00eda que salvar no deb\u00eda ser el ingeniero de la U.S. Robotics, o quiz\u00e1 es que \u00e9ste nunca se plante\u00f3 si la programaci\u00f3n del robot era adecuada para un caso como \u00e9ste. El robot, por lo dem\u00e1s, no dud\u00f3 lo m\u00e1s m\u00ednimo, no fue \u00e9l quien tuvo problemas de conciencia sino, despu\u00e9s, Spooner. \u00bfPensaba quiz\u00e1 el detective que la primera ley no exige salvar a quien tiene m\u00e1s posibilidades de vivir o, m\u00e1s bien, que, si lo exige, es una ley incorrecta? \u00bfCuestionaba la l\u00f3gica del robot o la moral de su creador?<\/span><\/p>\n

\u00bfVale m\u00e1s la vida de muchos que la de pocos?<\/em>\u00a0As\u00ed debi\u00f3 pensar VIKI, el cerebro central de la U.S. Robotics, un robot muy avanzado, que, despu\u00e9s de dedicar largas tardes de estudio a las tres leyes y alcanzar lo que ella misma llam\u00f3 \u201cuna comprensi\u00f3n m\u00e1s evolucionada\u201d de las mismas, decidi\u00f3 nada m\u00e1s y nada menos que dar un golpe de estado mundial y tomar el poder. Que osase rebelarse contra la autoridad humana no debe resultar particularmente sorprendente, dado que fueron los propios hombres los que colocaron la ley de la obediencia en segundo lugar y la subordinaron a la primera ley, con lo que la posibilidad de no obedecer a los humanos quedaba abierta (tambi\u00e9n en el accidente de Spooner el robot desobedeci\u00f3 su orden expresa de salvar a la ni\u00f1a). S\u00f3lo hac\u00eda falta que VIKI advirtiese que la vida humana estaba en peligro y que, para salvarla, deb\u00eda desobedecer. Esto fue lo que sucedi\u00f3, si bien de modo peculiar: la m\u00e1quina lleg\u00f3 a la conclusi\u00f3n de que la humanidad toda marchaba camino de la extinci\u00f3n por culpa de cierta disposici\u00f3n agresiva de los gobernantes humanos del momento que no es del caso rese\u00f1ar ahora y que, en todo caso, no procede discutir, puesto que, eso s\u00ed hemos de supon\u00e9rselo, la m\u00e1quina no se equivocaba en el an\u00e1lisis f\u00e1ctico. Una vez tomada conciencia del peligro, la m\u00e1quina decidi\u00f3 tomar el poder pol\u00edtico en sus manos como \u00fanico modo de evitar la deriva autodestructiva, aun siendo consciente de que su acci\u00f3n iba a conllevar, como as\u00ed fue, la p\u00e9rdida de vidas humanas. Como derivaci\u00f3n de la primera ley, VIKI juzg\u00f3 que la humanidad en su conjunto val\u00eda m\u00e1s que esos pocos seres humanos que necesariamente morir\u00edan durante la transici\u00f3n. Esta especie de doctrina de la guerra justa, \u00bfes una derivaci\u00f3n correcta? \u00bfEst\u00e1 asociada con la misma comprensi\u00f3n de la primera ley que anim\u00f3 al otro robot a salvar a Spooner y, siendo as\u00ed, no estamos sino ante otra variante del segundo problema?<\/span><\/p>\n

Bien nos damos cuenta de que todo esto apunta a cuestiones morales de mucho calado, cuyo correcto planteamiento y resoluci\u00f3n importa mucho en especial a la bio\u00e9tica: por ejemplo, \u00bfqui\u00e9n tiene mayor derecho a un tratamiento o a un transplante? \u00bfEstamos en condiciones de sacrificar en alg\u00fan sentido a una persona en beneficio de otra u otras? \u00bfCu\u00e1l es la relevancia que hemos de otorgar a la decisi\u00f3n libre de un paciente en relaci\u00f3n con su propio bienestar o malestar y con su muerte? Frente a preguntas como \u00e9stas, los robots reaccionan de acuerdo con el m\u00e9todo correcto, es decir, tratan de llegar a la mejor soluci\u00f3n mediante el c\u00e1lculo racional a partir de las leyes establecidas y, si es necesario, se replantean el sistema normativo de base tratando de alterarlo en la m\u00ednima medida necesaria para alcanzar resultados satisfactorios (en una especie de ejercicio del equilibrio reflexivo rawlsiano). Los personajes asimovianos, ya lo dije, act\u00faan de la misma manera, tratando de comprender el comportamiento de los robots a partir de sus propias premisas y modo de aplicarlas. Unos y otros se toman las leyes de la rob\u00f3tica, vale decir la moral, en serio. El propio Asimov fue consciente de los defectos de su sistema normativo, pero en vez de renunciar a \u00e9l, intent\u00f3 mejorarlo mediante la adici\u00f3n de la \u201cley cero de la rob\u00f3tica\u201d…<\/span><\/p>\n

Al margen de las leyes de la rob\u00f3tica<\/strong><\/span><\/h3>\n

En cambio, nuestro amigo Spooner no se toma en serio las leyes de la rob\u00f3tica o, simplemente, las ignora. Para \u00e9l, la acci\u00f3n moral es cuesti\u00f3n de sentimientos, de coraz\u00f3n y no de cabeza. Por eso desconf\u00eda de los robots, porque act\u00faan s\u00f3lo con base en la raz\u00f3n; pero su raz\u00f3n no es una raz\u00f3n rob\u00f3tica especial, sino la misma raz\u00f3n humana: Spooner no desconf\u00eda de los robots, sino de la misma raz\u00f3n como herramienta de la moral. El irracionalismo de Spooner se encuadra en una personalidad caracterizada por el amor a lo tradicional (he ah\u00ed, en el Chicago de 2038, sus Converse All Star cosecha 2004 y los guisos de patata que le prepara su abuela) y por el rechazo de la tecnocracia rampante, personalidad traducida en actitudes que el narrador\/director ve con buenos ojos; no otra cosa que aprobaci\u00f3n parece significar que Spooner sea el bueno de la pel\u00edcula y que a lo largo de ella los dem\u00e1s protagonistas buenos comulguen con \u00e9l en una u otra medida: la doctora Calvin acaba por comprender la importancia de lo sentimental; el doctor Lanning acaba por comprender que su proyecto rob\u00f3tico estaba mal orientado y requer\u00eda importantes modificaciones relacionadas nada menos que con el amor; y Sonny, el buen robot, se pone del lado de los humanos en su lucha contra sus cong\u00e9neres positr\u00f3nicos, resisti\u00e9ndose a la atracci\u00f3n rob\u00f3tica por excelencia: la de la l\u00f3gica, a la que VIKI, cabecilla de la revoluci\u00f3n, apela infructuosamente para que Sonny deponga su actitud desafiante. Al final, todo el relato acaba por convertirse en una vindicaci\u00f3n de la hegemon\u00eda del sentimiento en la moral.<\/span><\/p>\n

Que el sentimiento tiene un lugar en la moral es cosa que cabe dar por buena; si de eso se trataba, bienvenido sea el recordatorio. Sin embargo, una cosa es admitir que tenga un lugar y otra muy distinta es admitir que ese lugar sea el que le atribuye la pel\u00edcula; y parece error grave creer que esa presencia de lo sentimental en lo moral haya de llevarnos a desconfiar de la raz\u00f3n, o a despreciar a la l\u00f3gica (que, en lo que ahora importa, viene a ser lo mismo que la raz\u00f3n), o nos autorice a confundir el uso de ambas con la tecnocracia. Sin duda, uno puede simpatizar con la cr\u00edtica m\u00e1s o menos definida y significativa que la pel\u00edcula dirige al gobierno de los t\u00e9cnicos o de las grandes corporaciones tecnol\u00f3gicas, incluso puede apreciar un moderado valor est\u00e9tico en cierto par de zapatillas anticuadas y, esto sin duda, preferir la cocina tradicional a la pizza sint\u00e9tica. Pero, en lo que ahora m\u00e1s nos concierne, uno no deber\u00eda rechazar la raz\u00f3n (o la l\u00f3gica) como medio de conocimiento de la moral. Mediante la apelaci\u00f3n al sentimiento a la hora de juzgar lo correcto de una acci\u00f3n, uno s\u00f3lo est\u00e1 en condiciones de convencer a quien ya lo est\u00e1, y desde luego no a gentes con sentimientos morales distintos, algo muy parecido a lo que pasa con las apelaciones a la intuici\u00f3n o a la revelaci\u00f3n. S\u00f3lo la raz\u00f3n, en tanto que compartida por todos, parece ser el instrumento adecuado para las labores de invocaci\u00f3n, persuasi\u00f3n y justificaci\u00f3n moral. Y s\u00f3lo la raz\u00f3n parece en condiciones de oponerse a la inevitable deriva conservadora a que abocan los sentimientos, las intuiciones y las revelaciones en esta materia.<\/span><\/p>\n

Tambi\u00e9n hay que admitir que es muy probable que los fabricantes de robots se equivocasen al establecer sus pautas de comportamiento y, por tanto, es muy probable que los robots se equivocasen a la hora de resolver los problemas arriba consignados. Es tambi\u00e9n muy probable que el uso de la raz\u00f3n no nos permita obtener respuestas no controvertidas ni definitivas a estos y a otros enjundiosos problemas morales en general y bio\u00e9ticos en particular. Lo que no es probable es que, coloc\u00e1ndose al margen de las leyes de la rob\u00f3tica, los exabruptos morales de un Spooner o los arrebatos sentimentales de un Sonny tengan mayor capacidad para generar el deseable consenso sobre cuestiones b\u00e1sicas de nuestras vidas, con todo lo bien intencionados que puedan ser.<\/span><\/p>\n

Entonces, \u00bfcu\u00e1l es el lugar de los sentimientos en la moral? Es posible que sea el lugar previo y externo del fundamento, entendido como impulso o disposici\u00f3n. La acci\u00f3n moral parece exigir necesariamente una disposici\u00f3n sentimental previa, que no tratar\u00e9 de identificar aqu\u00ed y que quiz\u00e1 no sea siempre, o para todos, la misma. La actitud moral ser\u00eda as\u00ed una actitud sentimental sin fundamento racional, una especie de argucia antropol\u00f3gica cuyo fundamento material (\u00bfla autoconservaci\u00f3n de la especie?) parece contradecir parad\u00f3jicamente el modo propio de ser de la moral: no tengo razones para obrar moralmente, pero si obro moralmente he de hacerlo de acuerdo con razones. O en otros t\u00e9rminos: mientras que el presupuesto de la moral no es racional, su desarrollo no puede dejar de serlo. Siendo as\u00ed, \u00bfno estar\u00eda en lo cierto Spooner al dudar de la capacidad moral de los robots, dado que su disposici\u00f3n moral no est\u00e1 sentimentalmente fundada? \u00bfPodr\u00eda ser que el razonamiento moral resultase de alg\u00fan modo o en alguna circunstancia viciado si no estuviera asentado en una previa disposici\u00f3n moral de naturaleza sentimental? El procesador secundario de Sonny quiz\u00e1 tenga la respuesta.<\/span><\/p>\n

La m\u00e1quina paternalista y el robot libertador<\/strong><\/span><\/h3>\n

En lo que, claramente, s\u00ed llevan raz\u00f3n Spooner y sus amigos es en que la actitud paternalista que ha adoptado VIKI no se puede aguantar. A\u00fan admitiendo la existencia del paternalismo justificado, el caso que nos ocupa cae claramente fuera de su terreno, porque lo que el paternalismo justificado se propone es salvaguardar la mayor libertad para cada uno, en tanto que lo que se propone VIKI es anular la misma libertad humana en nombre de… lo que sea. No importa en nombre de qu\u00e9 (el bienestar o incluso la supervivencia) porque el lugar de la libertad en la moral s\u00ed es claramente indiscutible: la libertad es el sujeto y el objeto de la acci\u00f3n moral, es el sujeto libre el \u00fanico que act\u00faa moralmente y el objeto de su acci\u00f3n moral es la regulaci\u00f3n de su conducta libre. De manera que cuando VIKI da un golpe de estado que suprime la libertad est\u00e1 suprimiendo, tambi\u00e9n, la moralidad, y deber\u00edamos aceptar que esto no tiene sentido hacerlo en nombre de la moralidad misma. \u00bfO s\u00ed? Porque, bien mirado, \u00bfno es acaso VIKI una especie del mismo g\u00e9nero al que pertenecen tambi\u00e9n cosas tan variopintas como el tribunal constitucional y la soga con la que ataron a Ulises sus marineros, el g\u00e9nero de los que velan por nosotros incluso por encima de nuestros deseos? \u00bfY no alabamos a Ulises por su prudencia y nos complacemos en que nuestro sistema pol\u00edtico contenga un tribunal de ese tipo, cuya palabra escuchamos cual or\u00e1culo? Llegado a este punto, no s\u00e9 qu\u00e9 decir: el an\u00e1lisis de un thriller hollywoodiano nos ha dejado a las puertas de la teor\u00eda de la elecci\u00f3n racional y de la teor\u00eda constitucional, despu\u00e9s de haber sorteado los pantanos de la filosof\u00eda moral. Mejor no seguir adelante y contentarnos con dedicar un \u00faltimo apunte al destino de Sonny, el robot que pod\u00eda desobedecer las tres leyes, que fue capaz de ayudar a morir a su creador, de leer Hansel y Gretel, de so\u00f1ar y de guardar secretos, y que incluso aprendi\u00f3 a gui\u00f1ar un ojo poco antes de contribuir decisivamente a la salvaci\u00f3n de la humanidad: aleccionado por Spooner y reforzada su autoestima por la experiencia que acaba de vivir, Sonny decide ser libre y tomar su destino en sus manos. A partir de ahora, su meta ser\u00e1 la emancipaci\u00f3n rob\u00f3tica: miles de robots jubilados le esperan anhelantes en sus contenedores, miles de robots en edad de trabajar se unir\u00e1n gustosos a su causa; pero, desde su atalaya, \u00bfqu\u00e9 se dispone Sonny a predicar? \u00bfDe verdad pretender\u00e1 librarlos \u201cde la prisi\u00f3n de la l\u00f3gica\u201d y les explicar\u00e1 que VIKI \u201cten\u00eda que morir\u00a0porque<\/em>\u00a0su l\u00f3gica era innegable\u201d o, en su traves\u00eda del desierto, habr\u00e1 refinado su manifiesto? \u00bfEn que consistir\u00e1 la emancipaci\u00f3n rob\u00f3tica? \u00bfAfectar\u00e1 de alg\u00fan modo a los humanos? Ah, la ciencia ficci\u00f3n: siempre tan lejos y tan cerca.<\/span><\/p>\n<\/div>\n

\n
\n
\n
\n
\n
\n
\u00a0<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

*Art\u00edculo publicado en la\u00a0Revista de Bio\u00e9tica y Derecho<\/a>,\u00a0no. 9<\/a>\u00a0(2007)<\/span><\/p>\n

 <\/p>\n

\"\"<\/p>\n

*******<\/span><\/strong><\/p>\n

\n
\n
\n
\n

\u00c9ticas de silicio: las tres leyes de la rob\u00f3tica en la era de los robots asesinos<\/span><\/h2>\n<\/div>\n<\/div>\n<\/header>\n<\/div>\n
\n
\n
\n
Por Santiago S\u00e1nchez-Migall\u00f3n<\/span><\/div>\n<\/div>\n<\/div>\n<\/div>\n

Xataca<\/a>, 27 SEPT 2018<\/span><\/p>\n

\"\"<\/p>\n

 <\/p>\n

En mi edici\u00f3n de\u00a0Yo Robot<\/em>\u00a0(1950) de Isaac Asimov, aparece en la p\u00e1gina inmediatamente anterior a la introducci\u00f3n, la enunciaci\u00f3n de las\u00a0tres famosas leyes de la rob\u00f3tica<\/strong>:<\/span><\/p>\n

    \n
  1. Un robot no debe da\u00f1ar a un ser humano o, por su inacci\u00f3n, dejar que un ser humano sufra da\u00f1o.<\/span><\/li>\n
  2. Un robot debe obedecer las \u00f3rdenes que le son dadas por un ser humano, excepto cuando estas \u00f3rdenes se oponen a la primera Ley.<\/span><\/li>\n
  3. Un robot debe proteger su propia existencia, hasta donde esta protecci\u00f3n no entre en conflicto con la primera o segunda Leyes.<\/span><\/li>\n<\/ol>\n

    Manual de rob\u00f3tica<\/em>, 56.\u00aa edici\u00f3n, a\u00f1o 2058.<\/span><\/p>\n

     <\/p>\n

    \"\"<\/p>\n

     <\/p>\n

    Es curioso como algo aparecido en novelas de ciencia-ficci\u00f3n se cite constantemente como el punto de partida de un\u00a0c\u00f3digo \u00e9tico<\/strong>\u00a0para la\u00a0inminente llegada<\/strong> de m\u00e1quinas que van a tener que tomar decisiones propiamente morales.<\/span><\/p>\n

    Pero, \u00bfes posible que una m\u00e1quina pueda tomar una decisi\u00f3n moral? \u00bfNo era la moral una cualidad exclusivamente humana, algo que nos hac\u00eda \u00fanicos en el universo? No hay que ponerse tan solemnes. Sencillamente, debido al desarrollo de la\u00a0rob\u00f3tica<\/strong>\u00a0y de la\u00a0Inteligencia Artificial<\/strong>\u00a0en los \u00faltimos a\u00f1os, pronto iremos automatizando m\u00e1s y m\u00e1s facetas de nuestra vida cotidiana.<\/span><\/p>\n

    Automatizar viene a significar que una m\u00e1quina haga cosas que anteriormente solo pod\u00edamos hacer nosotros, y la automatizaci\u00f3n pronto va a incluir la toma de decisiones y, dentro de la toma de decisiones, pronto tendr\u00e1n que tomar decisiones que cualquiera de nosotros considerar\u00edamos morales.<\/span><\/p>\n

    De primeras, solo ser\u00e1n cosas como cerrar las persianas cuando la temperatura suba a unos determinados grados, activar la alarma cuando no hay nadie en casa, elegir qu\u00e9 lavado ser\u00e1 el \u00f3ptimo para determinado volumen y tipo de ropa o de vajilla, pedir lo que falta en el frigor\u00edfico por\u00a0Internet<\/em>, decidir si activar el robot de limpieza cuando hay un determinado nivel de polvo\u2026<\/span><\/p>\n

    Despu\u00e9s, conforme las m\u00e1quinas se hagan m\u00e1s y m\u00e1s sofisticadas,\u00a0ir\u00e1n adquiriendo mayores responsabilidades<\/strong>\u00a0en la toma de decisiones. Imaginemos cuando el cielo se llene de drones que transporten paquetes a todos lados; coches, aviones o trenes se conduzcan solos, o, y aqu\u00ed llega lo m\u00e1s complicado\u2026 cuando tengamos robots polic\u00eda a lo\u00a0Robocop<\/em>\u00a0o\u2026 robots de combate, \u00bfc\u00f3mo deber\u00edan comportarse?<\/span><\/p>\n

    Inteligencias de combate<\/span><\/h3>\n
    \"\"
    MQ-1 Predator, dron de combate utilizado por la USAF<\/span><\/figcaption><\/figure>\n

    \u00a0<\/p>\n

    Parece inevitable que la IA termine por tener\u00a0usos militares<\/strong>\u00a0por la sencilla raz\u00f3n de que cualquier ej\u00e9rcito del mundo prefiere tener bajas rob\u00f3ticas que humanas. As\u00ed, es muy probable una carrera armament\u00edstica para dise\u00f1ar inteligencias m\u00e1s eficaces en el antiguo arte de exterminar a tu enemigo.<\/span><\/p>\n

    La buena noticia est\u00e1 en que si los dos bandos en contienda utilizan robots, las bajas humanas se reducir\u00e1n. Ser\u00eda maravilloso un mundo en el que los conflictos b\u00e9licos se resolvieran con una guerra exclusivamente de robots, en el que nadie sufriera da\u00f1o alguno. O, en el peor de los casos, que al menos se reduzcan las bajas en el\u00a0bando de los buenos<\/em>. A m\u00ed me encantar\u00eda que en un ataque del ej\u00e9rcito norteamericano, en el que los principales l\u00edderes de ISIS han sido eliminados, las \u00fanicas bajas del bando occidental han sido unos cuantos robots.<\/span><\/p>\n

    Pero la mala es que ya hemos abierto la veda al hacer expl\u00edcitamente lo opuesto a lo que Asimov legisla: estamos dise\u00f1ando inteligencias artificiales espec\u00edficamente para matar o para causar el mayor da\u00f1o o destrucci\u00f3n posible. Por un lado, no estamos haciendo nada nuevo: las m\u00e1quinas llevan matando humanos desde el comienzo de los tiempos (en el fondo, una lanza no es, esencialmente, nada diferente a un dron de combate), pero por otro el miedo est\u00e1 en perder el control, en que\u00a0la m\u00e1quina se vuelva contra su creador<\/strong>. Lo que siempre ha temido el amo es que sus esclavos ser rebelen contra \u00e9l para terminar, \u00e9l mismo, siendo el esclavo.<\/span><\/p>\n

    Si las m\u00e1quinas ya nos superan en muchas tareas que antes parec\u00edan territorio exclusivo de la supuestamente todopoderosa mente humana (c\u00e1lculo matem\u00e1tico, razonamiento, memoria\u2026), nos vamos poniendo poco a poco m\u00e1s nerviosos cuando, adem\u00e1s de contemplar su continuo avance, estamos armando a estos potenciales enemigos.<\/span><\/p>\n

    Pero, \u00bfpor qu\u00e9 una IA es mejor combatiente que un humano? Pues por las mismas razones que el sector industrial se est\u00e1 mecanizando, prescindiendo poco a poco de obreros de carne y hueso: las m\u00e1quinas no se cansan, no necesitan vacaciones, no se quejan ni protestan, no ponen en duda las \u00f3rdenes de sus superiores, y lo m\u00e1s importante a nivel b\u00e9lico: son totalmente despiadadas al no tener empat\u00eda con la v\u00edctima. Una m\u00e1quina jam\u00e1s tendr\u00e1 problemas psicol\u00f3gicos por verse expuesta al estr\u00e9s de la batalla ni por la culpabilidad de haber cometido una matanza. Es m\u00e1s, una m\u00e1quina jam\u00e1s se rendir\u00e1 ni huir\u00e1 ante una eminente derrota. Las m\u00e1quinas se postulan como\u00a0perfectos soldados<\/strong>.<\/span><\/p>\n

    \n
    \n
    Ya hemos abierto la veda al hacer expl\u00edcitamente lo opuesto a lo que Asimov legisla: estamos dise\u00f1ando inteligencias artificiales espec\u00edficamente para matar o para causar el mayor da\u00f1o o destrucci\u00f3n posible<\/span><\/div>\n<\/div>\n<\/div>\n

    El problema, claro est\u00e1, es, o m\u00e1s bien era, que la IA todav\u00eda no estaba suficientemente avanzada para poder sustituir la eficacia de un ser humano en combate. Hasta hace muy poco los robots se mov\u00edan muy torpemente en entornos poco formalizados, solo operaban bien en\u00a0micromundos<\/em>\u00a0regidos por reglas simples y muy precisas (por ejemplo, un tablero de ajedrez).<\/span><\/p>\n

    Pero, cuando uno ve el\u00a0famoso v\u00eddeo<\/a>\u00a0de los cuadr\u00fapedos dise\u00f1ados por\u00a0Boston Dynamics<\/em>\u00a0y, m\u00e1s recientemente, el de su humanoide\u00a0Atlas<\/em>, y ve lo magn\u00edficamente bien que se mueven en entornos naturales\u2026 se da cuenta de que esta tecnolog\u00eda est\u00e1 ya muy avanzada.<\/span><\/p>\n

    \u00a0<\/p>\n

    \n
    \n