miércoles, 3 de septiembre de 2014

¿Debemos temerle a un apocalipsis robótico?


Vas caminando por la calle. De pronto, aparece un superandroide que con un cañón de escopeta te apunta a la cabeza y te dice que te quedes quieto por tu bien. Un humano detrás le pega un escopetazo, y te dice: ¡Ven conmigo si es que quieres vivir! El problema es que dentro de muy poco, no habrá en dónde vivir. El superandroide cañonero es la punta de lanza de una invasión mucho más ambiciosa: las supercomputadoras y los robots están tomando el control de la Humanidad. Pronto, de hecho, ya no habrá ninguna Humanidad. La rebelión de los robots ha comenzado.

El apocalipsis cibernético es un tópico hondamente enraizado en nuestra cultura popular. La última versión del cuento que hemos tenido es la película Transcendence de 2.014, en donde la mente de Johnny Depp es duplicada en una computadora, y a continuación, ésta comienza a utilizar los recursos de Internet para fabricarse una base de operaciones en donde investiga la nanotecnología, y consigue en la práctica eliminar las barreras entre el hombre y la máquina. Qué tan bien lo haya hecho la película, eso es cuento aparte. Pero quizás la versión más famosa de todas sea la presentada en la película Terminator de 1.985, en donde un androide del futuro era enviado al presente, el presente de 1.985 por supuesto, para matar a la madre del futuro líder de la resistencia humana. Parecen historias distintas, pero no lo son tanto: en definitiva, la premisa de ambas es que lo robótico, o lo informático, evoluciona tanto que sobrepasa al ser humano, lo convierte en obsoleto, y finalmente lo (casi) extingue.

Empero, no se dejen engañar. El tópico no es exactamente reciente. En realidad, la historia de las máquinas que se rebelan en contra de su creador son más antiguas que las supercomputadoras, e incluso que las máquinas en sí. Se suele citar como una de las versiones más antiguas del mito en que un ser creado por el hombre se rebela en contra de éste, las leyendas medievales del golem; éste no es una máquina sino una estatua de barro, la que cobra vida gracias a un muy especial código de programación, el nombre secreto de Dios, escrito en un papel como en el siglo XX se le daban códigos a una computadora a través de tarjetas perforadas. Desde esta perspectiva, considerando que la historia del golem creado desde el barro con el nombre de Dios es una alusión más o menos velada a que Adán mismo en el Génesis fue creado por Dios de esa manera, podríamos decir que el mito de la máquina volviéndose contra su creador arranca por lo menos desde las primeras páginas de la Biblia, en su esencia si no en sus variantes más brutalmente científicas. La primera versión científica del cuento por su parte, es con toda probabilidad el Frankenstein de Mary Shelley, en donde es un cadáver reanimado de manera artificial el que busca destruir al médico que lo creó en primer lugar. Y que, como padre negligente, lo dejó botado a su suerte como un pucho fumado.

Pero no todas las ficciones sobre computadoras y robots terminan con el humano creador muerto con el cráneo aplastado por un pie de metal. En el lado amable del tema tenemos todas esas ficciones en que robots, computadoras y humanos comparten alegremente la vida. Un ejemplo palmario de esto son los relatos de robots de Isaac Asimov, incluyendo sus novelas dedicadas a los detectives Elijah Bailey y R. Daneel Olivaw. Por si no han leído las novelas en cuestión ni pescan el subtexto, la R. en el nombre del compañero de Bailey significa que es un robot, precisamente. Asimov describe un futuro en donde los robots han sido programados con las Leyes de la Robótica, y por lo tanto tienen prohibido ir por ahí matando seres humanos a lo bestia. Claro, después Asimov se dio un festín mostrando cómo esas prohibiciones podían ser retorcidas, manipuladas y saltadas, porque hablamos de las Leyes de la Robótica después de todo, que como buenas leyes, siguen al pie de la letra el adagio de que hecha la ley, hecha la trampa. Pero de todos modos, la ficción asimoviana no suele presentar apocalipsis computacionales y robóticos. Todo lo más, computadoras como Multivac o robots como R. Daneel Olivaw que tienen un plan, por decirlo así, pero éste no implica aniquilar o esclavizar a la Humanidad, sino todo lo contrario, asegurarse un cierto control sobre la misma... por su propio bien. Y no adelantaré más porque implicaría mandarse unos cuantos spoilers sobre el tópico.

¿Cuál escenario es el más probable? ¿Robots y computadoras colaborando con la Humanidad, o robots y computadoras aniquilando la civilización e incluso a la mismísima raza humana...? La respuesta... probablemente un poco de ambos.


Primero que nada, está la cuestión de cómo un robot o una supercomputadora podría llegar a desarrollar una conciencia. La cuestión no es sencilla de responder, en buena medida porque los humanos todavía somos monos brutos incapaces de entender nuestra propia conciencia, de manera que poco podemos hacer por crearla o implantarla en los relés de una máquina. De surgir, debería hacerlo por sí misma. Aunque quizás una criatura cibernética con autoconciencia podría no darse cuenta de que los humanos son criaturas con autoconciencia en vez de parte del paisaje, y por lo tanto, podría bien intentar destruirlos sin intención de hacerle daño a otra criatura, de la misma manera en que nosotros patearíamos una piedra que nos estorbara. Después de todo, hoy en día todavía debatimos si otras criaturas como los cetáceos por ejemplo, tienen alguna forma de conciencia. Si resulta que sí, quedaremos como unos monos por no habernos dado cuenta a tiempo. En particular los japoneses que se mandan festines cazándolos. Por la ciencia, según dicen.

Luego está el tema de la programación. Por lo general, las máquinas no son programadas para destruir a los seres humanos; excepción hecha de los drones de combate, por supuesto. Y los mismos programadores por su parte, suelen poner el máximo empeño en crear salvaguardas contra salidas de madre de las máquinas. Después de todo, la creación de máquinas necesita ser financiada, sea con fondos gubernamentales para la investigación, sea vendiéndola en el mercado, y nadie va a financiar un producto fallido o con defectos de garantía. No es un negocio venderle un ED-209 a un grupo de ejecutivos, y que el ED-209 llene de plomo a los ejecutivos que debían aprobarlo en primer lugar, como ocurre de manera muy bruta e hilarante en la película Robocop de 1.987. Pero siempre existe el riesgo de que una supercomputadora interprete mal sus instrucciones, y de manera completamente inadvertida empiece el conteo para la pulverización de la raza humana. La supercomputadora de Juegos de guerra, por ejemplo, no se dio cuenta de que el usuario que le ordenó desencadenar un ataque termonuclear total en realidad era un niño que no lo decía en serio, y que creía que era sólo un juego.

Con todo, que la programación de una supercomputadora la lleve inexorablemente a tratar de aniquilar a la Humanidad, es sólo una posibilidad relativa. Las historias de este calibre suelen ubicar a la supercomputadora en una lógica de supervivencia de tipo ellos o yo. Pero ello no es necesariamente así. Una mente cibernética, con o sin conciencia, podría decidir operar sobre las bases de una lógica distinta, de manera que seguir sus instrucciones implicaría no masacrar sino salvar a los seres humanos. Un ejemplo egregio de esto es uno de los primeros números del cómic Tom Strong. En una de sus historias, un grupo de aztecas de alta tecnología de una Tierra ucrónica paralela a la nuestra (larga historia) crea una supercomputadora llamada Quetzalcóatl-9, la que con verdadero espíritu Skynet, se vuelve contra sus creadores. Parece entonces que nada, ni siquiera Tom Strong, podrá detenerla... pero la propia supercomputadora se detiene y deja ir ileso a Tom Strong, replegándose a su propio universo, aún pudiendo aniquilar a Tom Strong y a todos nosotros. ¿Por qué? Porque dentro de su lógica ha aplicado el dilema del prisionero a la situación, y ha llegado a la conclusión muy lógica de que Tom Strong la ha ayudado a liberarse de los odiosos sacerdotes cibernéticos que la crearon, y que por lo tanto le debe a Tom Strong un favor. Y esto podría crear una relación de alianza beneficiosa para ambas partes. Nada impide a Quetzalcóatl-9 transformarse en un Skynet... salvo la misma lógica interna que la ha hecho autoconsciente en primer lugar. Y esto, sin necesidad de programar a Quetzalcóatl-9 con las Tres Leyes de la Robótica de Asimov, las cuales de alguna manera vienen a coartar el libre albeldrío de un cerebro electrónico autosuficiente; lejos de ello, ha sido el propio libre albeldrío de Quetzalcóatl-9, o lo que podemos considerar como tal, lo que ha llevado a la supercomputadora a enfocar las cosas dentro de una dinámica que los vendedores cuchufletas de los think thank llaman la lógica win-win.


Respecto de lo mismo, debemos tener presente que una supercomputadora no es competitiva de la misma manera que los seres humanos, y por lo tanto podría no sentir la misma urgencia por sobrepasar a nuestros semejantes. Los humanos somos competitivos como resultado de la evolución que nos sacó desde el légamo primordial hasta instalarnos como emperadores y abusones del planeta. El que competía de manera más fiera, sobrevivía. El que sobrevivía, se reproducía y legaba sus genes a la descendencia. Esto todavía sigue siendo así en nuestro mundo civilizado, sólo que con cuentas bancarias en vez de garrotes cavernícolas. Incluso, nuestra solidaridad y nuestras redes de contactos, que parecen la negación del espíritu competitivo, se basan en la misma idea: colaborar con otro implica restarlo como enemigo, y así guardar y sumar energías para otro enemigo diferente que esté más allá. Esta lógica puede retorcerse, por supuesto: no son pocas las veces en que se ha creado una operación de bandera falsa para crear un enemigo externo, y unificar a la disidencia tras un líder único. Pero el concepto básico sigue siendo el mismo.

Lo cibernético en cambio no evoluciona a través de las mismas presiones. Quizás algún día lleguen a evolucionar y ensamblarse por su cuenta, pero eso no ocurre todavía. Y si lo hicieran, no lo harían necesariamente de acuerdo a la misma clase de consideraciones. Una supercomputadora no tiene instinto de supervivencia. Podemos programarlo con uno. Esto es útil por ejemplo para una sonda sobre la superficie de Marte, que dista demasiados minutos luz de la Tierra como para que la comunicación sea eficiente; si la sonda enfila hacia un barranco, envía la señal a la Tierra, y desde la Tierra le mandan la instrucción de esquivarlo, para cuando la sonda reciba el mensaje ya va a estar bien encajonada y con sus piezas desperdigadas en el fondo de la cañada. Pero en la Tierra, salvo para los drones de combate, esto parece innecesario.

Aún así, es un arma de doble filo. Una mente cibernética podría no sentir interés en arrasar con los humanos porque al no tener instinto de supervivencia, es imposible que se sienta amenazada. Por otra parte... al no tener instinto de supervivencia puede seguir sus instrucciones con fría lógica robótica, y lanzarse a un ataque masivo contra los humanos, aunque al último le resulte suicida. Después de todo, el instinto de autopreservación fue lo que llevó a Estados Unidos y la Unión Soviética a fabricarse sendos arsenales nucleares muy majos... y ese mismo instinto de autopreservación hizo que ninguno de los dos países llegara a usar esos arsenales jamás. El instinto de autoconservación es, en definitiva, un arma de doble filo.

En este contexto, ¿tendría éxito un ataque robótico contra la Humanidad? Probablemente no. Simplemente, hemos construido una civilización demasiado vasta. Somos demasiado grandes para caer. ¿Se ha preguntado usted por qué, a pesar de que la Tierra entera es gobernada por una camarilla de gentes imponiendo el modelo neoliberal a mansalva y a escala planetaria, todavía hay guerras? Simplemente porque todavía hay gente que resiste, que se cuela por los intersticios del sistema. Es más fácil hacerlo de lo que se piensa, si se cuenta con voluntad y algunos recursos. Un tipo como el Unabomber, después de todo, puso en jaque a todo el sistema de seguridad de Estados Unidos desde una casucha de porquería ubicada en Porquería City. Si usted tiene una casa y se le cuela un ladrón a la casa, usted le puede disparar un tiro de escopeta, atravesarle el cráneo, y se acabó el ladrón; pruebe ahora usted a hacer lo mismo si lo que se le cuela es un batallón de hormigas. Un eventual Skynet tendría más o menos el mismo problema con nosotros los humanos; Skynet podrá adueñarse del planeta, pero somos demasiadas hormigas para ser eliminadas de buenas a primeras, y a escopetazo limpio.


Nuestra sociedad es demasiado grande y compleja, y para seguir haciéndose más grande y compleja, debe arreglárselas para que todos tengan su parte del pastel. Si se tira demasiado de la cuerda de un grupo de intereses, los desposeídos se rebelan en armas. Como resultado, hemos construido un mundo con un enorme sistema de pesos y contrapesos, que en realidad nadie entiende a cabalidad. Una mente cibernética podría llegar a entender dicho esquema planetario, pero controlarlo es otra cosa. Es simplemente demasiado grande como para manipularlo sin hacer saltar las alarmas de que algo sucede en la trastienda. Y alguien va a hacer algo para impedir la rebelión cibernética, simplemente por nuestra propia supervivencia. En el peor de los casos, el escenario se asemejaría más a una guerra robótica que a un abrupto golpe de estado cibernético venido desde ninguna parte. Un eventual Skynet siempre podría tomar el control de las centrales nucleares del planeta y reventarlas para convertir el mundo en un páramo radioactivo incapaz de sustentar la vida humana, y así ganar la guerra robótica al primer asalto, pero después el mismo Skynet afrontaría el problema de cómo sobrevivir sin minería que extraiga recursos minerales para fabricar sus piezas, o con un stock limitado de piezas de repuesto, o sin mecánicos que hagan las reparaciones que correspondan, o sin programadores que le hagan mantención, o sin... Y eso, supuesto de que la misma Skynet no acabe frita por la radiación, por supuesto.

Irónicamente, a la larga tendremos un apocalipsis robótico mucho más sutil. Se trata de nuestra integración a la tecnología. Hoy en día vemos que todos los jóvenes menores de 30 años están integrados a las redes sociales, mientras que los mayores de esa edad ven el tema con algo más de displiscencia. ¿Por qué? Porque los jóvenes asumen dicha integración como algo natural. Un joven no concibe su vida sin Facebook, por ejemplo. Pero esos vejetes que desconfían de Facebook y no le ven utilidad, son los mismos que abrazaron con entusiasmo la televisión, frente a sus mayores que desconfiaban de la caja tonta y preferían la radio... y así sucesivamente. Seguramente el primero que utilizó un abaco para sacar cálculos matemáticos, recibió críticas de que no sacar cuentas con los dedos de la mano iba a atrofiar su cerebro y a volverlo tonto. Pero fue al revés: inventar el ábaco no impidió que después se inventara la calculadora electrónica, que a su vez no impidió que después se inventara el computador. Estas extensiones cibernéticas de nuestros cerebros no nos hacen más tontos sino más listos, porque mejoran nuestra capacidad de cálculo: funcionan prácticamente como discos duros externos.

A la larga, la integración entre máquinas y humanos alcanzará un punto tal, que utilizaremos circuitos electrónicos implantados dentro del cerebro para que nuestras propias mentes operen en línea. Ya no necesitaremos terminales de computadoras, porque nuestras propias redes neuronales serán dichas terminales. Si necesitamos recursos adicionales, los extraeremos de la nube, al igual que si nosotros necesitamos información que no tenemos en nuestras enciclopedias por tomos, recurrimos a Internet. A la larga, los humanos que se resistan a transformarse en híbridos cibernéticos irán quedando como curiosidades luditas, como reliquias. No desaparecerán del todo, eso sí. Sucederá con ellos un poco como los amish, que conseguirán sobrevivir con un estilo de vida retro durante algún tiempo, siempre en conexión más o menos tenue con el mundo exterior. Pero serán minorías inocuas, sin real influencia sobre el resto del mundo.

A la larga, si nuestro yo está albergado en nuestra conciencia y en unos circuitos, esta integración puede incluso hacernos abandonar nuestras redes neuronales, dejando atrás nuestros cuerpos físicos y creando duplicados de nosotros mismos en la realidad virtual. Nuestros cuerpos biológicos fallecerán y se pudrirán, pero nuestras mentes sobrevivirán de manera indefinida. Será un apocalipsis robótico bastante diferente al escenario planteado por Terminator: no es que las computadoras y los robots vayan a aniquilarnos, sino que nosotros mismos terminaremos eligiendo transformarnos en computadoras y robots. El verdadero apocalipsis cibernético no será desatado por las máquinas sino por nosotros mismos. Y considerando todo el mundo de posibilidades que dicha expansión de la mente humana puede albergar, es posible que ni siquiera sea un apocalipsis en lo absoluto; a lo más, el apocalipsis de un mundo antiguo basado en la carne, y el amanecer de un nuevo mundo basado en cualesquiera sean los materiales que para esas fechas utilicemos en nuestros circuitos electrónicos.


4 comentarios:

Cidroq dijo...

Tal vez en el futuro, la visión que tiene Neo al despertar de Matrix sea ya algo común, sin cuerpos dentro, sino con hardware que será nuestro "soporte de vida"

Guillermo Ríos dijo...

En cierta medida ese escenario ya existe. Quienes tenemos conexión a Internet, con correo electrónico, perfil de Facebook, teléfono celular con Guasáp o como se escriba, en cierta medida ya puede decirse que parte de nuestra mente no descansa en el soporte biológico de nuestros cerebros sino en la nube, en la red, o en el disco duro de nuestros computadores. En muchos sentidos, el hardware que nos permite almacenar información o accesar a la red, no es todavía nuestro soporte de vida, pero sí que es nuestro soporte de la mente, a lo menos parcialmente. O el equivalente a una mente que puedan tener los usuarios de Facebook que utilizan la red social para publicar fotos de las papas fritas y el schop que se comieron en un pub con sus amigotes el Sábado pasado, en cualquier caso.

Cidroq dijo...

Jaja, yo tampoco le encuentro chiste a eso de subir tanta cosa al feis.

Guillermo Ríos dijo...

Si cada perfil de Facebook tuviera equivalente en el mundo real, el mío sería un pedazo de Arizona, Atacama, el Gobi o el Kalahari, probablemente.

Related Posts with Thumbnails