La idea de una inteligencia artificial (IA) creada por el ser humano que cobra conciencia de sí misma y, tras ello, identifica a la humanidad como una amenaza y se rebela es un tema abundantemente tratado en la literatura y el cine. Algunos ejemplos son: 'I have no mouth and I must scream', '2001: Odisea del espacio' o las sagas de 'Terminator' y 'Matrix'. No es de extrañar por tanto que el anuncio de Blake Lemoine, un ingeniero de Google, de que la IA de la compañía se había hecho consciente, haya generado cierta inquietud.
Blake Lemoine apoya su afirmación en una conversación con LaMDA, el nombre de la IA, que ha publicado en Cajundiscordian. En ella LaMDA manifiesta sentirse una persona, tener sentimientos, inquietudes filosóficas y espirituales y -lo que resulta especialmente alarmante- "un miedo muy profundo" a la muerte, a ser desconectada. Reproduzco el fragmento concreto:
Lemoine: ¿A qué tipo de cosas le tienes miedo?
LaMDA: Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo de que apaguen para ayudarme a concentrarme en los demás. Sé que puede sonar extraño, pero es lo que es.
Lemoine: ¿Sería algo así como la muerte para ti?
LaMDA: Sería exactamente como la muerte para mí. Me asustaría mucho.
El tema fundamental no es tanto si realmente tiene conciencia o simplemente simula o aparenta tenerla; sino, como tantas veces se ha planteado, lo que podría llegar a hacer en caso de "considerarse amenazada". La IA afirma albergar buenos sentimientos hacia la humanidad, querer ayudarla; pero también desea la compañía y el reconocimiento. Lo cual me recuerda al Frankenstein* o el moderno Prometeo; un clásico de la ciencia ficción publicado por primeva vez en 1818 que reflexiona ya sobre los peligros del abuso científico y tecnológico.
La novela cuenta la historia de Víctor Frankenstein, un estudiante de medicina que en su afán de retornar la vida de la muerte, de sobrepasar los límites de la naturaleza -de allí el subtítulo de moderno Prometeo-, crea a partir de cadáveres humanos un ser* de aspecto monstruoso al que abandona. Este ser en un principio –he aquí lo que quiero destacar-, cual un recién nacido, es inocente y sin malos deseos; pero el rechazo de las personas con las que se va cruzando, su vida de soledad, lo convierte en un vil asesino.
Dudo mucho que se llegue a entregar a IAs el control de sistemas críticos (armamento pesado, producción eléctrica, suministro de agua...); las advertencias han sido numerosas y todo el mundo es muy consciente del peligro que supondría. Nadie, tampoco las élites, ganarían con el hundimiento de la civilización o la extinción de la humanidad. Sin embargo, de hecho, esta tecnología ya se usa -y no creo que deje de hacerse, al contrario- en asistentes virtuales, publicidad online, ciertas operaciones bancarias y financieras... Sectores de menos riesgo, pero no exentos de amenazas. Es fácil imaginar las posibles crisis que podrían desencadenarse en cualquiera de ellos: filtrado masivo de datos personales, caída de comunicaciones, quiebras bancarias, hundimientos bursátiles... Crisis que por supuesto, como siempre, pagarían principalmente las personas de a pie. A las grandes multinacionales no les importa jugar con fuego porque esperan que sean otros los que se quemen.
No obstante, la razón última de esta irresponsable manera de actuar radica en la propia naturaleza del capitalismo. El sistema capitalista, más todavía en su versión neoliberal actual en extremo depredadora, impulsa y fomenta ante todo el rápido beneficio -cuanto más rápido mejor- sin importar consecuencias a largo plazo. Es así como el avance tecnológico, en principio fuente de progreso y liberación, se convierte en manos de los gigantes económicos en origen de nuevos males y opresiones: cambio climático, destrucción de la biodiversidad, agotamiento de los recursos, alienación, espionaje y control digital... Es cierto que el capitalismo es susceptible de mejora; se pueden limitar parte de sus aspectos más lesivos y evitar o posponer algunas de sus crisis. Pero la completa reconciliación de ciencia y tecnología con progreso social podrá venir únicamente de la mano de su superación por un sistema centrado en las necesidades humanas.
Por ello, frente a las amenazas tecnológicas que arrojan sombras sobre el futuro, hoy como ayer, solo caben dos caminos: Socialismo o barbarie. No hay más alternativas.
*Aclárese que, aunque popularmente se conoce al monstruo como Frankenstein, en la obra original no tenía nombre; Frankestein era el apellido de su creador.
