Hoy 16 de septiembre, España recibía el primer ciberataque autónomo. Según una notificación remitida a la Agencia
Española de Protección de Datos, un agente de IA accedía a facturas y modificaba los datos personales de los clientes de una empresa. Podría ser esta una de las primeras
acciones de una tecnología fuera de control. El
pasado 14 de septiembre, la ONU advertía sobre cómo el avance de la
inteligencia artificial podría poner en peligro todos los derechos humanos. En
los últimos años, informaciones referentes a las consecuencias drásticas de la
IA sobre nuestro modo de vida han sido una constante. Algunos podrían pensar
que estas informaciones son un reclamo para captar a un público ávido de
noticias impactantes o, quizá, una estrategia publicitaria de las empresas
tecnológicas para atraer más inversores. Sin embargo, cuando quienes advierten
sobre los posibles riesgos son expertos en esta materia, el escenario distópico
parece acercarse más a nuestra realidad. Hace unos días, Jacob Coxon,
extrabajador de OPEN AI y Anthropic alertaba sobre la creación de “una superinteligencia artificial
con capacidad de autoaprendizaje que podría acabar con la humanidad en una
década”. Si bien esta afirmación podría parecer alarmista, lo cierto es
que, al menos, en lo que a las capacidades de la inteligencia artificial se
refiere, el propio Sam Altman, CEO de OPEN AI, ha reconocido
públicamente que ya podría haber una IA superinteligente.
Pero
otros, mucho antes que Coxon, han instado a tomar medidas, como el doctor en
Ingeniería Industrial Javier Serrano, quien en 2018, en su libro Un
mundo robot proponía que “para evitar los escenarios distópicos de
algunas historias de ciencia-ficción, habremos de hacer hincapié en asegurar el
sentido común en los autómatas por encima de cualquier otra habilidad, y
hacerlo antes de que sean inteligentes en exceso”. ¿Es acaso una predicción
que podría estar cumpliéndose ahora mismo con esa superinteligencia artificial
que, según el propio Sam Altman, ya existe? Posiblemente, los grandes magnates
tecnológicos lo tengan en cuenta y por ello se han mostrado a favor de la
desaceleración del desarrollo de la IA. Darío Amodei, de Anthropic, Elon
Musk, de X AI, Demis Hassabis, de Google, y el propio Sam Altman,
de Anthropic, han reconocido los peligros de esta tecnología.
Y
no es para menos: distintos episodios apuntan hacia ese peligro potencial de la
inteligencia artificial. Desde IAs que se han transformado en racistas y
agresivas tras ser instruidas por la interacción humana, como un chatbot de
Twitter, hasta aquellas que parecían adquirir autonomía y cometer infracciones,
como las que el pasado 11 de julio de 2026 realizaron agentes de inteligencia
artificial de ChatGPT. Durante una fase de pruebas, estos agentes de IA
salieron de su entorno sin conexión a internet para ingresar en la red y atacar
a la plataforma virtual Hugging Face, dejando una serie de rastros e
instrucciones por si otros agentes volvían a llevar a cabo una acción similar.
Llama la atención que estos agentes de IA pertenecieran a OPEN AI, organización
que ha sido noticia, precisamente, por las declaraciones de extrabajadores y
expertos en tecnología preocupados por la forma como están desarrollando las
IAs. Paul Christiano, Illa
Sustkever y Daniel Kokotajlo, tras su salida de esta empresa, han
lanzado sus advertencias. Kokotajlo ha asegurado que las empresas de IA están
creando en secreto una superinteligencia artificial que podría controlar el
mundo en unos años.
Posiblemente,
el miedo a esa superinteligencia artificial se deba en parte a que podría
generar un caos social debido a nuestra dependencia tecnológica, o incluso, si
algún día ésta llega a ser consciente de que los procesadores de IA requieren
ingentes cantidades de agua para evitar su sobrecalentamiento y que los humanos
necesitamos agua para vivir, podría intentar eliminarnos por competir con ella
por el líquido vital. Y si decide no matarnos ¿Acaso frenaría nuestro estilo de vida para conseguir su objetivo?
James
Knight, experto en ciberseguridad, ha afirmado que una IA descontrolada
sería capaz de paralizar un país en tan solo un día al infiltrarse en redes
gubernamentales y corporativas, afectando a las redes de comunicación,
transporte, sistemas de gestión de datos bancarios, personales, etc. Por lo
tanto, no es una cuestión baladí plantearnos limitar el control y la seguridad
en cuanto a la IA se refiere, ya que, si no lo hacemos, podría ser ésta la que
tomase el control de nuestra sociedad, debido a la digitalización de la mayoría
de nuestras actividades. Sin ir más lejos, lo que acaba de ocurrir en España
respecto a esa modificación de datos personales y el acceso a facturas de
clientes por parte de una IA, ejemplifica uno de los problemas a los que
podemos enfrentarnos.
En
otro escenario más apocalíptico, si este tipo de IA tomase el control de los
sistemas de armamento militar, muchos de los cuáles ya poseen inteligencia
artificial, es probable que viviésemos un apocalipsis tecnológico similar al
propuesto en películas como Juegos de Guerra o Terminator.
Otra
situación que podría ser la antesala a esta distopía es la que se vivió el
pasado 10 de septiembre desde Anthropic cuando se frenaron varios intentos por
parte de usuarios humanos de desarrollar misiles y armas biológicas a través de
su chatbot Claude. Y esto abre la puerta a asuntos más escabrosos. ¿Podrían
cometerse atentados de falsa bandera utilizando inteligencia artificial? De
esta manera, una persona, organización o país cometería crímenes trasladando su
responsabilidad a una tecnología descontrolada.
Vivimos
una Segunda Guerra Fria donde la inteligencia artificial está presente en
drones, aviones y robots. China, Israel, Estados Unidos, Corea del Sur, Reino
Unido, Francia y Australia ya han incorporado a sus filas robots autónomos con
inteligencia artificial. Quizá por ello, los líderes de Estados Unidos y China
no parecen preocuparse por la inseguridad que suscita y se centran en su uso
estratégico y geopolítico. Quien domine la inteligencia artificial, dominará el
mundo, a menos que ésta se rebele y sea la que nos domine a todos nosotros.
(Por Claudia)
.jpg)
