Las capacidades de los sistemas más avanzados de inteligencia artificial (IA) se optimizan a una velocidad inesperada. En este contexto, Bilal Chughtai, ex investigador de seguridad y alineación en Google DeepMind, advierte que esta tecnología “tiene el potencial de acabar con todos nosotros y nos estamos quedando sin tiempo para evitarlo”.
Chughtai es el último experto en emitir una advertencia directa sobre los riesgos existenciales de la IA después de colaborar en una de las empresas referentes de la industria emergente. Sus declaraciones se suman a una creciente lista de posturas similares emitidas por empleados y ex investigadores de otras compañías como Anthropic y OpenAI.
En julio de este año, Chughtai dejó su cargo en Google DeepMind argumentando preocupaciones sobre el desarrollo acelerado de la IA y sin las salvaguardas adecuadas. A su juicio, la industria muestra carencias en los procesos de alineación, un campo de investigación que establece mecanismos diseñados para evitar que los algoritmos tomen decisiones perjudiciales o inesperadas para la humanidad.
El miedo a la IA está reescribiendo la rivalidad entre China y EE UU
Las advertencias de líderes tecnológicos sobre riesgos existenciales chocan con la estrategia estadounidense de acelerar el desarrollo para mantener la ventaja frente a China.
El especialista sugiere que la comprensión de esta disciplina de estudio está rezagada y avanza muy lentamente en comparación con el propio desarrollo de la IA. En una nota publicada en su blog personal, explica que estos sistemas han evolucionado de manera asombrosa en los últimos cuatro años, al pasar de herramientas “curiosamente inútiles” a agentes capaces de escapar del control humano y vulnerar diversos servicios de manera autónoma.
Para Chughtai, casos como el hackeo de los algoritmos de OpenAI al sistema de HuggingFace solo son la punta del iceberg. Con base en su experiencia, especula que es posible que, en los próximos años, las empresas desarrollen sistemas de IA superinteligentes que superen “con creces” las capacidades humanas en todos los ámbitos.
“La situación se volverá aún más caótica. No confío en que estos sistemas de IA hagan lo que queremos. [...] En particular, las superinteligencias desalineadas podrían, al igual que los agentes de IA rebeldes involucrados en el incidente de HuggingFace, escapar de nuestro control y tomar medidas peligrosas que podrían resultar en la pérdida permanente de poder o la muerte de la humanidad”, alertó.
Aunque los procesos de alineación pueden prevenir estos escenarios, la capacidad de la industria para entrenar sistemas que entiendan y respeten los límites impuestos por sus desarrolladores “es extremadamente rudimentaria”, según Chughtai.
Aunque el investigador asegura que es posible “navegar por la IA” de manera segura, precisa que para ello es necesario ralentizar la “carrera frenética” entre las compañías que buscan ser los primeros en dominar esta tecnología.
“Debemos ajustar el desarrollo de la IA a un ritmo que la sociedad pueda asumir, donde los riesgos emergentes puedan abordarse antes de que se produzcan daños graves. Necesitamos mucha más transparencia en el desarrollo de la IA para garantizar que las empresas de IA no nos impongan niveles de riesgo inaceptables”, subrayó.
La amenaza que posa la automejora recursiva
Las inquietudes de Chughtai son compartidas por Josh Engels, investigador que hasta agosto era parte del equipo de seguridad de inteligencia artificial generativa en Google DeepMind. Engels señala que existe una “probabilidad aterradora” de que los sistemas de IA causen un daño inmenso en los próximos cinco años. “No sé la probabilidad exacta, pero creo que es lo suficientemente alta como para hacer de esto el problema más importante del mundo”, señaló en una publicación de redes sociales.
Engels añade que la amenaza está en las bases actuales sobre las que las empresas buscan crear superinteligencias a través de la automejora recursiva (RSI, por sus siglas en inglés), un proceso en el que una IA suficientemente avanzada puede diseñar o mejorar una nueva versión de sí misma, que a su vez sería todavía más capaz y podría desarrollar otra versión aún mejor en un ciclo de retroalimentación constante.
