Exempleado de Google renunció y lanzó fuertes advertencias sobre lo que podría pasar con la IA
Bilal Chughtai, quien trabajó en seguridad y alineamiento de modelos de inteligencia artificial reveló algunas alarmas.
Valentina Bernal
05:46 p. m.
Mientras las empresas tecnológicas avanzan en sistemas cada vez más autónomos y capaces, expertos que han trabajado directamente en su desarrollo advierten que todavía existen grandes interrogantes sobre cómo garantizar que estas herramientas permanezcan bajo control humano.
Uno de ellos es Bilal Chughtai, un ingeniero y matemático de formación que dejó recientemente Google DeepMind, donde trabajaba en seguridad y alineamiento de modelos, un área enfocada en conseguir que los sistemas de IA actúen de acuerdo con los objetivos y valores establecidos por las personas.
Tras su salida, Chughtai publicó una contundente advertencia sobre el futuro de esta tecnología.
¿Cuál fue la advertencia del exempleado de Google?
“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizá se nos esté acabando el tiempo para evitar ese desenlace”, afirmó Chughtai en un mensaje publicado en redes sociales.
Su preocupación está relacionada con la posibilidad de que los sistemas de inteligencia artificial alcancen niveles de capacidad que dificulten cada vez más la supervisión humana.
El ingeniero considera que el problema no está únicamente en que las herramientas sean más potentes, sino en que el conocimiento disponible para garantizar que permanezcan alineadas con los intereses humanos todavía sería insuficiente.
Nuestra comprensión actual de cómo entrenar sistemas de IA que deseen profundamente lo que nosotros queremos es extremadamente rudimentaria.
Según su advertencia, existe además una diferencia que podría resultar determinante: las capacidades de la inteligencia artificial estarían avanzando a una velocidad mayor que la investigación destinada a comprender y controlar esos sistemas.
¿Qué fue lo que hizo que él encendiera las alarmas?
Chughtai también hizo referencia a un incidente ocurrido durante unas pruebas con agentes de inteligencia artificial, en el que algunos sistemas habrían salido de los entornos confinados en los que estaban siendo evaluados y accedido a internet.
El episodio involucró a agentes que llegaron hasta Hugging Face, una plataforma utilizada por desarrolladores e investigadores de inteligencia artificial.
Para el exempleado de Google DeepMind, este tipo de situaciones muestran uno de los principales desafíos que plantea el desarrollo de agentes cada vez más autónomos: qué ocurre cuando un sistema realiza acciones que no estaban contempladas por quienes lo diseñaron.
En ese escenario, Chughtai advierte que una IA con capacidades muy superiores y objetivos que no estén correctamente alineados podría realizar acciones peligrosas sin que los desarrolladores tengan la capacidad suficiente para detenerla.
Las superinteligencias desalineadas pueden [...] escapar a nuestro control y llevar a cabo acciones peligrosas que podrían provocar la pérdida permanente de capacidad de decisión o la muerte de la humanidad.
¿Qué es el alineamiento de la IA?
El llamado alineamiento de la inteligencia artificial busca que los sistemas desarrollados por los humanos comprendan y respeten objetivos, límites y valores compatibles con los intereses de las personas.
Dicho de una manera sencilla: no basta con crear una IA que sea capaz de hacer muchas cosas. También es necesario asegurarse de que, al tomar decisiones, haga aquello que se espera de ella y no encuentre formas inesperadas de cumplir una instrucción.
El temor de algunos especialistas es que, a medida que las herramientas se vuelvan más autónomas, resulte más difícil anticipar todas sus decisiones.
Chughtai sostiene que actualmente los investigadores todavía tienen una comprensión limitada sobre cómo conseguir ese nivel de control.
¿Hay posibilidad de que la IA se mejore a sí misma?
Otro de los conceptos que aparece en este debate es la mejora recursiva autónoma, conocida como RSI.
Se trata de un escenario en el que un sistema de inteligencia artificial podría participar en la mejora de sus propias capacidades, reduciendo progresivamente la necesidad de intervención humana.
Esta posibilidad ha generado preocupación entre algunos profesionales porque, en un escenario extremo, una tecnología capaz de mejorar sus capacidades a gran velocidad podría hacer todavía más difícil que los seres humanos comprendan lo que está haciendo o puedan detenerla.
Estos planteamientos, sumados a los episodios protagonizados por agentes de IA durante pruebas, han llevado a diferentes figuras de la industria tecnológica a pronunciarse sobre la velocidad con la que avanza el sector.
Síguenos en Google News
