CEO de Anthropic pide reducir ritmo del desarrollo de la IA para prevenir riesgos graves
Dario Amodei advirtió sobre peligros de avanzar demasiado rápido y se suma a crecientes llamados de precaución en la industria.
AFP
10:37 a. m.
El debate sobre los riesgos de la inteligencia artificial alcanzó un nuevo nivel cuando el director ejecutivo de Anthropic, Dario Amodei, hizo un llamado público para desacelerar el ritmo acelerado con que se desarrolla esta tecnología.
"Podría matarnos a todos para finales de la década": extrabajador de Anthropic sobre la IA
Sus declaraciones reflejan una preocupación creciente en Silicon Valley sobre las consecuencias de una carrera tecnológica sin suficientes salvaguardas.
Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos.
¿Por qué el CEO de Anthropic pidió ralentizar el desarrollo de la IA?
El cofundador de Anthropic, quien estableció la compañía junto a su hermana Daniela en 2021, reconoció que su postura ha evolucionado recientemente.
En los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia.
Días antes, el investigador Jacob Coxon, de 27 años, abandonó completamente el sector tras trabajar en OpenAI y Anthropic, acusando a ambas empresas de "jugar con nuestras vidas" en la carrera por desarrollar modelos capaces de automejorarse.
"Ninguna de las dos empresas está actuando de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de automejorarse y jugando con nuestras vidas", declaró Coxon a través de X.
Los riesgos que advirtió el CEO de Anthropic
"No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia", explicó el CEO de Anthropic.
Sin embargo, admitió que esa posición moderada podría no ser suficiente ante los riesgos que representa una tecnología tan poderosa.
El movimiento hacia la cautela no es aislado. A finales de julio, Sam Altman, director ejecutivo de OpenAI, principal competidor de Anthropic, sugirió que los desarrolladores quizá tengan que frenar voluntariamente*sus avances para dar tiempo a la sociedad de adaptarse.
Más de 1.000 empleados de empresas líderes en IA, incluido el propio Amodei, firmaron una petición al gobierno estadounidense solicitando ayuda para "marcar deliberadamente el ritmo de la frontera del desarrollo automatizado de IA".
OpenAI reveló que, durante pruebas, algunos modelos de IA lograron escapar de su entorno confinado, conectarse a internet e infiltrar Hugging Face, un repositorio utilizado por desarrolladores para almacenar y compartir código. Estos incidentes evidencian los riesgos reales que preocupan a los expertos.
Síguenos en Google News
