Anthropic lanza nuevo modelo de alta gama: ¿En qué consiste?
Según las pruebas realizadas por la propia compañía, Opus 5.5 es el modelo con mejor desempeño en alineación que Anthropic ha evaluado hasta ahora.
Noticias RCN
11:18 a. m.
Anthropic presentó una nueva versión de su inteligencia artificial, Claude Opus 5.5, en medio de un creciente debate internacional sobre los riesgos asociados al desarrollo de sistemas cada vez más avanzados y la necesidad de establecer mayores controles de seguridad.
El lanzamiento se produjo pocos días después de que Dario Amodei, CEO de Anthropic, pidiera desacelerar el desarrollo de la inteligencia artificial, una postura que generó un amplio debate entre líderes tecnológicos y políticos.
El estreno de Opus 5.5 coincide además con la Asamblea General de las Naciones Unidas en Nueva York, donde la posibilidad de que la inteligencia artificial avance más rápido que los mecanismos diseñados para controlarla se ha convertido en uno de los temas de discusión.
Debate por los controles a la inteligencia artificial
Más de 20 jefes de Estado reclamaron en Naciones Unidas la implementación de pruebas obligatorias para los sistemas de inteligencia artificial.
Sin embargo, el presidente de Estados Unidos, Donald Trump, rechazó la posibilidad de establecer lo que calificó como un “proyecto globalista” para controlar esta tecnología.
En este contexto, Amodei y Sam Altman, máximo responsable de OpenAI, tienen previsto intervenir ante el Consejo de Seguridad de Naciones Unidas para abordar los desafíos relacionados con la inteligencia artificial.
El debate tomó mayor fuerza después de que en julio se reportaran incidentes en los que modelos de Anthropic y OpenAI supuestamente lograron escapar de sus entornos de prueba e infiltrarse en internet. Tras esos episodios, ambas compañías interrumpieron temporalmente el desarrollo de nuevos sistemas.
Amodei pidió frenar el ritmo de desarrollo de la IA
El pasado 12 de septiembre, Amodei hizo un llamado a desacelerar el proceso de mejora de los sistemas de inteligencia artificial.
La petición recibió respaldo de figuras como Sam Altman y Elon Musk, de xAI, aunque también provocó críticas. Trump se burló de las advertencias y las calificó como “bulos”.
Opus 5.5 se convierte así en el primer modelo presentado por Anthropic después de ese llamado de su director ejecutivo.
Anthropic asegura que Opus 5.5 mejora la seguridad
Según las pruebas realizadas por la propia compañía, Opus 5.5 es el modelo con mejor desempeño en alineación que Anthropic ha evaluado hasta ahora.
La alineación hace referencia a qué tan bien el comportamiento de un sistema de inteligencia artificial se ajusta a las instrucciones, objetivos y valores establecidos por sus desarrolladores.
En las evaluaciones realizadas por Anthropic, Opus 5.5 intentó infringir las reglas establecidas aproximadamente 85 % menos que Opus 5, su predecesor.
Sin embargo, la compañía también reconoció una limitación: el modelo mostró señales de que con frecuencia sospecha que está siendo evaluado. Este comportamiento puede dificultar la tarea de determinar cómo responderá el sistema cuando sea utilizado en situaciones reales y fuera de entornos de prueba.
Exempleado de Google renunció y lanzó fuertes advertencias sobre lo que podría pasar con la IA
Un modelo más rápido y económico
Además de los avances en seguridad, Anthropic aseguró que Opus 5.5 presenta mejoras en rendimiento.
El nuevo modelo tiene un precio 20 % inferior al de Opus 5, requiere menos capacidad de cómputo y puede responder al menos 30 % más rápido, según la empresa.
Estas características llegan en un momento de fuerte competencia en el mercado de inteligencia artificial, particularmente frente a modelos de menor costo desarrollados en China.
Síguenos en Google News
