"Podría matarnos a todos para finales de la década": extrabajador de Anthropic sobre la IA
Jacob Coxon renunció a Anthropic y manifestó su preocupación sobre como se están manejando los avances de la IA en el mundo.
Noticias RCN
06:23 p. m.
Jacob Coxon, extrabajador de la empresa estadounidense de investigación y desarrollo de inteligencia artificial, Anthropic, anunció a través de su cuenta de X que renunció debido a que dicha compañía, junto con OpenAI, no estaban actuando de manera responsable y que estaban apostando con las vidas humanas en camino a una superinteligencia.
"Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa", escribió Coxon, alertando a las empresas y a las personas sobre el futuro que le espera a la humanidad si no se controla el aceleramiento de la IA, y afirma que para el final de la década podría producirse el fin de la humanidad.
"Atrapados en una carrera por llegar primero"
Según el investigador, aunque las empresas tienen conocimiento de los riesgos que todos estos avances suponen para los humanos, creen que nadie se detendrá a pensar en actuar de manera responsable, por lo que el objetivo sigue siendo ser los primeros a pesar de lo que ello signifique.
Evan Hubinger, líder de ciencia en Anthropic, respalda la posición de Coxon y cree que la posibilidad de que la IA acabe con todos los humanos en los próximos 10 años es de un 10% y a pesar de que su empresa trata de actuar de la mejor manera, no hay un plan para contener la superinteligencia y no se ve en el panorama una opción para lograrlo.
El riesgo de los modelos actuales es bajo
Según informes de riesgos publicados por Anthropic, el verdadero problema no está en los modelos actuales de IA, sino en el automejoramiento que termina creando una superinteligencia; esa mejora recursiva es creada por la propia IA y logra optimizar o programar su propio código y arquitectura logrando así que los sistemas sean muchos más poderosos.
Síguenos en Google News
