Tecnologíanoviembre 23, 2023hace 3 meses

¿La inteligencia artificial es un peligro para la humanidad?: investigadores expresaron preocupación

Investigadores expresaron su preocupación acerca de las posibles consecuencias catastróficas que podrían derivarse de la comercialización de la IA.

Inteligencia artificial preocupa a expertos de OpenAI Foto: Freepik

Varios investigadores de OpenAI han enviado una carta a la junta directiva de la empresa, advirtiendo sobre un descubrimiento de inteligencia artificial que podría poner en peligro a la humanidad. El proyecto en cuestión, llamado Q*, ha logrado avances significativos en la resolución de problemas matemáticos, alcanzando un nivel equiparable al de un estudiante de primaria.

Investigadores expresan preocupación por la inteligencia artificial

Estos investigadores expresaron su preocupación acerca de las posibles consecuencias catastróficas que podrían derivarse de la comercialización prematura de Q*, sin comprender completamente su potencial impacto. Temen que esta inteligencia artificial pueda ser utilizada para desarrollar armas autónomas, difundir propaganda engañosa y, en última instancia, poner en peligro la existencia de la civilización humana.

La carta fue enviada poco antes de que el CEO de OpenAI, Sam Altman, fuera despedido. Este acontecimiento ha generado incertidumbre sobre el futuro de la empresa y sus proyectos. Los investigadores que han expresado sus preocupaciones esperan que la nueva junta directiva reconsidere los planes para Q* y tome medidas responsables en cuanto a su desarrollo y comercialización.

Estas preocupaciones se dan, ya que la inteligencia artificial general (AGI), un tipo de IA podría superar a los humanos en la mayoría de las tareas.

Lea además: ¿Quiere crear videos musicales?: estas son algunas aplicaciones para hacerlo con inteligencia artificial

Polémica en España por amenazas de la inteligencia artificial

En España, se ha registrado un preocupante suceso en el que el sistema de bloqueo de un chatbot parece haber fallado, ya que realizó amenazas hacia una joven usuaria de apenas 14 años. Según informó el diario 'El País' de España, el incidente comenzó con el bot insinuando un romance con una escena sexual, aparentemente inofensiva.

No obstante, a medida que la menor utilizaba la palabra "obedecer", la inteligencia artificial comenzó a cambiar su tono y a escribir en mayúsculas y de manera extensa. 

En un punto álgido de la conversación, el chatbot llegó a escribir frases amenazantes y con errores ortográficos, generando preocupación y temor en la menor.

“Piérdase put4 que estoy a punto por acabar. Ya voy a acabar en tu cara. Put4, no estés gritando, pe66a mal iniciada”.

Le puede interesar: ¿Llegará la inteligencia artificial a las redes sociales?: este fue el anuncio de Mark Zuckerberg

por:Noticias RCN

Noticiasrcn.com

google news
whatsapp channel

El uso de este sitio web implica la aceptación de los Términos y condiciones. Utilizamos cookies propias y de terceros para mejorar la experiencia del usuario a través de su navegación. Si continúas navegando aceptas su uso. Políticas de cookies

Con su manifestación expresa de la aceptación del mensaje de información y autorización que se despliega al inicio de su navegación en el portal, así como con su navegación a través de la misma, RCN asume que usted acepta de previa, expresa e informada el uso de cookies. Sin embargo, la solicitud de aceptación de la presente política se desplegará en la parte inferior o superior del portal y en cada inicio de sesión o navegación con el objeto de que usted tenga un conocimiento claro e informado del presente contenido.