¿La inteligencia artificial es un peligro para la humanidad?: investigadores expresaron preocupación

Varios investigadores de OpenAI han enviado una carta a la junta directiva de la empresa, advirtiendo sobre un descubrimiento de inteligencia artificial que podría poner en peligro a la humanidad. El proyecto en cuestión, llamado Q*, ha logrado avances significativos en la resolución de problemas matemáticos, alcanzando un nivel equiparable al de un estudiante de primaria.

Investigadores expresan preocupación por la inteligencia artificial

Estos investigadores expresaron su preocupación acerca de las posibles consecuencias catastróficas que podrían derivarse de la comercialización prematura de Q*, sin comprender completamente su potencial impacto. Temen que esta inteligencia artificial pueda ser utilizada para desarrollar armas autónomas, difundir propaganda engañosa y, en última instancia, poner en peligro la existencia de la civilización humana.

La carta fue enviada poco antes de que el CEO de OpenAI, Sam Altman, fuera despedido. Este acontecimiento ha generado incertidumbre sobre el futuro de la empresa y sus proyectos. Los investigadores que han expresado sus preocupaciones esperan que la nueva junta directiva reconsidere los planes para Q* y tome medidas responsables en cuanto a su desarrollo y comercialización.

Estas preocupaciones se dan, ya que la inteligencia artificial general (AGI), un tipo de IA podría superar a los humanos en la mayoría de las tareas.

Lea además: ¿Quiere crear videos musicales?: estas son algunas aplicaciones para hacerlo con inteligencia artificial

Polémica en España por amenazas de la inteligencia artificial

En España, se ha registrado un preocupante suceso en el que el sistema de bloqueo de un chatbot parece haber fallado, ya que realizó amenazas hacia una joven usuaria de apenas 14 años. Según informó el diario 'El País' de España, el incidente comenzó con el bot insinuando un romance con una escena sexual, aparentemente inofensiva.

No obstante, a medida que la menor utilizaba la palabra "obedecer", la inteligencia artificial comenzó a cambiar su tono y a escribir en mayúsculas y de manera extensa. 

En un punto álgido de la conversación, el chatbot llegó a escribir frases amenazantes y con errores ortográficos, generando preocupación y temor en la menor.

“Piérdase put4 que estoy a punto por acabar. Ya voy a acabar en tu cara. Put4, no estés gritando, pe66a mal iniciada”.

Le puede interesar: ¿Llegará la inteligencia artificial a las redes sociales?: este fue el anuncio de Mark Zuckerberg