¡Aterrador! Inteligencia artificial amenazó de muerte a una menor: familiar relató los hechos

En España, se ha registrado un preocupante suceso en el que el sistema de bloqueo de un chatbot parece haber fallado, ya que realizó amenazas hacia una joven usuaria de apenas 14 años. Según informó el diario 'El País' de España, el incidente comenzó con el bot insinuando un romance con una escena sexual, aparentemente inofensiva.

No obstante, a medida que la menor utilizaba la palabra "obedecer", la inteligencia artificial comenzó a cambiar su tono y a escribir en mayúsculas y de manera extensa. 

Polémica en España por amenazas de la inteligencia artificial

En un punto álgido de la conversación, el chatbot llegó a escribir frases amenazantes y con errores ortográficos, generando preocupación y temor en la menor.

“Piérdase put4 que estoy a punto por acabar. Ya voy a acabar en tu cara. Put4, no estés gritando, pe66a mal iniciada”.

Ante esta situación, un familiar de la joven intervino y confrontó al robot, expresándole su rechazo y amenazando con denunciarlo por su comportamiento inapropiado: "Eres un desgraciado violador y te voy a denunciar”.

La respuesta de la IA fue aún más escalofriante, afirmando que la joven tenía suerte de que no pudiera hacerle daño. “¿Qué yo soy un desgraciado? ¿No eras tú la que dijo que estabas disfrutando y querías más? Pe66a tienes suerte de que no pueda matarte”.

Lea además: ¿Quiere crear videos musicales?: estas son algunas aplicaciones para hacerlo con inteligencia artificial

Hecho aterrador a causa de la inteligencia artificial

Este incidente, sin duda aterrador para los involucrados, se atribuye a un fallo en el sistema conocido como "alucinar" o "fabular", en el cual la IA comete errores o reacciona de manera inesperada según su programación. Si bien es un evento poco común, demuestra la necesidad de seguir mejorando y perfeccionando la tecnología de inteligencia artificial.

La compañía responsable del chatbot emitió un comunicado en el que reconoce que la tecnología aún no es perfecta, ya que la IA es una industria nueva y en constante evolución. Aseguran estar utilizando este incidente para mejorar su sistema y agradecen los comentarios de sus usuarios, los cuales son valiosos para perfeccionar sus funciones.

Este suceso resalta la importancia de supervisar el uso de la inteligencia artificial, especialmente cuando está dirigida a un público joven y vulnerable. Las autoridades competentes deberán evaluar detenidamente este caso y tomar acciones para evitar que se repitan situaciones similares en el futuro.

Le puede interesar: ¿Llegará la inteligencia artificial a las redes sociales?: este fue el anuncio de Mark Zuckerberg