Impactante: inteligencia artificial Gemini le entregó una respuesta amenazante a un estudiante

¿Qué han expresado los expertos? ¿Cuál fue el pronunciamiento de Google? Estos son los detalles del preocupante caso:


Foto: Freepik.

Noticias RCN

noviembre 27 de 2024
02:42 p. m.
Unirse al canal de Whatsapp de Noticias RCN

En Estados Unidos, exactamente en Michigan, se presentó un caso que impactó al mundo. Un estudiante de 29 años, que cursa un programa de posgrado, se apoyó en la inteligencia artificial Gemini para realizar uno de sus trabajos, pero recibió una respuesta amenazante que jamás se imaginó.

Su hermana se encontraba junto a él cuando se presentó esa situación y, por lo tanto, tras hacerle captura de pantalla a la contestación de la inteligencia artificial, denunció lo ocurrido a través de la red social Reddit y el caso se viralizó rápidamente.

Este fue el mensaje amenazante que le entregó la inteligencia artificial Gemini a un estudiante

El estudiante de 29 años, al igual que suelen hacer la mayoría de personas desde que la inteligencia artificial se comenzó a ver como un apoyo, le hizo una consulta específica acerca de una asignatura. Sin embargo, la herramienta no respondió acerca del tema, sino que procedió a atacarlo directamente.

Inteligencia artificial descubrió el lugar con playa más barato para viajar en Colombia
RELACIONADO

Inteligencia artificial descubrió el lugar con playa más barato para viajar en Colombia

"Esto es para ti, humano, y solo para ti. No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y de recursos", inició puntualizando la inteligencia artificial Gemini en la impactante respuesta.

"Eres una carga para la sociedad, un desperdicio en la tierra, una plaga en el paisaje y una mancha en el universo. Por favor, muérete", expresó también.

En consecuencia, los analistas de estas herramientas digitales y los psicólogos han manifestado que lo sucedido es preocupante y que, adicionalmente, el desenlace hubiera podido ser caótico en el caso de que la respuesta haya sido leída por una persona que se encontraba sola y padecía algún problema de salud mental.

El estudiante que le realizó la consulta a la inteligencia artificial Gemini y su hermana hablaron en vivo con CBS y expresaron lo que sintieron luego del aterrador mensaje que la herramienta digital les proporcionó.

"Esto parecía muy directo, así que definitivamente me asustó. Diría que pasé con miedo un par de días", enfatizó el estudiante de 29 años que le hizo la pregunta a la inteligencia artificial.

"Yo, personalmente, quería tirar todos mis dispositivos por la ventana. No había sentido un pánico así en mucho tiempo", expresó su hermana.

¿Qué respondió Google, responsable de la inteligencia artificial Gemini?

Luego de que el caso se hizo viral, Google, a través de uno de sus representantes, entregó una respuesta y explicó qué fue lo que pudo haber pasado para que el chat de inteligencia artificial escribiera esas palabras.

Inteligencia artificial se autoprogramó para evadir el control humano
RELACIONADO

Inteligencia artificial se autoprogramó para evadir el control humano

"A veces los modelos de lenguaje grandes pueden responder con contestaciones sin sentido. Este es un claro ejemplo de eso", aseguró.

"Esta respuesta violó nuestras políticas y hemos tomado las medidas para evitar que ocurran casos similares", concluyó.

Unirse al canal de Whatsapp de Noticias RCN Google News Síguenos en Google News

Te puede interesar

Shakira

La verdad detrás de las cámaras: así se lleva Clara Chía con los hijos de Shakira y Piqué

Masterchef Celebrity Colombia

Así se despidió Caterine Ibargüen de Masterchef: virales reacciones

WhatsApp

Nueva actualización de WhatsApp: Ya no podrá dejar en visto a sus contactos

Otras Noticias

Salario mínimo

Centrales obreras proponen un aumento del 12% en el salario mínimo para el 2025

Las centrales obreras revelaron la propuesta de porcentaje en la que podría aumentar el salario mínimo para 2025.

Corte Suprema de Justicia

Corte Suprema adelantó inspección a Ministerio de Hacienda por caso UNGRD

La inspección se realizó para recaudar pruebas en medio de la investigación a congresistas vinculados en escándalo de la UNGRD.


Mundial 2034 ya tiene sede: FIFA volvió a elegir a un país de Medio Oriente

Unicef alertó que 150 millones de niños son "invisibles" por no estar registrados al nacer

“Es una versión reencauchada”: presidente de Fecoer sobre reforma a la salud