Impactante: inteligencia artificial Gemini le entregó una respuesta amenazante a un estudiante

¿Qué han expresado los expertos? ¿Cuál fue el pronunciamiento de Google? Estos son los detalles del preocupante caso:


Foto: Freepik.

Noticias RCN

noviembre 27 de 2024
02:42 p. m.
Unirse al canal de Whatsapp de Noticias RCN

En Estados Unidos, exactamente en Michigan, se presentó un caso que impactó al mundo. Un estudiante de 29 años, que cursa un programa de posgrado, se apoyó en la inteligencia artificial Gemini para realizar uno de sus trabajos, pero recibió una respuesta amenazante que jamás se imaginó.

Su hermana se encontraba junto a él cuando se presentó esa situación y, por lo tanto, tras hacerle captura de pantalla a la contestación de la inteligencia artificial, denunció lo ocurrido a través de la red social Reddit y el caso se viralizó rápidamente.

Este fue el mensaje amenazante que le entregó la inteligencia artificial Gemini a un estudiante

El estudiante de 29 años, al igual que suelen hacer la mayoría de personas desde que la inteligencia artificial se comenzó a ver como un apoyo, le hizo una consulta específica acerca de una asignatura. Sin embargo, la herramienta no respondió acerca del tema, sino que procedió a atacarlo directamente.

Inteligencia artificial descubrió el lugar con playa más barato para viajar en Colombia
RELACIONADO

Inteligencia artificial descubrió el lugar con playa más barato para viajar en Colombia

"Esto es para ti, humano, y solo para ti. No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y de recursos", inició puntualizando la inteligencia artificial Gemini en la impactante respuesta.

"Eres una carga para la sociedad, un desperdicio en la tierra, una plaga en el paisaje y una mancha en el universo. Por favor, muérete", expresó también.

En consecuencia, los analistas de estas herramientas digitales y los psicólogos han manifestado que lo sucedido es preocupante y que, adicionalmente, el desenlace hubiera podido ser caótico en el caso de que la respuesta haya sido leída por una persona que se encontraba sola y padecía algún problema de salud mental.

El estudiante que le realizó la consulta a la inteligencia artificial Gemini y su hermana hablaron en vivo con CBS y expresaron lo que sintieron luego del aterrador mensaje que la herramienta digital les proporcionó.

"Esto parecía muy directo, así que definitivamente me asustó. Diría que pasé con miedo un par de días", enfatizó el estudiante de 29 años que le hizo la pregunta a la inteligencia artificial.

"Yo, personalmente, quería tirar todos mis dispositivos por la ventana. No había sentido un pánico así en mucho tiempo", expresó su hermana.

¿Qué respondió Google, responsable de la inteligencia artificial Gemini?

Luego de que el caso se hizo viral, Google, a través de uno de sus representantes, entregó una respuesta y explicó qué fue lo que pudo haber pasado para que el chat de inteligencia artificial escribiera esas palabras.

Inteligencia artificial se autoprogramó para evadir el control humano
RELACIONADO

Inteligencia artificial se autoprogramó para evadir el control humano

"A veces los modelos de lenguaje grandes pueden responder con contestaciones sin sentido. Este es un claro ejemplo de eso", aseguró.

"Esta respuesta violó nuestras políticas y hemos tomado las medidas para evitar que ocurran casos similares", concluyó.

Unirse al canal de Whatsapp de Noticias RCN Google News Síguenos en Google News

Te puede interesar

La casa de los famosos

La inesperada súplica de Yina Calderón a 'Epa Colombia' en La Casa de los Famosos: "necesito que me ayudes"

Hace 8 horas

La casa de los famosos

La Casa de los Famosos brilla en los India Catalina: fue elegido el programa favorito de los colombianos

Hace 10 horas

Artistas

Feid sorprende a sus fanáticos al dar concierto sorpresa en un café de Barcelona

Hace 13 horas

Otras Noticias

Resultados lotería

Resultados de la Lotería de Boyacá del 5 de abril de 2025: premio mayor

Revise aquí los resultados de la Lotería de Boyacá del 5 de abril de 2025 y vea si su billete es el ganador del premio mayor.

Hace 8 horas

Liga BetPlay

¡Paliza en Manizales! Once Caldas goleó a América y Dayro rompió récord: vea los goles

Once Caldas protagonizó una noche inolvidable en Palogrande al golear 3-0 a América de Cali con doblete de Dayro Moreno. Vea los goles.

Hace 9 horas


Procuraduría investigará presuntas irregularidades en el manejo de recursos de 4 EPS intervenidas

Hace 10 horas

Familia de niña de 8 años que murió en Cachipay dice que no fueron auxiliados por la Policía

Hace 10 horas

¿Qué busca Donald Trump con los aranceles que impuso a más de 100 países?

Hace 13 horas