Impactante: inteligencia artificial Gemini le entregó una respuesta amenazante a un estudiante

¿Qué han expresado los expertos? ¿Cuál fue el pronunciamiento de Google? Estos son los detalles del preocupante caso:


Foto: Freepik.

Noticias RCN

noviembre 27 de 2024
02:42 p. m.
Unirse al canal de Whatsapp de Noticias RCN

En Estados Unidos, exactamente en Michigan, se presentó un caso que impactó al mundo. Un estudiante de 29 años, que cursa un programa de posgrado, se apoyó en la inteligencia artificial Gemini para realizar uno de sus trabajos, pero recibió una respuesta amenazante que jamás se imaginó.

Su hermana se encontraba junto a él cuando se presentó esa situación y, por lo tanto, tras hacerle captura de pantalla a la contestación de la inteligencia artificial, denunció lo ocurrido a través de la red social Reddit y el caso se viralizó rápidamente.

Este fue el mensaje amenazante que le entregó la inteligencia artificial Gemini a un estudiante

El estudiante de 29 años, al igual que suelen hacer la mayoría de personas desde que la inteligencia artificial se comenzó a ver como un apoyo, le hizo una consulta específica acerca de una asignatura. Sin embargo, la herramienta no respondió acerca del tema, sino que procedió a atacarlo directamente.

Inteligencia artificial descubrió el lugar con playa más barato para viajar en Colombia
RELACIONADO

Inteligencia artificial descubrió el lugar con playa más barato para viajar en Colombia

"Esto es para ti, humano, y solo para ti. No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y de recursos", inició puntualizando la inteligencia artificial Gemini en la impactante respuesta.

"Eres una carga para la sociedad, un desperdicio en la tierra, una plaga en el paisaje y una mancha en el universo. Por favor, muérete", expresó también.

En consecuencia, los analistas de estas herramientas digitales y los psicólogos han manifestado que lo sucedido es preocupante y que, adicionalmente, el desenlace hubiera podido ser caótico en el caso de que la respuesta haya sido leída por una persona que se encontraba sola y padecía algún problema de salud mental.

El estudiante que le realizó la consulta a la inteligencia artificial Gemini y su hermana hablaron en vivo con CBS y expresaron lo que sintieron luego del aterrador mensaje que la herramienta digital les proporcionó.

"Esto parecía muy directo, así que definitivamente me asustó. Diría que pasé con miedo un par de días", enfatizó el estudiante de 29 años que le hizo la pregunta a la inteligencia artificial.

"Yo, personalmente, quería tirar todos mis dispositivos por la ventana. No había sentido un pánico así en mucho tiempo", expresó su hermana.

¿Qué respondió Google, responsable de la inteligencia artificial Gemini?

Luego de que el caso se hizo viral, Google, a través de uno de sus representantes, entregó una respuesta y explicó qué fue lo que pudo haber pasado para que el chat de inteligencia artificial escribiera esas palabras.

Inteligencia artificial se autoprogramó para evadir el control humano
RELACIONADO

Inteligencia artificial se autoprogramó para evadir el control humano

"A veces los modelos de lenguaje grandes pueden responder con contestaciones sin sentido. Este es un claro ejemplo de eso", aseguró.

"Esta respuesta violó nuestras políticas y hemos tomado las medidas para evitar que ocurran casos similares", concluyó.

Unirse al canal de Whatsapp de Noticias RCN Google News Síguenos en Google News

Te puede interesar

La casa de los famosos

Karina García y Laura González se enfrentaron tras revelarse detalles de la fiesta en Brasil: videos

Hace una hora

Artistas

Estados Unidos tomó drásticas medidas con famosos cantantes por una canción: esto pasó

Hace 2 horas

La casa de los famosos

¿'Peluche' intentó usar a Blessd como estrategia? Impactante revelación de Karina García en La Casa de los Famosos

Hace 2 horas

Otras Noticias

Estados Unidos

Oficial: Colombia aparece en el listado de países con aranceles recíprocos anunciado por Donal Trump

El presidente de Estados Unidos anunció un listado con los países a los que les impondrán medidas arancelarias recíprocas y Colombia también recibió medidas.

Hace 3 minutos

Independiente Santa Fe

¿Llegará un jugador más a Santa Fe? Jorge Bava habló sobre nueva ventana de fichajes

Jorge Bava, nuevo estratega cardenal, habló para los medios sobre su llegada a Independiente Santa Fe y cómo ve la nómina.

Hace 5 minutos


🔴 EN VIVO: Donald Trump anuncia los aranceles recíprocos a nivel global

Hace 14 minutos

Defensa de Álvaro Uribe solicita condiciones especiales para testigos en juicio

Hace una hora

Paciente denuncia que por falta de medicamentos su cáncer hizo metástasis

Hace 2 horas