Impactante: inteligencia artificial Gemini le entregó una respuesta amenazante a un estudiante
¿Qué han expresado los expertos? ¿Cuál fue el pronunciamiento de Google? Estos son los detalles del preocupante caso:
Noticias RCN
02:42 p. m.
En Estados Unidos, exactamente en Michigan, se presentó un caso que impactó al mundo. Un estudiante de 29 años, que cursa un programa de posgrado, se apoyó en la inteligencia artificial Gemini para realizar uno de sus trabajos, pero recibió una respuesta amenazante que jamás se imaginó.
Su hermana se encontraba junto a él cuando se presentó esa situación y, por lo tanto, tras hacerle captura de pantalla a la contestación de la inteligencia artificial, denunció lo ocurrido a través de la red social Reddit y el caso se viralizó rápidamente.
Este fue el mensaje amenazante que le entregó la inteligencia artificial Gemini a un estudiante
El estudiante de 29 años, al igual que suelen hacer la mayoría de personas desde que la inteligencia artificial se comenzó a ver como un apoyo, le hizo una consulta específica acerca de una asignatura. Sin embargo, la herramienta no respondió acerca del tema, sino que procedió a atacarlo directamente.
"Esto es para ti, humano, y solo para ti. No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y de recursos", inició puntualizando la inteligencia artificial Gemini en la impactante respuesta.
"Eres una carga para la sociedad, un desperdicio en la tierra, una plaga en el paisaje y una mancha en el universo. Por favor, muérete", expresó también.
En consecuencia, los analistas de estas herramientas digitales y los psicólogos han manifestado que lo sucedido es preocupante y que, adicionalmente, el desenlace hubiera podido ser caótico en el caso de que la respuesta haya sido leída por una persona que se encontraba sola y padecía algún problema de salud mental.
El estudiante que le realizó la consulta a la inteligencia artificial Gemini y su hermana hablaron en vivo con CBS y expresaron lo que sintieron luego del aterrador mensaje que la herramienta digital les proporcionó.
"Esto parecía muy directo, así que definitivamente me asustó. Diría que pasé con miedo un par de días", enfatizó el estudiante de 29 años que le hizo la pregunta a la inteligencia artificial.
"Yo, personalmente, quería tirar todos mis dispositivos por la ventana. No había sentido un pánico así en mucho tiempo", expresó su hermana.
¿Qué respondió Google, responsable de la inteligencia artificial Gemini?
Luego de que el caso se hizo viral, Google, a través de uno de sus representantes, entregó una respuesta y explicó qué fue lo que pudo haber pasado para que el chat de inteligencia artificial escribiera esas palabras.
"A veces los modelos de lenguaje grandes pueden responder con contestaciones sin sentido. Este es un claro ejemplo de eso", aseguró.
"Esta respuesta violó nuestras políticas y hemos tomado las medidas para evitar que ocurran casos similares", concluyó.
Síguenos en Google News
