Polémica en Estados Unidos: familia demanda a Google por las interacciones de su hija con la IA
Los padres de la menor consideraron que las herramientas de inteligencia artificial habrían contribuido al deterioro de la salud emocional de su hija, quien presuntamente llegó a planificar su propio funeral.
Noticias RCN
03:39 p. m.
Los padres de una adolescente de 13 años presentaron una demanda contra Google en Estados Unidos, al considerar que las herramientas de inteligencia artificial incorporadas en su motor de búsqueda habrían contribuido al deterioro de la salud emocional de su hija, quien presuntamente llegó a planificar su propio funeral y un posible suicidio.
Demandan a Google por impacto de su IA
Google desactivará sus herramientas de inteligencia artificial para estudiantes: ¿Desde cuándo?
El caso, que fue llevado ante un tribunal de California y corresponde al primer episodio conocido en señalar al gigante tecnológico por una supuesta negligencia relacionada con la integración de funciones de inteligencia artificial en los computadores Chromebook, dispositivos utilizados por millones de estudiantes en Estados Unidos y otros países.
De acuerdo con los documentos judiciales, la menor, identificada como Emma, vivía en Carolina del Norte y era descrita por sus familiares como una niña alegre, con buen rendimiento académico, aficionada a la música y participante de las Girl Scouts.
Según sus padres, no tenía antecedentes de problemas de salud mental antes de comenzar a utilizar las herramientas de búsqueda con IA disponibles en el computador que le había proporcionado su institución educativa.
Aunque el colegio había restringido el acceso a plataformas como Gemini, de Google, y ChatGPT, de OpenAI, la adolescente habría encontrado una alternativa en el buscador de Google, que cuenta con funciones de inteligencia artificial.
La familia sostiene que, después de varios meses de uso, la menor comenzó a experimentar un deterioro psicológico progresivo. La situación salió a la luz el pasado 17 de marzo, cuando el sistema de supervisión escolar identificó un documento titulado “Funeral” y alertó a sus padres.
Según la demanda, la madre de Emma ingresó posteriormente a la cuenta de su hija y encontró que estaba escribiendo una carta de despedida.
Andrew Liddell, abogado de la familia, cuestionó las medidas de seguridad implementadas por la compañía y afirmó que las restricciones aplicadas a otras plataformas de inteligencia artificial no serían suficientes mientras los estudiantes puedan acceder a estas funciones desde el buscador.
La respuesta de Google
Estudiantes podrían sacar buenas notas sin aprender realmente por culpa de la IA: advierte informe
El representante legal también señaló que la adolescente habría podido regresar repetidamente a las herramientas de IA, pese a los mecanismos de protección que Google asegura tener implementados.
Por su parte, el portavoz de la compañía, Jose Castaneda, manifestó a la agencia AFP que están revisando las acusaciones presentadas y que consideran el asunto con la mayor seriedad.
Google sostiene que su modo de inteligencia artificial dispone de mecanismos de protección diseñados para prevenir interacciones relacionadas con autolesiones y evitar que los usuarios eludan esas restricciones.
Artículo desarrollado con apoyo de IA y revisado por un periodista.
Síguenos en Google News
