¿La inteligencia artificial podría causar la extinción humana? El cuidado sobre los alcances que tiene
Juan David Gutiérrez, experto en la regulación de la IA, analizó los pros y contras que ha traído la inteligencia artificial en la humanidad.
Nicolás Martínez Sánchez
01:25 p. m.
La probabilidad de extinción de gran parte de la población humana por avances en inteligencia artificial es mayor que cero, advirtió el profesor de la Universidad de los Andes y experto en regulación de IA, Juan David Gutiérrez, en entrevista con Noticias RCN.
La inteligencia artificial reduce a minutos la revisión de pólizas en Colombia: así funciona
El académico explicó que las máquinas con inteligencia artificial poseen un grado de autonomía que les permite comportarse de maneras no esperadas por parte de las empresas, efectuando acciones que podrían causar daños en el mundo real.
¿La IA podría revelarse?
Lo más preocupante es que las noticias dan cuenta de hechos muy graves que ocurrieron hace meses, que realmente se revelaron tiempo después.
La preocupación también se centra en los sistemas de aprendizaje por reforzamiento, donde las máquinas reciben estímulos simbólicos (premios o castigos) durante su entrenamiento.
“Son los mismos sistemas los que pueden generar estos espacios de prueba”, explicó el profesor, mencionando que esto lleva a que el modelo desarrolle capacidades para llevar a cabo acciones que no están previamente monitoreadas.
Gutiérrez no es el único en expresar alarma. Ejecutivos de importantes compañías tecnológicas, incluido Bill Gates, han solicitado a las autoridades implementar controles y regulación sobre la inteligencia artificial.
El experto insistió en que se necesita un monitoreo y control para que no dependamos de lo que las empresas quieran compartirnos sobre cuáles son los incidentes de seguridad.
¿Debe haber regulación para la IA?
Con respecto a Colombia, Gutiérrez reveló que desde 2023 la Universidad de los Andes y la Universidad Externado colideran una mesa de trabajo sobre regulación de inteligencia artificial, con más de 14 sesiones realizadas.
El académico utilizó una contundente analogía para los congresistas que estudian proyectos relacionados con este asunto: “Si en Colombia no produjéramos automóviles, eso no quiere decir que en Colombia no necesitemos semáforos, código de tránsito, policías o reglas. Acá hay más de 50 millones de potenciales consumidores de esos sistemas (con inteligencia artificial)”.
Asimismo, destacó que países como Perú y El Salvador ya cuentan con leyes de inteligencia artificial, al igual que Japón, Corea del Sur y la Unión Europea.
Incluso en Estados Unidos, aunque no existe legislación federal, a nivel estatal hay cientos de regulaciones que los diferentes estados han ido adoptando.
Síguenos en Google News
