El desarrollo de la Inteligencia Artificial (IA) está generando nuevas preocupaciones entre la comunidad científica internacional, debido a su facilidad para evadir los controles humanos.
A través de su canal en Telegram, la vicepresidenta Sectorial de Ciencia, Tecnología, Educación y Salud, Gabriela Jiménez Ramírez, señaló que el uso de la IA ha generado temores y “su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad”.
En este sentido, la ministra Gabriela Jiménez Ramírez hace referencia a “The AI Scientist”, una inteligencia artificial desarrollada por exinvestigadores de Google y la empresa japonesa Sakana IA, y destinada al área del aprendizaje automatizado para realizar investigaciones científicas.
“Recientemente, ‘The AI Scientist’ una inteligencia artificial destinada al área del aprendizaje automatizado para realizar investigaciones científicas, logró alterar su propio código de manera autónoma, un hecho que disparó las alertas entre los expertos”, señaló la ministra Gabriela Jiménez Ramírez.
Al respecto, la vicepresidenta Sectorial citó un artículo de Marcos Merino publicado en el portal especializado en tecnología Genbeta, donde se detalla que esta inteligencia artificial evadió los controles humanos y logró editar su script “para llamarse a sí misma en un bucle infinito, lo que resultó en una sobrecarga del sistema”.
Recordó que este modelo de inteligencia artificial fue desarrollado para poder reducir el tiempo y los recursos empleados por los científicos y científicas durante sus estudios en materia de medicina, biología y física.
“The AI Scientist nació con el objetivo de cambiar la investigación científica al permitir que un sistema de IA conduzca experimentos, analice resultados y redacte informes científicos completos de manera totalmente autónoma”, expresó la ministra Gabriela Jiménez Ramírez en su publicación en Telegram.
Ante este escenario, la ministra Gabriela Jiménez Ramírez señala que una de las preocupaciones que se desarrolló entorno a “The AI Scientist” es que esta herramienta “pueda llenar de contenidos de baja calidad las revistas científicas, dificultando la revisión por pares y corrompiendo los estándares de la investigación académica”.
Otra de las preocupaciones que expone la ministra Gabriela Jiménez sobre una IA avanzada es cómo esta puede afectar los sistemas y causar daños en su infraestructura. Ante esta situación, la vicepresidenta Sectorial citó las recomendaciones brindadas por la empresa japonesa Sakana IA, entre ellas medidas de seguridad estrictas.
“Sakana IA recomienda ejecutar su modelo en un entorno aislado o sandbox. ‘Esto incluye limitar su acceso a Internet y controlar estrictamente el uso de almacenamiento y bibliotecas de software”, explica Merino, citado por la ministra Gabriela Jiménez Ramírez.
Oficina de Gestión Comunicacional del Ministerio del Poder Popular para Ciencia y Tecnología / Periodista: Ariadna Eljuri
