Un reciente estudio publicado en la revista Nature afirma que se desarrolla una Inteligencia Artificial más avanzada que se volverá más humana y capaz de responder a preguntas cada vez más complejas. Sin embargo, este progreso también trae consigo riesgos significativos.
La investigación compartida por la ministra del Poder Popular para Ciencia y Tecnología, Gabriela Jiménez Ramírez, en su canal de Telegram, examinó algunos de los modelos de lenguaje de gran tamaño (LLM) más importantes de la industria, como GPT de OpenAI, LLaMA de Meta y BLOOM de BigScience.
Al respecto, la ministra Gabriela Jiménez Ramírez afirmó que estos avances de la IA podrán engañar con más naturalidad haciendo pasar por veraces respuestas incorrectas .
«Los chatbots más modernos y potentes se creen demasiado listos, así que se dedican a inventar hechos y respuestas en lugar de rechazar las preguntas para las que no conocen una solución válida», dijo.
Advirtió que las aplicaciones con IA se están volviendo mucho más precisas e inteligentes, pero eso tiene una consecuencia indeseada, pues también son capaces de fingir mejor que están bien entrenadas y, por tanto, podrán entregar respuestas convincentes que son totalmente falsas.
Asimismo, el estudio reveló que los humanos perciben estas respuestas como precisas, aunque son incorrectas en muchas ocasiones, con un margen de error entre el 10 y un 40%.
En este sentido, comentó que el problema no radica en la capacidad de las herramientas para responder preguntas complejas, sino en su tendencia a fallar en preguntas fáciles, con niveles de precisión en torno al 60%.
La ministra sostuvo que los investigadores sugieren que lo ideal sería programar a los chatbots y LLMs para que eviten responder de forma sistemática cuando no pueden verificar la información.
Sin embargo, añadió que esta acción lleva a desafiar los intereses de la industria, de la empresas, en el que todos quieren posicionarse como estándares de facto.
Para enfrentar estos desafíos, la ministra Gabriela Jiménez subrayó la importancia del pensamiento crítico, con mayor conexión y sensibilidad.
«Recordemos que el pensamiento crítico es la capacidad de obtener una comprensión sólida, fiable y lo más veraz posible de la información y, a continuación, utilizar esa comprensión para tomar decisiones sensatas basadas en ese conocimiento. Esto significa escudriñar la información, cuestionar los supuestos y asegurarse de que las conclusiones se apoyan en pruebas sólidas. El pensamiento crítico humano involucra una comprensión profunda de contextos, conexiones, autoconciencia y posibles implicaciones éticas y sociales», enfatizó.
Finalmente, destacó tres talentos humanos que la IA no puede reemplazar: la curiosidad, la humildad y la inteligencia emocional: 1-Curiosidad: Poder realizar nuevas preguntas 2-Humildad: La autoconciencia, pedir feedback y la reflexión interna 3-Inteligencia Emocional: Poder establecer conexiones humanas, practicar la empatía y el amor por el prójimo, la comunicación con sensibilidad
Oficina de Gestión Comunicacional del Ministerio del Poder Popular para Ciencia y Tecnología / Periodista: Ghiccelle Chacín.
