"Hay que darle unas capas extra a la IA para que sea segura y confiable"

En la primera mesa del foro de inteligencia artificial,Marco González, responsable del área de Inteligencia Artificial y Datos de Ikerlan, destacó las diferencias fundamentales entre la IA tradicional y la IA generativa. "Hay que diferenciar la IA tradicional, como visión por ordenador, de la IA generativa, que incluye ChatGPT, Gemini... Esta tecnología nos permite interactuar con los ordenadores a través de voz y lenguaje natural." 

El experto también enfatizó la necesidad de desarrollar IA de manera estructurada y segura, rodeada de especialistas en áreas clave como ciberseguridad, robustecimiento de modelos y seguridad funcional. "No solo hay que hacer un sistema de IA por hacerlo. Hay que añadir capas extra para que sea segura y confiable", aseguró. Finalmente, González destacó la investigación en curso para establecer límites claros a la IA y entender mejor sus decisiones: "Estamos trabajando en cómo controlar y poner límites a la IA, en entender por qué hace lo que hace."