Financiado por France 2030, el programa de investigación tecnológica Confiance.ai, destinado a ayudar a los industriales a integrar una inteligencia artificial de confianza en sus sistemas críticos, concluyó en septiembre de 2024. A la luz de los resultados obtenidos, la comunidad Confiance.ai ha decidido continuar con su inversión colectiva a través de una estrategia articulada en torno a tres ejes: perpetuar los resultados adquiridos, profundizar en los trabajos de investigación y fomentar su industrialización a nivel europeo.
Lanzado en 2021 en el marco del Gran Desafío "Asegurar, garantizar y certificar sistemas basados en inteligencia artificial", el programa permitió desarrollar una metodología completa que guía el desarrollo y despliegue de la IA en sistemas críticos. Esta cubre dimensiones clave como la robustez, la explicabilidad, la fiabilidad y el cumplimiento normativo, especialmente con el AI Act en proceso de adopción a nivel europeo.
Una fundación de código abierto para estructurar el ecosistema
Uno de los pilares de la nueva fase del programa es la creación de la European Trustworthy AI Foundation. Esta fundación tiene como objetivo:
- difundir las herramientas y metodologías desarrolladas en el marco del programa inicial;
- federar una comunidad europea en torno a estándares compartidos;
- alinear las soluciones tecnológicas con los requisitos normativos;
- contribuir a la implementación de una solución europea para evaluar y etiquetar los sistemas y organizaciones en materia de IA, en el marco de su implicación en la AI Trust Alliance.
Nuevos proyectos de I+D en torno a desafíos emergentes
A medida que la IA evoluciona rápidamente, la comunidad identifica nuevos desafíos tecnológicos a abordar. Entre ellos se incluyen:
- la IA generativa, aplicada a la gestión del conocimiento técnico;
- los enfoques híbridos, que combinan modelos físicos y aprendizaje automático;
- las nuevas formas de colaboración humano-máquina en sistemas complejos;
- la ciberseguridad, que se ha convertido en un requisito clave para cualquier sistema inteligente.
Estos trabajos se llevarán a cabo a través de casos de uso concretos, en una lógica de transferencia hacia la industria, y enriquecerán la metodología equipada.
Una oferta estructurada para acompañar la industrialización de la IA responsable
Para facilitar la adopción de la IA de confianza por parte de las empresas, ya están operativos varios dispositivos:
- ofertas de formación, incluido el máster especializado «IA de confianza» de CentraleSupélec Exed y el IRT SystemX;
- herramientas de cumplimiento normativo ofrecidas por Airbus Protect;
- servicios de industrialización que integran las restricciones de la IA responsable, ofrecidos principalmente por Sopra Steria.
También se creará una startup surgida del programa, con una oferta SaaS dedicada a la gobernanza de componentes de IA integrable en los procesos de ingeniería industrial.
Llamado a la movilización
Frente a los desafíos cruciales de la IA en la industria, la comunidad Confiance.ai llama a todos los actores europeos a unirse a su acción: contribuir activamente a dar forma al futuro de la IA industrial en Europa.
Paul Labrogère, Director del IRT SystemX que dirigió este programa, concluye:
"Nuestra comunidad se alegra de que la IA de confianza haya sido destacada durante la Cumbre para la acción sobre la IA. Esta última ha puesto de relieve la necesidad de movilizar a los actores públicos, privados y académicos para construir un ecosistema de confianza en torno a la IA. Más concretamente en el ámbito de la IA industrial y responsable, Europa ya puede contar con la comunidad más grande del mundo constituida por el programa Confiance.ai en los últimos cuatro años. Ya estamos preparados para que los industriales europeos integren soluciones de IA de confianza para desplegar nuevos servicios innovadores y ultra-competitivos en sus mercados".
Traducido de Confiance.ai : une feuille de route européenne pour l’industrialisation de l’IA de confiance
Para entender mejor
bfQu 0e9 es la IA generativa y c 0f3mo se puede aplicar a la gesti 0f3n del conocimiento t 0e9cnico?
La IA generativa se refiere a modelos de IA capaces de crear nuevos datos con caracter 0edsticas similares a los datos de entrenamiento. En la gesti 0f3n del conocimiento t 0e9cnico, puede generar documentos o an 0e1lisis basados en bases de datos existentes, simplificando as 0ed la transferencia y actualizaci 0f3n del conocimiento.