Finansowany przez program France 2030, projekt badawczy Confiance.ai, mający na celu pomoc przemysłowcom w integracji zaufanej sztucznej inteligencji w ich systemach krytycznych, zakończył się we wrześniu 2024 roku. Wzmocniona uzyskanymi wynikami, społeczność Confiance.ai zdecydowała się na kontynuację wspólnych inwestycji poprzez strategię opartą na trzech filarach: utrwalenie osiągniętych rezultatów, pogłębienie badań i wspieranie ich uprzemysłowienia na poziomie europejskim.
Uruchomiony w 2021 roku w ramach Wielkiego Wyzwania "Zabezpieczenie, uwiarygodnienie i certyfikacja systemów opartych na sztucznej inteligencji", program umożliwił opracowanie kompletnej metodologii obejmującej rozwój i wdrażanie SI w systemach krytycznych. Obejmuje ona kluczowe aspekty takie jak odporność, wyjaśnialność, wiarygodność czy zgodność regulacyjna, zwłaszcza w kontekście AI Act, który jest w trakcie przyjmowania na poziomie europejskim.
Otwarta fundacja open source dla strukturyzacji ekosystemu
Jednym z filarów nowej fazy programu jest stworzenie European Trustworthy AI Foundation. Fundacja ma na celu:
- rozpowszechnianie narzędzi i metodologii opracowanych w ramach pierwotnego programu;
- zjednoczenie europejskiej społeczności wokół wspólnych standardów;
- dostosowanie rozwiązań technologicznych do wymogów regulacyjnych;
- wniesienie wkładu w realizację europejskiego rozwiązania do oceny i oznakowania systemów oraz organizacji w zakresie SI, w ramach jej zaangażowania w AI Trust Alliance.
Nowe projekty badawczo-rozwojowe wokół nowych wyzwań
Sztuczna inteligencja szybko się rozwija, dlatego społeczność identyfikuje nowe wyzwania technologiczne do rozwiązania. W szczególności dotyczą:
- sztucznej inteligencji generatywnej stosowanej do zarządzania wiedzą techniczną;
- hybrydowych podejść łączących modele fizyczne i uczenie maszynowe;
- nowych form współpracy człowiek-maszyna w złożonych systemach;
- cyberbezpieczeństwa, które stało się kluczowym wymaganiem dla każdego inteligentnego systemu.
Prace te będą prowadzone w oparciu o konkretne przypadki użycia, w logice transferu do przemysłu, i wzbogacą narzędziową metodologię.
Strukturalna oferta wspierająca uprzemysłowienie odpowiedzialnej SI
Aby ułatwić firmom przyjęcie zaufanej SI, już działają różne środki:
- oferty szkoleniowe, w tym specjalizowany program studiów "Zaufana SI" prowadzony przez CentraleSupélec Exed oraz IRT SystemX;
- narzędzia do zgodności regulacyjnej oferowane przez Airbus Protect;
- usługi uprzemysłowienia uwzględniające wymagania odpowiedzialnej SI, oferowane przez Sopra Steria.
Również zostanie utworzony start-up z programu z ofertą SaaS dedykowaną zarządzaniu komponentami SI, integrującą się z procesami inżynierii przemysłowej.
Wezwanie do mobilizacji
Wobec kluczowych wyzwań związanych z SI w przemyśle, społeczność Confiance.ai wzywa wszystkich europejskich aktorów do przyłączenia się do jej działań: aktywnego wkładu w kształtowanie przyszłości przemysłowej SI w Europie.
Paul Labrogère, Dyrektor IRT SystemX, który prowadził ten program, podsumowuje:
"Nasza społeczność cieszy się, że zaufana SI została uwydatniona podczas Szczytu dla działania na rzecz SI. Ten ostatni podkreślił konieczność mobilizacji aktorów publicznych, prywatnych i akademickich do budowy zaufanego ekosystemu wokół SI. W szczególności w dziedzinie odpowiedzialnej i przemysłowej SI, Europa może już polegać na największej na świecie społeczności utworzonej przez program Confiance.ai w ciągu ostatnich czterech lat. Jesteśmy już gotowi, aby europejscy przemysłowcy wdrażali zaufane rozwiązania SI w celu oferowania nowych, ultrakonkurencyjnych usług na swoich rynkach".
Tłumaczone z Confiance.ai : une feuille de route européenne pour l’industrialisation de l’IA de confiance