Trustworthy AI: a necessary condition for AI based defense system deployment

IA de confiance : condition nécessaire pour le déploiement de l'IA dans les systèmes de défense

Juliette Mattioli (1) , François Terrier (2) , Loic Cantat (3) , Julien Chiaroni (4) , Michel Barreteau (5) , Yannick Bonhomme (3) , Christophe Guettier (6) , Christophe Alix (1)

1 THALES [France]
2 CEA - Commissariat à l'énergie atomique et aux énergies alternatives
3 IRT SystemX
4 Secrétariat général pour l'investissement
5 TRT - Thales Research and Technologies [Orsay]
6 SAFRAN Group

La conception de systèmes critiques comme dans le domaine militaire, aéronautique ou spatialà base d'IA n'est pas neutre. Celle-ci peut démarrer par un PoC (Proof of Concept-preuve de principe) destinéà démontrer la faisabilité d'une solution. Mais ce PoC n'est pas en soi une finalité pour la simple raison que les systèmes militaires doivent etre par construction fiables, sûrs et (cyber)-robustes. Il devient alors nécessaire de repenser et d'outiller les ingénieries algorithmique, logicielle et système pour industrialiser le PoC en produit ou solution, conforme aux concepts d'emploi et doctrines tout en respectant des propriétés comme la sûreté. Mots clés: Ingénierie algorithmique de l'IA· Sûreté · Fiabilité · Vérification et validation · Qualité · Evaluation.

Mots clés: Validation; Vérification; Fiabilité; Sûreté; Ingénierie algorithmique de l’IA; Qualité; Evaluation

Domaines: Intelligence artificielle [cs.AI]

Juliette Mattioli, François Terrier, Loic Cantat, Julien Chiaroni, Michel Barreteau, et al.. IA de confiance : condition nécessaire pour le déploiement de l'IA dans les systèmes de défense. APIA (Conférence Nationale sur les Applications Pratiques de l’Intelligence Artificielle), PFIA, Jul 2021, Bordeaux, France. ⟨hal-02955575⟩