L’IA dans la gestion de la sécurité aérienne : cas d’usage, risques et contrôles avec humain dans la boucle
01Où l’IA peut aider
En sécurité aérienne, l’IA est la plus utile là où le travail est répétitif, structuré et aujourd’hui limité par l’attention humaine. Quatre cas d’usage se distinguent.
La classification des événements. Chaque événement doit être classé selon la taxonomie de l’exploitant (catégories d’événements de l’OACI, gravité interne, lien avec les dangers). La classification humaine est lente, varie d’un relecteur à l’autre et constitue le goulot d’étranglement de toute équipe sécurité. Les agents IA de classification proposent des catégories avec un score de confiance ; le gestionnaire de la sécurité approuve, modifie ou rejette.
La rédaction des CAPA. Rédiger une action corrective pour une constatation ouverte prend 15 à 30 minutes par constatation. Les agents IA de rédaction produisent une première version à partir de la constatation, de la section de procédure concernée et de l’historique des actions précédentes ; l’humain la modifie et l’approuve.
La détection des signaux faibles. Repérer une tendance qu’aucun compte rendu isolé ne montre (la même barrière cotée moins qu’efficace lors d’approches avec un type d’aéronef sur un aéroport donné) était historiquement le travail d’un analyste sécurité chevronné disposant de temps. eAviora mène cette recherche chaque jour, et la recherche elle-même relève de la statistique, pas d’un modèle de langage : elle teste des combinaisons de faits (type d’événement, aéronef, lieu, phase de vol, famille de risques, barrière dégradée) à travers les événements, les dangers, les constatations et les dépassements issus des données de vol, et liste celles qui reviennent plus souvent que le hasard ne l’explique, pour que l’équipe sécurité en prenne acte, agisse ou les écarte. Deux agents IA travaillent à côté : l’un rédige la synthèse de l’analyse à partir des chiffres qu’elle a produits, et l’autre, sur demande, lit les événements, constatations, dangers et formations liés à une exigence réglementaire et indique si l’exploitation raconte une autre histoire que la documentation.
La synthèse. Produire le dossier d’un comité d’examen de la sécurité à partir de cinq exports couvrant le SGS, le SGQ, la formation, les documents et les audits représente plusieurs heures de travail chaque semaine. eAviora construit lui-même chaque mois le dossier sécurité du comité à partir des dossiers en direct, sans aucun modèle, et des agents IA commentent ce qu’il a calculé : une synthèse du portefeuille de risques (registre, profil de risque et barrières) pour le dirigeant responsable et, pour un point à l’ordre du jour du comité, une proposition de décision avec des actions correctives candidates que le comité accepte, modifie ou rejette.
Ces quatre cas d’usage partagent deux propriétés : leur périmètre est clairement délimité, et la production passe par un relecteur humain avant d’avoir un effet opérationnel.
02Où l’IA ne doit pas décider seule
La liste des opérations où l’IA ne doit pas décider seule est courte et importante. C’est aussi le meilleur test pour savoir si le discours d’un fournisseur sur l’IA est responsable ou purement marketing.
- Clôturer une CAPA. La clôture exige une vérification d’efficacité, c’est-à-dire un jugement, fondé sur des éléments probants opérationnels, sur le fait que l’action a atteint le résultat visé. L’IA peut proposer ; seul un humain nommé peut signer.
- Arrêter la classification d’un événement. La classification a des conséquences réglementaires. L’IA peut proposer ; le gestionnaire de la sécurité arrête la classification.
- Signer une vérification d’efficacité. La signature du vérificateur est un engagement personnel. L’IA ne peut pas signer.
- Transmettre des déclarations destinées à l’autorité. Toute déclaration à une autorité sur la conformité, la situation ou le statut est un document signé par un humain.
- Prononcer des sanctions dans le cadre de la culture juste. L’arbre de décision de la culture juste est une conversation humaine qui implique l’examen d’un comité et la validation du dirigeant responsable. L’IA n’entre pas dans cette boucle.
- Modifier le profil de risque de sécurité en contournant les dossiers sous-jacents. Le SRP est une vue déduite, pas un état affirmé.
- Toute mesure ayant un effet opérationnel sur l’aéronef, l’équipage ou les passagers. Les décisions opérationnelles reviennent à des humains qualifiés dans des rôles définis.
Le principe est constant : l’IA propose, l’humain qualifié décide. Un fournisseur dont la feuille de route IA brouille cette ligne propose des fonctionnalités qui ne résisteront pas à un audit de l’autorité.
03Les contrôles avec humain dans la boucle
L’humain dans la boucle (HITL) est le modèle structurel qui distingue une IA aéronautique défendable d’une IA qui ne l’est pas. Il se déroule en quatre étapes :
- L’IA propose. Classification, projet, synthèse, signal : l’agent produit une proposition.
- Le système consigne. La piste d’audit enregistre l’agent, le modèle, la consigne, les données d’entrée, la proposition et le score de confiance.
- L’humain qualifié examine et décide. Un humain nommé, dans le rôle approprié à la décision, approuve, modifie ou rejette.
- La plateforme rejoue. Trois ans plus tard, l’autorité peut rejouer l’exécution de l’agent, voir les données d’entrée, la proposition, l’approbation humaine et le résultat.
Le modèle HITL est aussi le test de la maturité d’un fournisseur. Demandez : montrez-moi l’historique des exécutions de l’agent. Montrez-moi un exemple de journal. Rejouez une exécution d’il y a six mois avec les données d’entrée d’origine. Le fournisseur propose ces capacités ou ne les propose pas. Un discours marketing sur « l’IA explicable » sans l’infrastructure d’audit sous-jacente n’a pas la même forme.
04Auditabilité et traçabilité
En sécurité aérienne, l’exigence d’auditabilité de l’IA est la même que celle du SGS lui-même : trois ans plus tard, l’autorité doit pouvoir reconstituer ce qui s’est passé, pourquoi et sous quelle autorité.
Traçabilité de chaque exécution. Chaque exécution d’IA a un identifiant unique et un horodatage. L’agent, le modèle, la version du modèle, la consigne, les données d’entrée, la production structurée, le score de confiance, le relecteur humain, la décision humaine et toute modification sont consignés.
Capacité de rejeu. Pour une exécution donnée, la plateforme peut montrer les données d’entrée d’origine, la proposition et la décision humaine exactement telles qu’elles étaient. Une nouvelle exécution donne rarement les mêmes mots, c’est donc l’exécution consignée qui fait foi, pas une relance.
Isolation entre clients. Les exécutions d’IA sont cantonnées à l’espace de l’exploitant. eAviora n’exploite aucune chaîne d’entraînement de modèles : les données de l’exploitant n’entraînent donc rien ici, et le fournisseur d’IA déclare ne pas s’entraîner sur les données d’entrée ni sur les productions.
Une piste en ajout seul. Le journal d’audit est en ajout seul. Un relecteur ne peut pas modifier l’historique ; il peut seulement ajouter une entrée corrective, visible à côté de l’originale.
Ensemble, ces capacités rendent l’IA en sécurité aérienne défendable. Demandez aux fournisseurs comment chacune est mise en œuvre : leurs réponses vous diront si la plateforme a été conçue pour l’audit ou pour la démonstration.
Questions
Dans la gestion de la sécurité aérienne, l’IA sert d’assistance sous contrôle d’un humain dans la boucle, jamais de décideur autonome. Parmi les applications utiles : classer les événements selon la taxonomie de l’exploitant avec un score de confiance, rédiger des CAPA pour les constatations ouvertes, détecter des signaux faibles dans le SGS, le SGQ et la formation, résumer de longs comptes rendus pour le comité d’examen de la sécurité, et trier la file des audits. Sur un dossier, chaque production de l’IA peut être revue et auditée, et un humain qualifié l’approuve avant qu’elle n’ait le moindre effet opérationnel. Un import en masse que vous lancez peut appliquer les classements à haute confiance, marqués non validés, et envoie le reste et un échantillon à une personne.
Oui, lorsqu’elle sert d’assistance avec une revue humaine dans la boucle. Les agents IA de classification proposent des catégories issues de la taxonomie énumérée de l’exploitant, avec un score de confiance ; le gestionnaire de la sécurité les revoit, les modifie ou les rejette. Ce modèle est la raison essentielle pour laquelle l’IA est défendable. Une IA qui décide seule de la classification, sans marquage, sans relecteur humain ni contrôle par échantillon, constitue un risque d’audit et ne doit pas être déployée.
L’IA ne doit pas, de façon autonome, clôturer une CAPA, arrêter la classification d’un événement, signer une vérification d’efficacité, transmettre des déclarations destinées à l’autorité, prononcer des sanctions dans le cadre de la culture juste, modifier le profil de risque de sécurité, ni prendre une mesure ayant un effet opérationnel sur l’aéronef, l’équipage ou les passagers. Le principe est constant : l’IA propose, l’humain qualifié décide. C’est la ligne qui sépare une IA aéronautique défendable d’une IA qui ne l’est pas.
Quatre contrôles. (1) Chaque agent IA a une finalité, un modèle, une consigne et un seuil de confiance nommés et consignés dans la plateforme. (2) Chaque exécution d’IA consigne les données d’entrée, la proposition, le relecteur humain nommé, la décision humaine et toute modification. (3) Chaque exécution peut être rejouée : trois ans plus tard, l’autorité peut ouvrir l’exécution consignée et voir la version de la consigne, les données d’entrée et la proposition exactement telles qu’elles étaient. (4) La piste est en ajout seul et isolée par client. Ensemble, ces contrôles rendent l’IA en sécurité aérienne défendable devant les auditeurs de l’OACI, de l’AESA (EASA), de la FAA et de l’IOSA.
Oui. eAviora est la plateforme d’intelligence en sécurité aérienne. Des agents IA assistent la classification, la rédaction des CAPA, la détection des signaux faibles et la synthèse, Sur un dossier, une personne accepte, modifie ou écarte chaque proposition, et la décision est conservée avec son nom. Un import en masse que vous lancez peut appliquer les classements à haute confiance, marqués non validés, et envoie le reste et un échantillon à une personne. eAviora n’exploite aucune chaîne d’entraînement de modèles : les données de l’exploitant n’entraînent donc rien ici, et le fournisseur d’IA déclare ne pas s’entraîner sur les données d’entrée ni sur les productions. L’architecture est conçue pour être défendable, pas seulement pour le débit.