Le dernier vol que vous avez pris s'est presque certainement piloté lui-même pendant une partie du trajet. En croisière, habituellement. Parfois à l'approche. Personne n'en fait l'annonce et la plupart des passagers n'y pensent jamais, parce que peu importe ce que l'automatisation gérait, il y avait deux pilotes qualifiés assis à l'avant pendant tout ce temps.
Cet arrangement est plus ancien que la plupart des gens ne le devinent. En juin 1914, une foule assistant à un concours français de sécurité aérienne a vu un Américain de 21 ans survoler la tribune d'honneur les deux mains en l'air. Son mécanicien est sorti marcher sur l'aile. L'appareil a quand même gardé sa trajectoire.
C'était Lawrence Sperry qui faisait la démonstration du pilote automatique gyroscopique qu'il avait construit deux ans plus tôt, neuf ans après que les frères Wright aient décollé à Kitty Hawk. L'automatisation pilote des avions depuis presque aussi longtemps qu'il existe des avions qui valent la peine d'être pilotés, et vous lui faites confiance depuis des années sans même y penser.
Voici la partie qui mérite qu'on s'y attarde. Dans le siècle qui a suivi, le pilote automatique est devenu assez bon pour traverser un océan et atterrir dans une météo qu'aucun humain ne peut voir à travers, et l'industrie n'a jamais, à aucun moment, décidé que les pilotes étaient facultatifs. Chaque vol commercial que vous avez pris en transportait deux, par la loi.
Cent ans d'automatisation fiable, jamais laissée seule
En 1933, Wiley Post a fait le tour du monde seul en un peu plus de sept jours, avec un pilote automatique Sperry qui effectuait la majorité du pilotage réel. Aujourd'hui, l'automatisation peut gérer le décollage, la croisière et, dans les bonnes conditions, l'atterrissage aussi. Sur papier, l'argument pour retirer les humains n'a jamais été aussi fort.
L'industrie a fait l'inverse, et ça vaut la peine d'être précis sur pourquoi. Ce n'est pas que la technologie est faible. C'est qu'elle est assez bonne pour mériter d'être supervisée. L'industrie la plus obsédée par la sécurité sur Terre a examiné un siècle de données et a conclu : garder l'automatisation, garder l'expert, et dépenser l'argent pour former l'expert à travailler avec elle.
Puis l'industrie a trouvé le mode de défaillance
En 1997, un commandant de bord instructeur d'American Airlines nommé Warren Vanderburgh a donné une conférence qui circule encore dans les cockpits presque trente ans plus tard. Il l'a intitulée Les enfants de la ligne magenta.
La ligne magenta, c'est la route que l'ordinateur de bord trace sur l'affichage du poste de pilotage. L'argument de Vanderburgh était que les équipages étaient devenus excellents à gérer cette ligne, et discrètement moins bons à piloter l'appareil. Ils programmaient et surveillaient, ce qui est une compétence différente de piloter. Quand l'automatisation faisait quelque chose qu'ils n'attendaient pas, les mains revenaient lentement aux commandes, et parfois pas du tout.
Douze ans plus tard, le vol Air France 447 s'est abîmé dans l'Atlantique après que le pilote automatique s'est déconnecté à la suite d'une défaillance de capteur, et l'équipage n'a pas correctement reconnu ce que faisait l'appareil. 228 personnes sont mortes. L'enquête est longue et les causes sont multiples, et ce n'est pas l'endroit pour la réduire à un argument marketing. Ce qui compte ici, c'est la réponse : personne n'a proposé de retirer l'automatisation. L'industrie a redoublé d'efforts pour former les gens à garder une longueur d'avance sur elle.
La même chose se passe dans les bureaux en ce moment
Plus de 80 % des organisations qui utilisent l'IA générative rapportent n'en tirer aucun impact tangible sur leurs résultats financiers (McKinsey, State of AI 2025). Cet écart est rarement dû à un mauvais modèle. Il est dû au fait que personne n'est responsable de ce que fait le modèle.
Imaginez une équipe qui commence à utiliser l'IA pour rédiger des soumissions aux clients. Premier mois, c'est une merveille. Des heures sont récupérées. Quatrième mois, une soumission part avec une hypothèse de marge que personne n'a vérifiée, parce que la personne qui révisait chaque ligne s'est mise à survoler. C'est la ligne magenta, dans un flux de soumissions, dans un immeuble sans piste d'atterrissage à des kilomètres à la ronde.
Le signe est toujours le même, et vous pouvez l'entendre dans une réunion. Quelqu'un demande pourquoi le système a fait ce qu'il a fait, et la réponse honnête dans la salle est un haussement d'épaules.
Ce que l'aviation a fait plutôt que de tout débrancher
Trois habitudes sont ressorties de tout ça, et toutes les trois se transposent à une entreprise sans trop d'efforts.
- Savoir ce que le système fait en ce moment. Dans un cockpit, ça veut dire annoncer le mode à voix haute. Dans une entreprise, ça veut dire que quelqu'un peut dire, en une phrase, quelles décisions l'outil prend seul et lesquelles il ne fait qu'ébaucher.
- Savoir où il se trompe. Chaque système a une forme propre à ses erreurs. Notez les vôtres à mesure que vous les trouvez. Une liste de six vraies défaillances vaut mieux que toute documentation qu'un fournisseur vous enverra jamais.
- Être capable de reprendre les commandes. Pas en principe. Quelqu'un de l'équipe a fait ce travail à la main assez récemment pour pouvoir le refaire cet après-midi.
À quoi ça ressemble dans une entreprise de 40 personnes
Rien de tout ça ne demande une plateforme, un comité de gouvernance ou une ligne budgétaire. Pour la plupart des organisations avec qui nous travaillons à Halifax, à Moncton et à St. John's, ça se résume à quatre choses peu spectaculaires.
- Faites tourner le nouvel outil sur du vrai travail pendant quelques semaines, à côté de la personne qui fait ce travail aujourd'hui. Les données de démonstration d'un fournisseur n'ont jamais prédit comment un outil se comporte sur votre dossier le plus embrouillé.
- Décidez d'avance ce qu'une personne doit approuver. Tout ce qui touche à l'argent, à la sécurité ou à la réputation de quelqu'un passe par un humain avant de sortir de l'entreprise.
- Gardez un guide d'une page : ce qu'il fait, où il échoue, comment l'éteindre. Une page. S'il en fait douze, personne ne le lira au moment où il en aura besoin.
- Passez trente minutes par mois à examiner ce qu'il a mal fait. C'est toute la discipline, et c'est la première chose qu'on saute.
Si vous voulez savoir si votre organisation est prête pour tout ça, notre article sur la préparation à la transformation couvre le terrain qui doit être en place d'abord.
Cinq questions avant d'activer quoi que ce soit
- Quelles décisions cet outil prend-il seul, et lesquelles ne fait-il qu'ébaucher pour quelqu'un?
- Qui approuve le résultat quand du vrai argent y est rattaché?
- À quoi ressemble une erreur, et la remarquerions-nous en semaine un ou au quatrième mois?
- Si le fournisseur triplait son prix ou fermait vendredi, que ferions-nous lundi?
- Qui ici pourrait encore le faire à la main?
Si les réponses viennent facilement, vous êtes en bonne posture. Si la salle devient silencieuse sur les deux dernières, c'est une information utile, et ça ne vous a rien coûté de le découvrir.
L'essentiel
L'aviation entretient la plus longue relation avec l'automatisation de toutes les industries sur Terre, et affiche le meilleur bilan de sécurité. Ces deux faits tiennent ensemble grâce à une seule chose : quelqu'un dans le siège qui reste attentif, sur les vols où il ne se passe rien autant que sur ceux où il se passe quelque chose.
Votre IA n'a pas besoin d'être plus intelligente que ça. Elle a juste besoin de quelqu'un pour la piloter.