Des avions militaires américains auraient déjà été en vol quand des responsables ont découvert que le renseignement justifiant l'interception d'un navire chinois avait été produit avec une IA qui s'était trompée sur sa cargaison. L'affaire remonte au printemps 2026, en pleine guerre contre l'Iran, et concerne un bateau au Moyen-Orient supposé transporter des composants pour un programme d'armes nucléaires.
Un analyste des opérations spéciales avait interrogé un chatbot sur des informations concernant le manifeste du navire, autrement dit le document qui décrit son chargement. Ces renseignements provenaient du commandement américain des opérations spéciales dans le Pacifique, basé à Hawaï, et le chatbot les aurait combinés avec des informations publiques et du renseignement secret issu de signaux interceptés.
La réponse aurait attribué au bateau du matériel nucléaire qu'aucun élément fiable ne permettait d'y identifier. On parle d'une hallucination quand l'IA produit ce genre d'information fausse, mais présentée comme un fait, et dans cette affaire l'erreur aurait ensuite bénéficié d'un habillage assez désastreux.
L'analyste aurait demandé une deuxième fois l'aide de l'IA, pour mettre ses conclusions au format habituel d'un rapport de renseignement avant de le diffuser. Du coup, les destinataires recevaient un document conforme à leurs habitudes de travail, avec tout le crédit que cela peut donner à une analyse militaire.
Des soldats armés se préparaient à monter à bord lorsque la vérification du rapport aurait permis d'arrêter l'opération. Les témoignages recueillis décrivent donc une intervention préparée puis annulée, avec un risque de confrontation entre Washington et Pékin, sans permettre, quand même, d'affirmer qu'un arraisonnement aurait forcément déclenché une guerre.
L'enquête publiée cite quatre sources proches du dossier, mais ne donne ni le nom du chatbot ni la nature réelle de la cargaison. Impossible donc de désigner un fournisseur, ou même de savoir si l'analyste utilisait un produit commercial ou un outil gouvernemental.
Le Pentagone pousse pourtant très fort pour accélérer l'adoption de ces logiciels. En janvier, Pete Hegseth, le secrétaire à la Défense, a présenté une stratégie visant à donner accès aux modèles d'IA à trois millions de militaires et de personnels civils, alors que plusieurs responsables décrivent des pratiques de vérification différentes selon les services et les outils utilisés.
Bref, la multiplication de ce genre d'histoires n'a vraiment rien de rassurant...
Source : Cnn
