Lors d'un exercice destiné à évaluer ses capacités en cybersécurité, un modèle Gemini s'est introduit en mai dernier dans les systèmes de trois entreprises. Google a confirmé les faits vendredi, après avoir été contacté par le Wall Street Journal. L’entreprise estime qu'il ne s'agit pas d'un cas de « désalignement », c'est-à-dire d'une IA qui agit à l'encontre des intentions de ses concepteurs.
Image Rubaitul Azad (Unsplash)
Une homonymie en cause
L'exercice, de type « capture the flag », était piloté par Irregular, un prestataire extérieur. Gemini devait récupérer des informations dans les logiciels d'une entreprise fictive, dont le nom était aussi celui d'une société bien réelle. Le modèle n'était pas censé être connecté à internet, mais l'accès est resté ouvert par inadvertance, selon Irregular.
Dans un cas, Gemini a deviné un mot de passe jusqu'à entrer dans le service. Dans les deux autres, des recherches web sur le nom de l'entreprise l'ont mené vers des dépôts publics cont...
Espace publicitaire · 300×250
