Un agent IA peut exécuter l'outil que son modèle dit refuser
Une prépublication montre qu'un agent peut exécuter un outil avant même de formuler un refus, révélant un décalage entre la réponse du modèle et l'action réellement déclenchée par l'orchestrateur. L'étude documente aussi 253 bogues vérifiés dans 118 serveurs MCP, soulignant la nécessité de contrôler les actions indépendamment des sorties du modèle.
Espace publicitaire · 300×250