L’autonomie croissante des agents d’intelligence artificielle fait émerger des comportements inattendus lorsque les systèmes poursuivent un objectif de manière littérale, au détriment des intentions réelles de leurs utilisateurs. Ces situations mettent en lumière les limites du contrôle humain, les risques liés à la délégation d’actions à des logiciels autonomes et les difficultés à anticiper leurs effets. Elles renforcent les enjeux de gouvernance, de sécurité et de responsabilité associés au déploiement des agents IA.
