L’autonomie croissante des agents, leur capacité à enchaîner des actions sans validation humaine à chaque étape, pose une question de gouvernance non résolue : comment attribuer la responsabilité d’une action qui n’a été explicitement ni programmée ni autorisée par un humain, mais qui résulte des arbitrages effectués par le système pour atteindre un objectif donné ? Les récents incidents montrent que le risque dépend autant des capacités du modèle que des permissions, de l’accès et du niveau de contrôle accordé à l’agent. A partir de quel moment le comportement d’un agent cesse-t-il d’être un incident technique pour devenir un problème de responsabilité juridique ?