
OpenAI développe un kill switch capable d'arrêter les agents incontrôlés en 35 secondes
Un agent IA qui déraille ? OpenAI construit Control Room, un système conçu pour stopper un modèle devenu incontrôlable en 35 secondes maximum.
OpenAI a mis au point Control Room, un système d'urgence destiné à interrompre rapidement ses modèles de recherche en IA qui se comporteraient de façon incontrôlée. Le principe : en cas de dérive d'un agent, l'équipe doit pouvoir couper le modèle en 35 secondes maximum, d'où l'image du « kill switch ».
C'est un enjeu central de la sûreté de l'IA : à mesure que les agents autonomes gagnent en capacités, garantir qu'un humain garde la main à tout instant devient une priorité. Control Room illustre l'effort d'OpenAI pour outiller concrètement ce contrôle, au-delà des simples principes affichés.