← Retour au fil
OpenAI développe un kill switch capable d'arrêter les agents incontrôlés en 35 secondes
Cointelegraph10 nov., 03h · il y a 7j

OpenAI développe un kill switch capable d'arrêter les agents incontrôlés en 35 secondes

Un agent IA qui déraille ? OpenAI construit Control Room, un système conçu pour stopper un modèle devenu incontrôlable en 35 secondes maximum.

OpenAI a mis au point Control Room, un système d'urgence destiné à interrompre rapidement ses modèles de recherche en IA qui se comporteraient de façon incontrôlée. Le principe : en cas de dérive d'un agent, l'équipe doit pouvoir couper le modèle en 35 secondes maximum, d'où l'image du « kill switch ».

C'est un enjeu central de la sûreté de l'IA : à mesure que les agents autonomes gagnent en capacités, garantir qu'un humain garde la main à tout instant devient une priorité. Control Room illustre l'effort d'OpenAI pour outiller concrètement ce contrôle, au-delà des simples principes affichés.

Détails

Source
Cointelegraph
Publication
10 nov. à 03h04

Contenu source (brut)

OpenAI builds kill switch to stop rogue agents within 35 seconds. OpenAI created Control Room, a system to rapidly halt rogue AI research models within 35 seconds.