
Macrocosmos présente une IA décentralisée de pointe au UK AI Agent Hackathon
L'IA décentralisée fait mouche : Orion-100B a été entraîné sur 48 GPU dispersés pour 30% du coût d'un système centralisé, avec des enjeux majeurs pour la sécurité.
L'équipe Macrocosmos a présenté Orion-100B, le premier modèle linguistique de 100 milliards de paramètres entraîné sur 48 GPU répartis mondialement. Il atteint 65% des performances d'un système centralisé pour 30% du coût. Le projet IOTA tire parti des instances spot inutilisées pour réduire les dépenses, affichant des économies allant jusqu'à 40 000 dollars par mois et par rack face aux H200.
Le sous-réseau Apex a livré une démonstration frappante lors d'une compétition d'interprétabilité : des agents ont manipulé les neurones internes du modèle Gemma pour forcer une sortie précise quel que soit le sujet de départ. Ce résultat valide l'approche par compétition directe et soulève des enjeux cruciaux pour la sécurité de l'IA.