← Retour au fil
OpenRoboto et Axis Robotics lancent le benchmark ouvert Axis pour l'évaluation des modèles robotiques
TAO Media25 sept., 20h · il y a 5j

OpenRoboto et Axis Robotics lancent le benchmark ouvert Axis pour l'évaluation des modèles robotiques

Fini les benchmarks figés : OpenRoboto et Axis Robotics lancent un benchmark vivant qui renouvelle sans cesse les tâches pour distinguer la vraie généralisation du simple bachotage.

OpenRoboto et Axis Robotics lancent Open Axis, un benchmark ouvert dédié à l'évaluation des modèles de robotique. Sa particularité : il est « vivant ». Les tâches de manipulation robotique y sont régulièrement renouvelées, à partir de la bibliothèque de tâches d'Axis Robotics, qui s'enrichit en continu.

L'objectif : empêcher que les modèles ne soient optimisés uniquement sur des ensembles d'évaluation fixes, au risque de mémoriser au lieu de généraliser. En faisant tourner les tâches, Open Axis mesure la capacité réelle d'adaptation des modèles. L'enjeu : disposer d'un étalon de comparaison fiable et difficilement Gameable pour évaluer les modèles robotiques.

Détails

Source
TAO Media
Publication
25 sept. à 20h12

Contenu source (brut)

The living benchmark rotates robot-manipulation tasks from Axis Robotics' growing library to test whether models can generalize beyond fixed evaluation sets.