GoEx : Un moteur d’exécution pour les applications autonomes à base de LLM
Les modèles de langage de grande taille (LLM) évoluent au-delà de leur rôle de fournisseurs d’informations dans les systèmes de dialogue pour s’engager activement avec des outils et effectuer des actions sur des applications et des services du monde réel. Aujourd’hui, les humains vérifient la justesse et l’adéquation des sorties générées par les LLM (par exemple, le code, les fonctions ou les actions) avant de les mettre en œuvre dans le monde réel. Cela pose des défis importants car la compréhension du code est bien connue pour être extrêmement difficile. Nous étudions comment les humains peuvent collaborer efficacement avec, déléguer à et superviser les LLM autonomes à l’avenir.
Points clés
- Les LLM évoluent d’agents conversationnels à agents autonomes interagissant avec des applications et des services.
- Le défi est de gérer l’hallucination, la stochasticité et l’imprévisibilité des LLM dans ces applications.
- GoEx propose un nouveau paradigme d’exécution basé sur la “validation a posteriori”, avec des mécanismes d’annulation et de confinement des dommages.
- GoEx fournit des abstractions pour l’autorisation, l’exécution et la gestion des erreurs dans les applications à base de LLM.
- Le projet GoEx est open source et propose une démonstration web ainsi qu’une interface en ligne de commande.
A retenir
Les entreprises devraient explorer les possibilités offertes par les LLM autonomes interagissant avec des applications et des services, tout en mettant en place des mécanismes de sécurité et de contrôle adaptés. GoEx est une plateforme open source prometteuse pour relever ces défis.
