Quand le co-fondateur d’une entreprise d’audit de l’IA a participé à l’élaboration de la loi qui la réglemente
Cet article examine les liens étroits entre Dan Hendrycks, directeur exécutif du Center for AI Safety (CAIS), et le projet de loi californien sur la sécurité de l’IA (SB 1047). Hendrycks, qui a co-fondé l’entreprise d’audit de l’IA Gray Swan, semble avoir joué un rôle central dans l’élaboration de cette loi, ce qui pourrait constituer un conflit d’intérêts important. L’article analyse en détail les implications de cette situation et les questions qu’elle soulève sur l’indépendance et l’objectivité du processus législatif.
Points clés
- Dan Hendrycks est à la fois directeur exécutif du Center for AI Safety (CAIS) et co-fondateur de l’entreprise d’audit de l’IA Gray Swan
- Le CAIS, via sa branche de lobbying, a participé à la rédaction du projet de loi californien SB 1047 sur la sécurité de l’IA
- SB 1047 exige des audits tiers des modèles d’IA, ce qui pourrait profiter à l’entreprise Gray Swan co-fondée par Hendrycks
- Hendrycks a défendu publiquement le projet de loi SB 1047 et a même témoigné en sa faveur devant un comité parlementaire
- Gray Swan a lancé deux nouveaux produits – Shade et Cygnet – qui semblent bien positionnés pour répondre aux exigences de SB 1047
- Hendrycks nie avoir l’intention d’offrir des services d’audit dans le cadre de SB 1047, mais ses déclarations manquent de clarté
- Gray Swan a déjà remporté un contrat avec le gouvernement britannique pour fournir des “mesures de sécurité robustes”, ce qui pourrait lui donner un avantage pour d’éventuelles réglementations similaires au Royaume-Uni
À retenir
Ce cas soulève de sérieuses questions sur l’intégrité du processus législatif. Lorsqu’un acteur clé dans l’élaboration d’une loi semble pouvoir en tirer un avantage financier personnel via sa propre entreprise, cela jette le doute sur la neutralité et l’objectivité de la loi elle-même. Les citoyens doivent être en mesure de faire confiance à leurs élus et aux experts qui les conseillent. Malheureusement, cette affaire met en lumière les risques de conflits d’intérêts qui peuvent miner la confiance du public. Les responsables politiques devraient redoubler de vigilance pour s’assurer que de telles situations ne se reproduisent pas.
Sources
