L’utilisation non autorisée de l’IA générative met les entreprises face à de nouveaux risques
Une étude de Cyberhaven Labs révèle que de nombreux employés utilisent de manière non autorisée des outils d’intelligence artificielle générative, tels que ChatGPT et Google Gemini, pour accéder et partager des données sensibles de leur entreprise. Ce “shadow IA” expose les organisations à de sérieux risques en termes de sécurité et de confidentialité des données. Bien que le phénomène n’ait pas encore entraîné de fuites majeures, les experts s’inquiètent des conséquences potentielles et recommandent aux entreprises de mettre en place des politiques et des contrôles stricts pour encadrer l’utilisation de l’IA.
Points clés
- Près de 74% des utilisations de ChatGPT et 94% de celles de Google Gemini et Bard se font via des comptes personnels et non professionnels
- 83% des documents juridiques partagés avec ces IA passent par des comptes non professionnels
- Près de la moitié du code source, des documents de R&D et des dossiers d’employés sont envoyés à des IA non validées par l’entreprise
- Le volume de données injectées dans ces outils d’IA a été multiplié par cinq
- Les conditions d’utilisation indiquent que le contenu saisi peut être utilisé par les algorithmes pour améliorer leurs services
- Peu de règles régissent ce que les fournisseurs d’IA peuvent faire avec les informations fournies par les utilisateurs
- Les prochaines vagues d’IA pourraient être moins scrupuleuses et exposer davantage les entreprises
À retenir
Face à cette “IA dans l’ombre”, les entreprises doivent rapidement prendre les mesures nécessaires pour sécuriser l’utilisation de l’IA générative au sein de leur organisation. Cela passe par la mise en place de politiques d’utilisation, de contrôles d’accès et de formations pour les employés. Sinon, elles s’exposent à de graves risques de fuite de données confidentielles, avec des conséquences potentiellement désastreuses. Mieux vaut donc agir maintenant avant que le problème ne prenne trop d’ampleur !
Sources
