La CNIL préfère la pédagogie à la sanction concernant l’IA

Contexte et enjeux de l’IA

La CNIL est devant un problème des plus complexe avec l’IA compte tenu de l’accroissement exponentiel des outils d’IA en tout genre (langages, images, …). Il n’est aucun doute que l’IA posent des problèmes de sécurité majeurs. Pas de doutes non plus que nous sommes en face d’une des plus grosses révolutions technologiques depuis des décennies voir des siècles. L’IA présente de nombreux risques en matière de fuite de données personnelles, d’utilisation frauduleuse…

Mais comment évaluer, contrôler, … pour le moment la CNIL se contente d’essayer de suivre le sujet car nous n’avons pas les moyens de réguler, comprendre les fonctionnements ou imposer des normes qui n’existent pas dans le domaine.

Réguler ce type de secteur ou de technologie parait être mission impossible !!!

On apprend qu’un service d’intelligence artificielle existe à la CNIL, nous sommes sauvés.

La plan de la CNIL

  • 📌 La CNIL a publié un plan d’action en quatre volets concernant l’intelligence artificielle et le respect de la vie privée.
  • 📌 L’utilisation massive de l’intelligence artificielle, notamment des modèles de langage comme ChatGPT et des caméras à reconnaissance faciale, pousse les politiques et les régulateurs à s’intéresser davantage à ce sujet.
  • 📌 La protection des données personnelles est considérée comme un enjeu majeur pour la conception et l’utilisation de ces outils d’intelligence artificielle.
  • 📌 L’audit et le contrôle de l’Autorité sont présents dans le plan d’action, mais ils ne sont pas mis en avant par la CNIL.

Pour la CNIL, quels sont les enjeux de l’IA en matière de sécurité ?

  • Peux t-on avoir confiance dans les résultats des IA génératives ?
  • La protection des données qui sont accessibles sur le Web par moissonage (scraping – technique de recherche des données personnelles accessible ou recomposée)
  • La protection des informations qui sont saisies par les utilisateurs lorsqu’ils utilisent les IA (collecte de données sensibles, réutilisation de données sensibles ou confidentielles, traitement par apprentissage et intégration au modèle)
  • les impacts et risques pour les personnes ou organisations concernant la protection de leurs informations
  • Les impacts et enjeux en matière de sécurité de façon globale

Contrôler le développement

Pour comprendre l’état d’avancement de la CNIL sur le sujet, celle-ci avait déjà publié en 2022 quelques travaux accessibles ici .

Sujets sur lesquels il faudra rester en veille, la CNIL va travailler sur des guides concernant les sujets :

  • Règles applicables à l’utilisation et partages des données
  • La conception des bases de données ou algorithme

La CNIL dispose également de programme d’accompagnement d’acteurs innovants dans le domaine.

Les normes et le contrôle

Plusieurs démarches sont en cours au niveau européens, des instances de protection des PI au niveau européen pour établir des normes. Des contrôles seront mis en place a priori et a posteriori.

Nous attendons de nouvelles certifications de produits ou de modèles dans les années à venir dans le domaine de l’IA. Aujourd’hui, seules quelques sociétés proposent des certifications. (ex : LNE)

Sources et liens :

https://www.cnil.fr/fr/intelligence-artificielle-ia

Certification du processus d’IA

Webinaire CNIL : https://www.cnil.fr/fr/revoir-le-webinaire-techniques-dia-protectrices-de-la-vie-privee-tour-dhorizon-et-perspectives

Notre Newsletter

Adhérez au Club Cyber et recevez l'actualité directement dans votre boite mail ! Profitez également de nos offres exclusives d'e-learning et de nos webinaires privés !

spot_img

Dans la même catégorie