Réglementation de l’IA. Que devez-vous savoir en tant qu’entrepreneur ? | IA dans les affaires #47

Comprendre les réglementations sur l’IA. Qu’est-ce que c’est et comment cela change-t-il les affaires ?

L’intelligence artificielle est un ensemble de technologies et de méthodes qui permettent aux machines d’imiter les capacités cognitives humaines. Les systèmes d’IA peuvent apprendre et résoudre des problèmes de manière de plus en plus similaire aux humains. Un rôle clé est joué par l’apprentissage automatique et l’apprentissage profond, qui permettent aux algorithmes de s’optimiser en fonction des données.

Les applications de l’IA sont presque illimitées :

• génération de contenu – texte, comme le fait ChatGPT et Bard, ou images dans Midjourney et DALL-E-3,
• traductions – très utiles pour les affaires internationales,
• reconnaissance d’images et de sons – utilisée, par exemple, lors de l’inspection de l’environnement de travail avec des caméras ou des enregistrements d’appels de centres d’appels,
• analyse de données avancée à partir de diverses sources – des réseaux sociaux aux capteurs industriels.

C’est une véritable révolution qui change le visage de nombreuses industries. L’IA permet aux entreprises d’automatiser des processus, de mieux comprendre les clients ou de développer de nouveaux produits. Cependant, la technologie présente également des risques – d’où la nécessité de réglementation.

Réglementations sur l’IA : concepts et principes clés

Lors de la mise en œuvre de solutions d’IA dans votre entreprise, vous devez être conscient des réglementations en cours relatives à l’utilisation de l’intelligence artificielle. Les plus importantes d’entre elles sont :

• droit d’auteur,
• droit de la protection des données,
• lois concernant la responsabilité pour le fonctionnement de l’intelligence artificielle utilisée par les entreprises.

Droit d’auteur vs. intelligence artificielle

Le droit d’auteur protège les droits personnels et patrimoniaux des créateurs. Dans de nombreux pays, seules les œuvres créées par l’homme peuvent bénéficier de sa protection. En conséquence, les avocats ont tendance à interpréter que les œuvres créées uniquement par l’IA dans un processus automatisé ne sont pas soumises au droit d’auteur, même si l’intelligence artificielle est généralement incapable de créer du contenu sans collaboration humaine.

Dans le contexte commercial, les préoccupations réglementaires liées à la paternité sont :

• utilisation des œuvres de créateurs vivants pour enseigner l’intelligence artificielle – cela s’applique aux entreprises qui créent leurs modèles ou enseignent ceux existants en utilisant des données disponibles publiquement ; en effet, toutes les œuvres – de la peinture et de la sculpture à la marque en passant par les textes publiés sur des sites Web – sont soumises au droit d’auteur,
• protection des matériaux d’entreprise créés avec l’intelligence artificielle – ici, il est nécessaire de lire attentivement les règles et règlements des outils d’IA individuels pour découvrir quelles réglementations ils invoquent. En général, cependant, ils transfèrent les droits sur l’œuvre créée en coopération avec l’IA à la personne qui tape les indices, ou les prompts pour l’intelligence artificielle, se laissant libre d’utiliser le contenu créé à des fins promotionnelles ou de recherche.

Le 30 octobre 2023, a marqué le premier verdict dans le célèbre procès pour violation du droit d’auteur intenté par trois artistes américains, Sarah Anderson, Kelly McKernan et Karla Ortiz, contre les trois entreprises derrière les principaux générateurs d’images Midjourney, Stable Diffusion et Dream Up.

Les artistes ont écrit dans leur plainte que les modèles d’intelligence artificielle avaient été enseignés sur leurs œuvres sans leur permission, et pouvaient ainsi générer des œuvres qui copient leurs œuvres, violant leurs droits d’auteur. Cependant, le tribunal a rejeté leurs revendications dans un jugement de 28 pages, déclarant, entre autres, qu’aux États-Unis, les droits d’auteur doivent être enregistrés pour poursuivre pour leur prétendue violation. Les artistes n’ont pas pu identifier lesquelles de leurs œuvres étaient incluses dans un ensemble de données d’images téléchargées sur Internet et utilisées pour former l’intelligence artificielle.

Droit sur la protection des données personnelles

La loi sur la protection des données (RODO) régule le traitement des données personnelles, qui est central pour de nombreuses applications d’IA. Les systèmes d’IA collectent et traitent souvent d’énormes quantités de données, mettant ainsi les entreprises au défi d’assurer leur sécurité. Pour les entrepreneurs, cela signifie non seulement sécuriser les informations acquises, mais aussi garantir leur traitement transparent et leur responsabilité tout au long du processus. En pratique, cela nécessite la mise en œuvre de mécanismes de sécurité efficaces et de procédures de gestion des données appropriées pour garantir que la vie privée est protégée et que les droits des utilisateurs sont respectés.

Responsabilité de l’IA

De nouvelles réglementations sont actuellement en cours d’élaboration pour faciliter les demandes de dommages-intérêts causés par les systèmes d’IA. La question clé ici est celle de la responsabilité civile – que ce soit le fabricant, l’utilisateur ou le système lui-même qui est responsable des actions de l’IA. Les réglementations en attente pourraient introduire des solutions telles que :

• assurance obligatoire pour les fabricants d’IA, ou
• fonds de compensation spéciaux.
• Il est donc important pour les entrepreneurs de suivre de près ces changements et de se préparer aux nouvelles exigences et obligations.

Comment l’IA change-t-elle le paysage juridique pour les petites entreprises ?

La révolution de l’IA est une opportunité pour les petites entreprises – grâce aux nouvelles technologies, elles peuvent rivaliser avec les grands acteurs. Cependant, la mise en œuvre d’outils d’IA avancés implique de respecter des normes juridiques strictes. Et cela nécessite des dépenses financières et des connaissances que les petits acteurs ne peuvent pas toujours se permettre.

C’est pourquoi les petits entrepreneurs doivent se familiariser à l’avance avec les réglementations actuelles et prévues – cela leur permettra de minimiser les risques juridiques et de mettre en œuvre l’IA de manière responsable. Il est judicieux de faire appel aux services d’avocats spécialisés dans les nouvelles technologies.

Source : DALL-E 3, prompt : Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

Exemples d’applications de l’IA dans les affaires et leur réglementation juridique

Quels sont les dilemmes juridiques dans la mise en œuvre de l’IA en pratique ? Voici des exemples :

• chatbots – l’utilisation de ChatGPT dans une entreprise sous une licence non commerciale implique d’accepter les termes et conditions de participation à une “expérience scientifique” menée par OpenAI ; les conversations menées peuvent être examinées et utilisées pour créer des ensembles de données pour enseigner la prochaine génération d’intelligence artificielle,
• voicebots – peuvent collecter des données personnelles sans que les appelants en aient connaissance, ce qui soulève des préoccupations en matière de confidentialité ; car les données concernent non seulement le sujet de la conversation mais aussi, par exemple, un enregistrement de la voix de la personne. Un petit échantillon suffit pour “cloner” cette voix, c’est-à-dire créer une copie à l’aide de l’intelligence artificielle, qui peut produire des enregistrements sonnant naturellement de tout contenu qui ressemblera aux énoncés de cette personne,
• personnalisation – les algorithmes qui collectent et catégorisent des données sur les utilisateurs peuvent violer le principe d’égalité de traitement ; il existe également un risque qu’ils puissent être utilisés pour la manipulation, créant des bulles d’information basées sur une personnalisation précise du message ; par conséquent, l’un des principes fondamentaux de l’éthique de l’IA, ainsi que des futures réglementations sur l’utilisation de l’intelligence artificielle, sera la transparence dans l’utilisation des données – mais comment cela se traduira en pratique est inconnu,
• voitures autonomes – nécessitent de nouvelles réglementations sur la sécurité et la responsabilité en cas d’accidents impliquant des voitures sans conducteur.

Comme vous pouvez le voir, des questions techniques apparemment sans rapport impliquent le respect de nombreuses réglementations. Et ce ne sont que des exemples sélectionnés les plus proches de la réalité commerciale d’aujourd’hui.

Défis juridiques clés de la mise en œuvre de la réglementation de l’IA dans les petites entreprises

Qu’est-ce qui peut spécifiquement donner des nuits sans sommeil aux propriétaires de petites entreprises mettant en œuvre des systèmes d’IA avancés ? Ce sont principalement :

• réglementations complexes et changeantes – dans le paysage en évolution rapide des outils d’IA, il est difficile de suivre les innovations technologiques, tandis que les réglementations juridiques les concernant émergent lentement, il reste donc à suivre les réglementations des outils utilisés et à consulter un avocat spécialisé dans le droit affecté par le domaine d’activité de l’entreprise,
• responsabilité pour les erreurs de l’IA – c’est l’une des principales questions pour les propriétaires d’entreprises dans la mise en œuvre des dernières avancées en intelligence artificielle, la question est de savoir qui sera responsable des dommages en cas de violation de la protection des données des clients ou de plagiat commis par un générateur de publications sur les réseaux sociaux,
• droits sur les œuvres créées par l’IA – comment protéger la propriété intellectuelle si elle est créée en collaboration avec l’intelligence artificielle de manière à ce que la protection soit efficace dans un système juridique donné ? C’est une question très importante en l’absence de réglementations et de moyens pratiques de distinguer entre le contenu généré par l’homme et celui créé par l’homme,
• discrimination involontaire – comment éliminer les biais algorithmiques qui peuvent conduire, par exemple, à la création de segments de clients de “première” et “deuxième” catégorie selon des règles de catégorisation comprises uniquement par l’IA.

Ce sont des dilemmes fondamentaux auxquels sont confrontées les entreprises mettant en œuvre des solutions avancées basées sur l’intelligence artificielle.

Un guide pour les entrepreneurs : Comment garantir la conformité aux réglementations sur l’IA ?

Les lois régissant l’utilisation de l’intelligence artificielle sont encore en cours d’élaboration dans de nombreux pays. De facto, il ne sera possible d’assurer la conformité aux réglementations sur l’IA qu’après leur entrée en vigueur. En octobre 2023, la Maison Blanche a publié le Blueprint for AI Bill of Rights pour les États-Unis, qui comprend cinq principes pour protéger les citoyens des dommages causés par l’intelligence artificielle. Les principes abordent la sécurité et l’efficacité des systèmes, la protection contre la discrimination algorithmique, la confidentialité des données, l’information et l’explication, ainsi que des options alternatives. Sa formulation détaillée peut être trouvée ici : https://www.whitehouse.gov/ostp/ai-bill-of-rights/

La réglementation régissant l’intelligence artificielle aux États-Unis établit de nouvelles normes pour la sécurité et les protections de l’IA visant à protéger la vie privée des Américains, ainsi qu’à promouvoir l’innovation et la concurrence, tout en renforçant la position des États-Unis en tant que leader dans le développement de l’intelligence artificielle à l’international. Les actions clés comprennent :

• établir des exigences pour les tests de sécurité et le partage des résultats par les entreprises développant des systèmes d’IA avancés,
• développer des normes, outils et tests de sécurité pour l’IA,
• lutter contre la discrimination causée par les algorithmes,
• protéger les consommateurs, les patients, les employés et les étudiants,
• assurer une utilisation responsable de l’IA par le gouvernement.

L’Union européenne, quant à elle, travaille sur l'”AI Act”, un ensemble de réglementations couvrant chaque application de l’IA dans l’UE. Il est destiné à couvrir tous les outils et groupes d’intérêt – États, entreprises et individus – et à diviser les systèmes d’IA en catégories de risque :

1. Systèmes présentant des risques non autorisés – par exemple, basés sur des techniques subliminales,
2. Systèmes à haut risque – tels que l’identification biométrique ou la gestion des infrastructures critiques,
3. Systèmes à risque limité.

La responsabilité du bon fonctionnement des systèmes à haut risque incombe principalement à leurs fournisseurs, ce qui peut devenir un fardeau pour les entreprises fournissant de telles solutions. Le texte complet de l'”Artificial Intelligence Act” peut être trouvé ici : https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52021PC0206

Alors, comment minimiser les risques juridiques lors de la mise en œuvre de l’IA dans votre entreprise ? Voici quelques conseils pratiques. Tout d’abord :

• concentrez-vous sur les impacts anticipés de la mise en œuvre des systèmes d’IA pour détecter les risques potentiels à l’avance,
• dès le début, gardez à l’esprit les mécanismes de contrôle et de supervision du fonctionnement des algorithmes, tels que par des outils humains ou automatisés qui surveillent leur comportement,
• vérifiez que vous utilisez des fournisseurs de technologie d’IA de confiance, lisez les réglementations et les mises à jour,
• restez attentif à la mise à jour des réglementations sur l’IA et conformez-vous à celles-ci.
• En cas de doute, demandez conseil à des avocats spécialisés dans les nouvelles technologies.

L’avenir de la réglementation de l’IA. Que peuvent attendre les entrepreneurs ?

La réglementation de l’IA en est encore à ses débuts, mais il est déjà évident que nous nous dirigeons vers un contrôle et une supervision accrus de la technologie. Un exemple est l'”AI Act” de l’UE, imposant des normes strictes aux systèmes à haut risque.

D’un autre côté, il y a des voix, par exemple du Royaume-Uni, plaidant pour des réglementations plus souples qui ne freineront pas l’innovation. Peut-être que l’avenir sera un juste milieu ?

Quelles que soient les solutions exactes, il semble certain que les réglementations sur l’IA deviendront de plus en plus strictes, donc les entreprises devraient en tenir compte lors de la mise en œuvre de nouvelles technologies dans leurs entreprises.

Résumé

La révolution de l’intelligence artificielle est une énorme opportunité commerciale. Cependant, lors de l’introduction de solutions d’IA avancées dans une petite entreprise, il convient d’être conscient des nombreux pièges juridiques. Les réglementations existantes et prévues peuvent donner de nombreux maux de tête aux propriétaires d’entreprises. Il est donc crucial de comprendre tôt les aspects juridiques de l’IA, de réaliser des analyses de risques approfondies et de se conformer à toutes les exigences. Ainsi, tant les entreprises que les clients pourront tirer pleinement parti des avantages de l’intelligence artificielle.

Si vous aimez notre contenu, rejoignez notre communauté de petites abeilles sur Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.