La décision de l’UE de réglementer ChatGPT en le considérant comme un moteur de recherche paraîtra logique à ceux qui l’utilisent comme tel. Mais qu’en est-il si vous l’utilisez comme un ami ? Ou encore pour discuter des prochaines élections ?
Ce sont là quelques-unes des nombreuses nouvelles questions que l’avènement de l’IA générative soulève pour les régulateurs européens — qui, selon les experts, n’ont pas encore trouvé de réponses satisfaisantes. Lundi, l’exécutif européen a classé ChatGPT parmi les “très grands moteurs de recherche en ligne” au titre du règlement sur les services numériques (DSA), lui imposant ainsi une série d’obligations en matière de transparence et d’atténuation des risques similaires à celles auxquelles sont soumis les leaders traditionnels du secteur, tels que Google et Bing (de Microsoft), qui comptent plus de 45 millions d’utilisateurs mensuels. La société mère de ChatGPT, OpenAI, s’expose à des amendes pouvant atteindre 6% de son chiffre d’affaires mondial annuel si elle ne respecte pas ces règles.
Toutefois, cette catégorisation est restrictive et ne s’applique qu’aux parties de l’outil qui font office de moteur de recherche, ce qui signifie que les conversations dans lesquelles le chatbot apporte sa propre contribution ne semblent pas être concernées. En application du DSA, la Commission aurait pu choisir de classer ChatGPT dans la catégorie des “très grandes plateformes en ligne”, qui s’applique généralement aux réseaux sociaux et aux plateformes d’e-commerce et qui impose des obligations différentes. Pourtant, aucune de ces deux catégories ne reflète l’éventail des utilisations possibles des chatbots.
Elle a mis en avant les risques pour les enfants, “comme la dépendance affective et la conception manipulatrice ou addictive”, et a exhorté la Commission à préciser dans quelle mesure ces risques sont pris en compte par la réglementation en vigueur. ChatGPT et ses concurrents font l’objet d’une polémique mondiale, car ils auraient contribué aux suicides tragiques d’adolescents, notamment celui d’Adam Raine, un jeune Californien de 16 ans, dont les parents ont engagé des poursuites judiciaires contre l’entreprise. Les cas d’utilisation de chatbots basés sur l’IA pour une thérapie ou pour avoir de la compagnie ne sont pas marginaux : selon une étude récente menée par le secteur des assurances, pas moins de 60% des adultes dans le monde les utilisent à des fins thérapeutiques.
La législation actuelle sur les services numériques, adoptée en 2022, n’avait pas prévu l’essor des chatbots. João Pedro Quintais, maître de conférences en droit à l’université d’Amsterdam, décrit ChatGPT comme une technologie “hybride” qui combine les fonctions d’un moteur de recherche et d’une plateforme en ligne, ainsi que d’autres fonctions plus proches de celles d’un éditeur de ses propres contenus. La qualification de “moteur de recherche” pourrait limiter la capacité de la Commission à contrôler la manière dont ChatGPT gère les risques liés non seulement à la santé mentale des adolescents, mais aussi à l’intégrité des élections ou aux contenus illicites.
Demander à ChatGPT de citer les noms des candidats à une élection locale devrait désormais relever du champ d’application du DSA. En revanche, une conversation entre un utilisateur et un chatbot sur le choix du candidat pour lequel voter, au cours de laquelle des informations erronées pourraient être diffusées, pourrait ne pas être concernée. Il a fallu un peu moins d’un an à la Commission pour finaliser la classification de ce chatbot, ses équipes s’étant heurtées à des difficultés pour déterminer dans quelle catégorie le classer.
Extract — continue reading at the source.
