L’IA prend rapidement une place centrale dans notre vie quotidienne. Si elle fait du monde un endroit plus intelligent et plus rapide, elle s’accompagne \u00e9galement de nouvelles menaces contre les normes en mati\u00e8re de droits de l’homme et d’autres effets perturbateurs. La d\u00e9sinformation par l’IA, la propagation des discours haineux et de la propagande qui en r\u00e9sulte, ainsi que les probl\u00e8mes de normes cl\u00e9s et les solutions politiques manquantes, sont quelques-uns des d\u00e9fis associ\u00e9s aux technologies \u00e9mergentes.<\/p>\n
En tant que mod\u00e9ratrice, Silvia Fern\u00e1ndez de Gurmendi, pr\u00e9sidente de GAAMAC, a pr\u00e9sent\u00e9 les experts de la communaut\u00e9 GAAMAC, qui ont chacun soulign\u00e9 un aspect sp\u00e9cifique du sujet :<\/p>\n
Le premier intervenant, Rastislav \u0160utek, a expliqu\u00e9 le r\u00f4le que joue l’IA dans la diffusion et le ciblage de la propagande en ligne. Il a rappel\u00e9 aux participants que l’IA \u00e9tait d\u00e9j\u00e0 utilis\u00e9e pour mod\u00e9rer le contenu des plateformes de m\u00e9dias sociaux. Il a ajout\u00e9 que, bien que la r\u00e9pression des autorit\u00e9s russes sur l’espace num\u00e9rique depuis f\u00e9vrier 2022 soit particuli\u00e8rement visible, il est en effet courant que les \u00c9tats demandent aux entreprises technologiques de supprimer des contenus et des informations – souvent pour des raisons de s\u00e9curit\u00e9 nationale.<\/p>\n
R\u00e9glementation, sur-r\u00e9glementation, sous-r\u00e9glementation ?<\/strong><\/p>\n Historiquement, la r\u00e9glementation l\u00e9gale contre les discours de haine et la propagande a \u00e9t\u00e9 relativement rare, notamment parce qu’il faut toujours trouver un \u00e9quilibre avec la libert\u00e9 d’expression. Cependant, on constate un r\u00e9cent regain d’int\u00e9r\u00eat des \u00c9tats pour la r\u00e9glementation des contenus en ligne, tant au sein d’organisations r\u00e9gionales comme l’UE qu’au niveau national. Le Conseil de l’Europe travaille \u00e9galement actuellement \u00e0 l’\u00e9laboration d’un instrument r\u00e9glementant l’utilisation de l’IA.<\/p>\n Rastislav \u0160utek a termin\u00e9 en soulignant certains inconv\u00e9nients de la mod\u00e9ration par l’IA : certains contenus bloqu\u00e9s peuvent \u00eatre utiles \u00e0 des fins de preuve dans des proc\u00e8s p\u00e9naux ; l’absence d’att\u00e9nuation culturelle peut entra\u00eener un marquage excessif des termes\/contenus ; et inversement, le jargon militaire ou le langage cod\u00e9 peuvent \u00e9chapper \u00e0 la surveillance automatis\u00e9e.<\/p>\n L’IA est un outil de contr\u00f4le n\u00e9cessaire mais imparfait<\/strong><\/p>\n Ensuite, Raashi Saxena a pris la parole pour pr\u00e9senter l’initiative Hatebase. Il s’agit du plus grand r\u00e9pertoire structur\u00e9 de discours haineux multilingues et fond\u00e9s sur l’usage. Il vise \u00e0 mieux comprendre comment le comportement en ligne peut influencer la violence hors ligne et peut \u00eatre utilis\u00e9 pour d\u00e9tecter les premiers stades d’un g\u00e9nocide.<\/p>\n Compte tenu du volume et de la vitesse de diffusion des contenus en ligne, l’IA est un outil n\u00e9cessaire pour une surveillance efficace. La surveillance humaine est facilement d\u00e9pass\u00e9e non seulement par le volume, mais aussi par la nature du contenu, ce qui entra\u00eene des probl\u00e8mes de sant\u00e9 mentale. Les heures d’exposition \u00e0 des contenus haineux soul\u00e8vent \u00e9galement la question de la r\u00e9mun\u00e9ration et des conditions de travail ad\u00e9quates.<\/p>\n Ce que l’IA ne fait pas, en revanche, c’est saisir les nuances et les associations culturelles, ce qui signifie que les m\u00eames termes peuvent \u00eatre consid\u00e9r\u00e9s comme haineux dans une r\u00e9gion du monde et pas dans une autre. La fronti\u00e8re avec la libert\u00e9 d’expression est floue et, comme tout contenu impopulaire ne constitue pas un discours de haine, un arbitrage humain au cas par cas est n\u00e9cessaire.<\/p>\n