Au cours des 18 derniers mois, deux technologies d’interaction homme-ordinateur (HCI) ont connu une ascension fulgurante sur le march\u00e9 grand public gr\u00e2ce aux investissements massifs des grandes entreprises. Le premier domaine de progr\u00e8s est celui des mondes virtuels et \u00e9tendus, commun\u00e9ment appel\u00e9s aujourd’hui \u00ab\u00a0m\u00e9tavers\u00a0\u00bb. Le deuxi\u00e8me domaine de progr\u00e8s est celui des mod\u00e8les d’IA de base, qui permettent aux utilisateurs d’interagir librement avec les ordinateurs par le biais de dialogues naturels. Cette technologie, commun\u00e9ment appel\u00e9e \u00ab\u00a0IA conversationnelle\u00a0\u00bb, s’est rapidement d\u00e9velopp\u00e9e avec l’utilisation de grands mod\u00e8les linguistiques (LLM). La combinaison de ces deux disciplines permettra aux utilisateurs d’avoir des conversations avec des agents virtuels r\u00e9alistes. Cela entra\u00eenera de nombreuses applications positives, mais comporte \u00e9galement un risque d’abus. Le plus significatif est l’utilisation potentielle d’exp\u00e9riences interactives en temps r\u00e9el visant \u00e0 persuader, contraindre ou manipuler les utilisateurs – une forme d’influence cibl\u00e9e par l’IA. Ce probl\u00e8me a \u00e9t\u00e9 largement n\u00e9glig\u00e9 par les d\u00e9cideurs politiques, qui se sont plut\u00f4t concentr\u00e9s sur les risques traditionnels li\u00e9s \u00e0 la protection des donn\u00e9es, \u00e0 la partialit\u00e9 et \u00e0 la surveillance. Il devient de plus en plus important pour les d\u00e9cideurs politiques de reconna\u00eetre que les campagnes d’influence interactives peuvent \u00eatre men\u00e9es par des locuteurs virtuels (Virtual Spokespeople, VSP) contr\u00f4l\u00e9s par l’IA, qui ressemblent, parlent et agissent comme des utilisateurs authentiques, mais qui sont con\u00e7us pour faire valoir les int\u00e9r\u00eats de tiers. Comme ce \u00ab\u00a0probl\u00e8me de manipulation de l’IA\u00a0\u00bb ne se pose que dans des environnements interactifs en temps r\u00e9el, il est pr\u00e9sent\u00e9 dans cet article dans le contexte de la th\u00e9orie du contr\u00f4le, afin de faire comprendre aux d\u00e9cideurs politiques que des r\u00e9glementations sont probablement n\u00e9cessaires pour se prot\u00e9ger contre les formes ferm\u00e9es d’influence, en particulier lorsque l’IA est utilis\u00e9e dans la conversation.<\/p>\n\n
I. INTRODUCTION<\/strong><\/p>\n\n Pour maintenir le bon fonctionnement de la d\u00e9mocratie, il est g\u00e9n\u00e9ralement admis que la population doit avoir une connaissance assez pr\u00e9cise des questions d’importance civique. En outre, dans une d\u00e9mocratie qui fonctionne bien, la population doit avoir la libert\u00e9 de r\u00e9fl\u00e9chir \u00e0 des sujets politiquement pertinents et de se forger des convictions personnelles sans subir d’influence ext\u00e9rieure excessive. L’expression \u00ab\u00a0capacit\u00e9 d’action \u00e9pist\u00e9mique\u00a0\u00bb fait r\u00e9f\u00e9rence au contr\u00f4le de l’individu sur ses propres croyances. Lorsque les citoyens manquent de capacit\u00e9 d’action \u00e9pist\u00e9mique, l’establishment politique ou d’autres groupes puissants peuvent facilement r\u00e9pandre des informations erron\u00e9es, de la d\u00e9sinformation, de la propagande ou des mensonges purs et simples qui d\u00e9forment des croyances sociales largement r\u00e9pandues et soutiennent des r\u00e9gimes autoritaires ou totalitaires.<\/p>\n\n Tant qu’il y aura des technologies m\u00e9diatiques, il y aura aussi ceux qui les utiliseront pour induire la population en erreur dans l’espoir de maximiser le contr\u00f4le politique. Cela remonte \u00e0 l’\u00e9poque de l’imprimerie, mais a \u00e9t\u00e9 consid\u00e9rablement facilit\u00e9 par l’invention des m\u00e9dias de masse comme la radio et la t\u00e9l\u00e9vision. Au cours de la derni\u00e8re d\u00e9cennie, de nombreux \u00c9tats d\u00e9mocratiques ont \u00e9t\u00e9 surpris par la menace inattendue que repr\u00e9sentent les plateformes de m\u00e9dias sociaux. Malgr\u00e9 les espoirs initiaux que les m\u00e9dias sociaux auraient un impact profond\u00e9ment positif sur la soci\u00e9t\u00e9, en soutenant la d\u00e9mocratie en facilitant le d\u00e9bat public et en donnant une voix aux sans-voix, le consensus g\u00e9n\u00e9ral de ces derni\u00e8res ann\u00e9es est que les m\u00e9dias sociaux ont nui aux nations du monde entier en polarisant et en radicalisant la population, en diffusant des informations erron\u00e9es, en renfor\u00e7ant d\u00e9lib\u00e9r\u00e9ment le m\u00e9contentement et en r\u00e9duisant la confiance dans les institutions \u00e9tablies de longue date.<\/p>\n\n Les universitaires ne sont pas les seuls \u00e0 consid\u00e9rer les m\u00e9dias sociaux comme une force n\u00e9faste dans la soci\u00e9t\u00e9. Une enqu\u00eate men\u00e9e par Pew Research en 2020 a r\u00e9v\u00e9l\u00e9 que deux tiers des Am\u00e9ricains estiment que les m\u00e9dias sociaux ont \u00ab\u00a0un impact principalement n\u00e9gatif sur la fa\u00e7on dont les choses se passent aux \u00c9tats-Unis aujourd’hui\u00a0\u00bb. C’est surprenant si l’on consid\u00e8re que les m\u00e9dias sociaux ont \u00e9t\u00e9 salu\u00e9s comme une technologie utopique lors de leur apparition. Alors pourquoi une technologie aux aspirations utopiques a-t-elle finalement des effets dystopiques ? Il y a de nombreuses raisons \u00e0 cela, depuis les mod\u00e8les \u00e9conomiques bas\u00e9s sur la publicit\u00e9 des grandes plateformes jusqu’aux acteurs malveillants qui utilisent des bots et d’autres moyens \u00e9volutifs pour fausser le discours public. Cependant, l’un des principaux probl\u00e8mes \u00e9tait que les autorit\u00e9s de r\u00e9gulation n’ont pas reconnu tr\u00e8s t\u00f4t que les campagnes d’influence via les m\u00e9dias sociaux \u00e9taient fondamentalement diff\u00e9rentes de celles men\u00e9es via les m\u00e9dias classiques tels que la presse \u00e9crite, la radio et la t\u00e9l\u00e9vision.<\/p>\n\n Une diff\u00e9rence majeure r\u00e9side dans le fait que les m\u00e9dias sociaux sont un m\u00e9dia bidirectionnel avec des canaux de communication bidirectionnels, ce qui permet aux plateformes d’effectuer un suivi, un profilage et un ciblage de sous-populations avec une pr\u00e9cision croissante. Cette diff\u00e9rence apparemment subtile a des effets n\u00e9gatifs importants, car elle permet de segmenter d\u00e9lib\u00e9r\u00e9ment des groupes d\u00e9mographiques, ce qui a conduit \u00e0 la polarisation et \u00e0 la radicalisation des communaut\u00e9s en ligne.<\/p>\n\n Compte tenu du fait que les r\u00e9gulateurs du monde entier ont sous-estim\u00e9 les risques uniques des m\u00e9dias sociaux par rapport aux m\u00e9dias traditionnels et n’ont pas pris de mesures en temps utile pour prot\u00e9ger le public, nous devons \u00e9galement craindre que les r\u00e9gulateurs ne n\u00e9gligent de la m\u00eame mani\u00e8re les risques uniques du m\u00e9tavers et d’autres formes de m\u00e9dias interactifs en temps r\u00e9el, comme les interfaces de conversation. En effet, certains consid\u00e8rent que le m\u00e9tavers n’est gu\u00e8re plus qu’une version 3D des plateformes de m\u00e9dias sociaux actuelles. Et si les r\u00e9gulateurs et autres d\u00e9cideurs politiques reconnaissent g\u00e9n\u00e9ralement que l’immersion dans un contenu virtuel r\u00e9aliste peut \u00eatre tr\u00e8s personnelle et donc avoir un impact plus fort sur les utilisateurs (et plus dommageable) que les m\u00e9dias sociaux actuels, ils ne reconnaissent pas que le m\u00e9tavers n’est pas une simple version 3D d’un simple m\u00e9dia bidirectionnel comme les m\u00e9dias sociaux.<\/p>\n\n Au lieu de cela, le Metaverse est un m\u00e9dia interactif en temps r\u00e9el qui peut utiliser les technologies d’IA pour influencer les utilisateurs individuels en circuit ferm\u00e9, et ce \u00e0 grande \u00e9chelle. Avec les r\u00e9centes avanc\u00e9es dans le domaine de l’IA conversationnelle, telles que les Large Language Models (LLM) tels que ChatGPT d’OpenAI et LaMDA de Google, les plateformes Metaverse seront de plus en plus en mesure de mener des campagnes d’influence cibl\u00e9es en utilisant des locuteurs virtuels (Virtual Spokespeople, VSP) enti\u00e8rement interactifs et profond\u00e9ment r\u00e9alistes, qui ressemblent, parlent et agissent comme des repr\u00e9sentants authentiques, mais qui sont aliment\u00e9s par des machines d’IA capables d’adapter et d’optimiser leurs tactiques de persuasion en temps r\u00e9el sur la base des observations comportementales et \u00e9motionnelles des utilisateurs. Il s’agit d’une forme d’influence totalement diff\u00e9rente de tout ce qui a \u00e9t\u00e9 utilis\u00e9 dans le pass\u00e9 et qui n\u00e9cessite une grande attention.<\/p>\n\n Ce contexte vise \u00e0 souligner la crainte que les r\u00e9gulateurs et les d\u00e9cideurs politiques, qui ont sous-estim\u00e9 la possibilit\u00e9 que les campagnes d’influence dans les m\u00e9dias sociaux soient beaucoup plus efficaces, puissantes et nuisibles que celles utilis\u00e9es dans les m\u00e9dias imprim\u00e9s traditionnels, \u00e0 la radio ou \u00e0 la t\u00e9l\u00e9vision, sous-estiment maintenant de mani\u00e8re similaire le pouvoir, l’efficacit\u00e9 et le danger accrus des campagnes d’influence interactives qui pourraient \u00eatre utilis\u00e9es dans un avenir proche gr\u00e2ce aux technologies de m\u00e9tavers et \u00e0 l’IA conversationnelle. Le risque, appel\u00e9 ici \u00ab\u00a0probl\u00e8me de manipulation par l’IA\u00a0\u00bb, est que les campagnes d’influence m\u00e9diatis\u00e9es par l’IA et utilis\u00e9es dans des mondes r\u00e9alistes et immersifs pourraient d\u00e9clencher des formes d’abus extr\u00eamement dangereuses. Afin de faire comprendre aux d\u00e9cideurs politiques que les m\u00e9dias interactifs en temps r\u00e9el constituent un vecteur de menace nouveau et important par rapport aux technologies m\u00e9diatiques pr\u00e9c\u00e9dentes, les sections suivantes utilisent le concept technique fondamental de la th\u00e9orie du contr\u00f4le (CT) pour pr\u00e9senter ces menaces interactives de mani\u00e8re claire et rigoureuse.<\/p>\n\n
![\"\"](\"https:\/\/foundationmetaverse.eu\/wp-content\/uploads\/2023\/03\/LouisRosenberg-1024x768.jpg\")
<\/figure>