Lorsque Marc Zuckerberg a choisi le terme Metaverse pour annoncer la prochaine étape d’un Internet encore plus immersif, il a également lancé dans le monde – volontairement et consciemment ou non – un avertissement sur la fin de la démocratie : Le mot « metaverse » a été popularisé pour la première fois en 1991 dans le roman de science-fiction « Snow Crash » de Neal Stephanson. Le roman se déroule dans un futur dystopique libertaire où l’État, la démocratie et l’environnement sont détruits, où les grandes entreprises et la mafia règnent en maîtres et où la ségrégation raciale et sociale est la règle. Le monde virtuel parallèle de Metaverse est un refuge dans lequel les avatars peuvent trouver la liberté, laisser la discrimination derrière eux et créer cette ascension sociale qui est empêchée par les inégalités extrêmes du monde réel. Le métavers du roman n’est pourtant pas sûr : là aussi, des inégalités extrêmes sont reproduites, là aussi la violence numérique règne et une drogue immersive appelée « Snow Crash » se propage, infectant les personnes réelles en chair et en os derrière les écrans – une métaphore de la désinformation, des récits de conspiration ou d’autres formes de manipulation destructrices qui peuvent se transmettre des environnements virtuels au monde physique. Le roman « Snow Crash » ne raconte que l’histoire d’un futur potentiel, mais de par son origine historico-culturelle, le terme « metaverse » est associé à l’avertissement de ne pas perdre de vue le monde réel malgré toute l’euphorie et les possibilités séduisantes des environnements numériques immersifs : La protection du climat, de la démocratie et des droits de l’homme sont ici prioritaires. Les grands bonds en avant de la numérisation, dus à la pandémie Covid, ont montré à quel point les crises mondiales peuvent accélérer les progrès numériques. Dans quelle mesure l’idée d’une escapade virtuelle en réaction à l’aggravation de la crise climatique, à la guerre et aux conflits internes est-elle vraiment irréaliste ? Outre toutes les opportunités, le développement de l’Internet du futur doit tenir compte des dangers potentiels à différents niveaux.
Sur le plan personnel, les utilisateurs bénéficient de nombreux avantages, notamment la liberté de créer de nouvelles identités et d’accéder à des espaces non discriminatoires, au divertissement et à l’éducation. En même temps, il existe un certain nombre de risques liés au harcèlement, à la haine et à la manipulation. Une enquête menée par KPMG et Sinus a conclu en 2022 que 69 % des 14-39 ans en Allemagne se réjouissaient d’une nouvelle identité dans le métavers. Parallèlement, 69 % craignent d’y être victimes de discrimination, de cyberharcèlement ou de langage haineux.[1] Cela révèle non seulement de grands défis pour la reconnaissance publique du métavers, mais aussi pour la santé mentale et la cohésion sociale. La recherche sur ces questions est jusqu’à présent sous-développée, mais il est suffisamment clair dans la littérature de recherche que l’impact immersif voulu des technologies XR est mesurable dans les champs d’application les plus divers. Il faut donc partir du principe que la violence numérique, le langage haineux et la désinformation ont également un impact encore plus intense sur les utilisateurs dans des environnements virtuels immersifs que dans les médias sociaux du Web 2.0.
Les technologies Metaverse peuvent offrir des opportunités d’élargir les espaces de socialisation et d’expérience démocratiques, notamment en ce qui concerne l’inclusion et la promotion de l’empathie par le changement de perspective, une coopération mondiale accrue et de nouvelles expériences éducatives immersives. Il est important de noter que la fracture numérique risque de renforcer les tensions existantes et de privilégier ceux qui, en raison de leur capital économique et culturel, ont les moyens, le temps, les compétences et la motivation non seulement pour consommer les nouvelles technologies immersives, mais aussi pour les utiliser de manière significative à des fins de divertissement.
Aujourd’hui déjà, des millions d’utilisateurs, surtout des jeunes, font l’expérience de la construction de leur identité, de liens sociaux intenses et de l’efficacité personnelle dans des mondes virtuels de type sandbox : Sur des plateformes telles que Roblox, les utilisateurs peuvent non seulement déterminer eux-mêmes leur apparence en tant qu’avatar, mais aussi littéralement façonner le monde numérique comme ils le souhaitent. La participation transformative pour les réalités de la vie numérique offre des possibilités d’expérimentation et de négociation, de conception co-créative et de relations d’égal à égal avec des utilisateurs du monde entier issus d’horizons divers. L’intégration ciblée d’éléments favorisant l’inclusion et la démocratie dans les plateformes Metaverse permet d’adresser des groupes cibles considérés comme difficiles à atteindre dans le cadre de l’éducation politique et du travail social classiques. Les accès sont décisifs à cet égard, c’est-à-dire notamment la question de savoir avec quels appareils les plates-formes sont utilisables, si elles sont payantes et comment la protection des données privées est garantie.
En outre, avec l’augmentation de l’immersion, il devient de plus en plus important de se protéger contre les brimades et le harcèlement (sexualisé), la haine et les contenus antidémocratiques. Car les plateformes peuvent aussi être utilisées pour dévaloriser des groupes sociaux, glorifier des dictatures, voire des génocides : Les exemples ne manquent pas. Tout cela n’est pas nouveau, mais accompagne Internet et les médias sociaux depuis leurs origines. Internet n’a pas inventé la haine et l’extrémisme de droite, mais il les a mis en réseau, les a accélérés et les a diffusés. Plus les espaces d’expérience virtuelle sont immersifs, plus les réactions émotionnelles et cognitives des utilisateurs peuvent être intenses. Non seulement les sensations positives, mais aussi la tension, la peur et la colère peuvent avoir un impact plus fort dans des environnements immersifs et déployer des conséquences dans le monde réel.
Avant même que les mesures de régulation nécessaires au niveau politique n’interviennent, il est du devoir des développeurs et des investisseurs de veiller à ce que les technologies d’avenir prennent en compte les aspects sociaux et écologiques de manière éthiquement responsable et durable. Dans le métaverse social, cela concerne entre autres la question de la diversité des caractéristiques des avatars et de leur protection. Dans la phase de développement actuelle, les utilisateurs, les communautés et les créateurs de contenu de certaines plateformes ont une influence sur les développements futurs. L’influence peut être exercée, entre autres, par des modifications et des créations collectives, mais aussi par des protestations ouvertes ou des votes organisés. Sur la plateforme Metaverse « Decentraland », les utilisateurs peuvent par exemple voter sur les décisions prises sur la plateforme – mais pas dans des conditions démocratiques. En effet, les votes sont pondérés en fonction de la richesse numérique des utilisateurs – plus un utilisateur possède de MANA ou de pays sur la plateforme, plus son vote a du poids. Cela doit permettre d’éviter les abus, où les utilisateurs pourraient créer une multitude de profils et ainsi fausser les résultats. Mais ce modèle de vote est fondamentalement en contradiction avec le principe démocratique fondamental de « One Person – One Vote ». Pour pouvoir garantir des votes réellement démocratiques dans le métavers du futur, il faut trouver des normes pour éviter les fraudes et donner le même poids à tous les votes, quelle que soit leur fortune – par exemple en utilisant des identifiants personnalisés uniques.
Pour protéger les utilisateurs contre les manipulations (politiques) personnalisées, il faut en outre prendre des mesures pour empêcher les manipulations et les deepfakes dans le métavers. Grâce à des avatars basés sur l’IA et à des discours personnalisés, les acteurs politiques pourraient créer dans le métavers des impressions de rencontres immersives, dans lesquelles, par exemple, les publicités électorales ou les avatars des hommes et femmes politiques en campagne apparaissent comme particulièrement proches ou intéressés par les utilisateurs. Il faut également tenir compte du fait que de nombreuses informations sont disponibles sur la vaste collecte de données de l’IA. Un biais de confirmation pourrait renforcer des actions basées sur une manipulation habile. Les avatars basés sur l’IA dans le métavers doivent donc être reconnaissables en tant que tels. Le mieux serait d’interdire complètement les campagnes politiques organisées par les partis qui ont une influence sur les élections dans le métavers – du moins jusqu’à ce que des normes sûres et fondées sur des preuves soient développées à cet effet, afin d’empêcher les mesures de manipulation.
Grâce à l’intelligence artificielle, les deepfakes peuvent falsifier dans le métavers non seulement des personnes individuelles, mais aussi des espaces et des situations entiers. Les technologies deepfake sont déjà utilisées pour des manipulations à motivation économique et politique. Il sera bientôt possible de simuler virtuellement, sans grand effort, non seulement des voix et des séquences vidéo isolées, mais aussi des événements complexes de manière à ce qu’ils ressemblent à des événements réels : par exemple des actes de violence ou des attentats terroristes. L’IA entre les mains d’acteurs autoritaires est l’outil de manipulation ultime. Les frontières entre la réalité et le faux risquent de s’éroder davantage si les réalités virtuelles sont utilisées par des acteurs mal intentionnés – et cela arrivera sans aucun doute. Afin d’empêcher la manipulation des avatars et des événements numériques basés sur l’IA, des procédures doivent être établies pour confirmer l’authenticité des avatars et des événements. Pour ce faire, il est par exemple possible d’introduire des directives qui régissent la création d’avatars et d’événements numériques basés sur l’IA. Il faut s’assurer que les créateurs de ces contenus puissent être identifiés et tenus pour responsables. En outre, des solutions techniques doivent être développées pour détecter les deepfakes dans le métavers. Par exemple, des techniques peuvent être utilisées pour vérifier les avatars basés sur l’IA et les événements numériques avant qu’ils ne soient rendus publics. De cette manière, il est possible d’empêcher efficacement la manipulation et la tromperie. Il est important que des mesures soient prises pour empêcher la manipulation des avatars basés sur l’IA et des événements numériques dans le métavers, afin de créer un environnement sûr et fiable pour tous les utilisateurs. C’est le moment !
Car le métavers n’existe pas encore. Il est encore possible d’influencer le développement du métavers. Il ne faut pas fermer les yeux sur les menaces potentielles. Au-delà des intérêts économiques et des possibilités techniques, les voix des sciences sociales et de la société civile doivent être prises en compte dans la conception du métavers. Ensemble, nous devons veiller à ce que l’Internet du futur ne se transforme pas en dystopie.
[1] Metaverse : Un monde (in)connu ? Quels groupes de clients feront le voyage. Cologne et Heidelberg, p 16.
Sur le thème central de la construction de la démocratie avec le professeur Matthias Quent
Dr Matthias Quent est professeur de sociologie et président du conseil d’administration de l’Institut für demokratische Kultur à l’université de Magdeburg-Stendal. Il mène des recherches et enseigne notamment sur la démocratie, la société civile, la justice sociale et l’extrémisme de droite dans le contexte du changement social – en particulier dans le contexte de la transformation écologique et numérique. Matthias Quent examine en particulier les implications, les possibilités d’organisation et les risques du métavers en tant qu’avenir d’Internet. Matthias Quent dirige le projet immersive Demokratie et fait partie des fondateurs du European Metaverse Research Network.
Le professeur Quent est actif en tant qu’expert et évaluateur pour diverses institutions. Il est également auteur de best-sellers, conférencier, expert très sollicité par les médias et consultant. En 2023, il a été nommé membre de la commission d’experts chargée d’élaborer le quatrième rapport sur l’engagement du gouvernement fédéral. Quent a également été directeur fondateur de l’Institut pour la démocratie et la société civile d’Iéna et de l’Institut fédéral de recherche sur la cohésion sociale.
Photo : Sio MotionPhoto : Sio Motion
