Foundation Metaverse Europe Positionspapier zu Metaverse und Demokratiegestaltung von Prof. Dr. Matthias Quent 

Als Marc Zuckerberg den Begriff Metaverse wählte, um damit die nächste Stufe eines noch immersiveren Internets auszurufen, hat er – willentlich und bewusst oder nicht – auch eine Warnung vor dem Ende der Demokratie in die Welt gesetzt: Das Wort „Metaverse“ wurde erstmals 1991 im Science-Fiction-Roman „Snow Crash“ von Neal Stephanson popularisiert. Der Roman spielt in einer libertär-dystopischen Zukunft, in der Staat, Demokratie und Umwelt zerstört sind, Großkonzerne und die Mafia regieren sowie rassistische und soziale Segregation herrscht. Die virtuelle Parallelwelt des Metaverse ist ein Zufluchtsort, in denen die Avatare Freiheit finden, Diskriminierung hinter sich lassen und jenen sozialen Aufstieg schaffen können, der durch die extremen Ungleichheitsverhältnisse der realen Welt verhindert wird. Sicher ist das Metaverse aus dem Roman dennoch nicht: Auch dort werden extreme Ungleichheiten reproduziert, auch dort herrscht digitale Gewalt und es breitet sich eine immersive Droge namens „Snow Crash“ aus, welche die realen Menschen aus Fleisch und Blut hinter den Bildschirmen infiziert – eine Metapher für Desinformationen, Verschwörungserzählungen oder andere destruktive Formen der Manipulation, die sich von virtuellen Umgebungen in die physische Welt übertragen können. Der Roman „Snow Crash“ erzählt nur eine Geschichte einer potenziellen Zukunft, doch durch den kulturhistorischen Ursprung ist mit dem Begriff „Metaverse“ die Warnung verbunden, bei aller Euphorie und den verlockenden Möglichkeiten immersiver digitaler Umgebungen die reale Welt nicht aus den Augen zu verlieren: Schutz des Klimas, der Demokratie und der Menschenrechte stehen dabei an erster Stelle. Die großen Digitalisierungssprünge durch die Covid-Pandemie haben gezeigt, in welchem Ausmaß globale Krisen digitale Fortschritte beschleunigen können. Wie unrealistisch ist die Vorstellung von virtuellem Eskapismus als Reaktion auf die zuspitzende Klimakrise, auf Krieg und innerstaatliche Konflikte wirklich? Neben allen Chancen muss die Entwicklung des Internets der Zukunft Gefahrenpotenziale auf verschiedenen Ebenen berücksichtigen.

Auf der persönlichen Ebene stehen viele Vorteile für User ­– unter anderem durch die Freiheit neuer Identitäten und in diskriminierungsfreien Räumen, in Unterhaltung und Bildung. Zugleich gibt es eine Reihe von Risiken durch Belästigungen, Hass und Manipulation. Eine Umfrage von KPMG und Sinus kam 2022 zu dem Ergebnis, dass sich 69 Prozent der 14- bis 39-Jährigen in Deutschland auf eine neue Identität im Metaverse freuen. Gleichzeitig fürchten 69 Prozent, dort zum Opfer von Diskriminierung, Cybermobbing oder Hasssprache zu werden.^[1] Hierin zeigen sich nicht nur große Herausforderungen für die öffentliche Anerkennung des Metaverse, sondern auch für mentale Gesundheit und den gesellschaftlichen Zusammenhalt. Forschung zu diesen Fragen ist bisher unterentwickelt, doch es wird in der Forschungsliteratur hinreichend deutlich, dass der beabsichtigte immersive Impact von XR-Technologien in verschiedensten Anwendungsfeldern messbar ist. Es muss daher davon ausgegangen werden, dass auch digitale Gewalt, Hasssprache und Desinformationen in immersiven virtuellen Umgebungen noch intensiver auf User einwirken als in den sozialen Medien des Web 2.0.

Metaverse-Technologien können Chancen für Erweiterungen demokratischer Sozialisations- und Erfahrungsräume bieten, insbesondere in Hinblick auf Inklusion und die Förderung von Empathie durch Perspektivwechsel, auf eine verstärkte globale Zusammenarbeit und neue, immersive Bildungserfahrungen. Wichtig zu beachten ist dabei: Die digitale Spaltung droht bestehende Spannungen zu verstärken und diejenigen zu privilegieren, die aufgrund ihres ökonomischen und kulturellen Kapitals die Mittel, die Zeit, die Kompetenzen und die Motivation besitzen, neue immersive Technologien nicht nur zu konsumieren, sondern über Unterhaltungszwecke hinaus bedeutungsvoll einsetzen zu können.

Bereits heute erfahren viele Millionen vor allem junge User Identitätsbildung, intensive soziale Verbindungen und Selbstwirksamkeit in virtuellen Sandbox-Welten: Auf Plattformen wie Roblox können User nicht nur ihr Auftreten als Avatar selbst bestimmen, sondern wortwörtlich die digitale Welt so gestalten, wie es ihnen gefällt. Transformative Partizipation für die digitalen Lebenswirklichkeiten bieten Möglichkeiten des Ausprobierens und Aushandelns, der cokreativen Gestaltung und des gleichwertigen Umgangs mit weltweiten Usern mit vielfältigen Hintergründen. Durch die gezielte Integration inklusions- und demokratiefördernder Elemente in Metaverse-Plattformen können Zielgruppen adressiert werden, die in der klassischen politischen Bildung und in der sozialen Arbeit als schwer erreichbar gelten. Entscheidend dafür sind die Zugänge, also unter anderem die Frage, mit welchen Geräten Plattformen nutzbar sind, ob und welche Kosten dafür anfallen und wie der Schutz privater Daten gewährleistet ist. 

Mit zunehmender Immersivität nimmt außerdem die Bedeutung zu, vor Mobbing und (sexualisierten) Belästigungen, vor Hass und antidemokratischen Inhalten zu schützen. Denn Plattformen können auch genutzt werden, um soziale Gruppen abzuwerten, Diktaturen und sogar Völkermorde zu verherrlichen: Es mangelt nicht an Beispielen. All das ist nicht neu, sondern begleitet das Internet und die sozialen Medien seit den Ursprüngen. Das Internet hat Hass und Rechtsextremismus nicht erfunden, aber vernetzt, beschleunigt und verbreitet. Je immersiver virtuelle Erfahrungsräume werden, desto intensiver können emotionale und kognitive Reaktionen durch die User ausfallen. Nicht nur positive Empfindungen, auch Anspannung, Angst und Wut können in immersiven Umgebungen stärker wirken und Folgen in der realen Welt entfalten.

Noch bevor politisch notwendige Regulierungsmaßnahmen greifen, ist es die Aufgabe von Entwickler:innen und Investor:innen dafür zu sorgen, dass Zukunftstechnologien ethisch verantwortlich und nachhaltig soziale wie ökologische Aspekte berücksichtigen. Im Social Metaverse betrifft das unter anderem die Frage der Diversität der Merkmale von Avataren und deren Schutz. In der aktuellen Entwicklungsphase haben User, Communities und Contentcreator auf einigen Plattformen Einfluss auf weitere Entwicklungen. Einfluss kann unter anderem durch Modifikationen und kollektive Schöpfungen, aber auch durch offenen Protest oder organisierte Abstimmungen ausgeübt werden. Auf der Metaverse-Plattform „Decentraland“ können User beispielsweise über Entscheidungen auf der Plattform abstimmen – allerdings nicht unter demokratischen Bedingungen. Denn Stimmen werden nach dem digitalen Reichtum der User gewichtet – je mehr MANA oder Land ein User auf der Plattform besitzt, desto gewichtiger die Stimme. Das soll Missbrauch vorbeugen, bei dem User eine Vielzahl von Profilen anlegen und damit Ergebnisse verfälschen könnten. Doch dieses Abstimmungsmodell widerspricht dem grundlegenden demokratischen Prinzip von „One Person – One Vote“ fundamental. Um tatsächlich demokratische Abstimmungen im Metaverse der Zukunft gewährleisten zu können, müssen Standards gefunden werden, um Betrug zu verhindern und alle Stimmen unabhängig ihres Vermögens gleich zu gewichten – beispielsweise durch eindeutige personifizierte Identifizierungen.

Um User vor personalisierten (politischen) Manipulationen zu schützen, müssen zudem Maßnahmen ergriffen werden, die Manipulationen und Deepfakes im Metaverse verhindern. Mittels KI-basierten Avataren und personalisierten Ansprachen könnten politische Akteure im Metaverse Eindrücke immersiver Begegnungen schaffen, in denen zum Beispiel Wahlwerbung oder Politiker:innen-Avatare im Wahlkampf als besonders nahbar oder interessiert an den Usern auftreten. Dabei muss mit betrachtet werden, dass über die umfassende Datensammlung der KI viele Informationen vorliegen. Ein Confirmation-Bias könnte Handlungen verstärken, die auf geschickter Manipulation basieren. KI-basierte Avatare im Metaverse müssen daher als solche erkennbar sein. Am besten wäre es, organisierte parteipolitische Kampagnen mit Einfluss auf Wahlen im Metaverse vollständig zu verbieten – zumindest so lange, bis dafür sichere und evidenzbasierte Standards entwickelt sind, die manipulative Maßnahmen unterbinden.

Durch künstliche Intelligenz können Deepfakes im Metaverse nicht nur einzelne Personen, sondern ganze Räume und Situationen fälschen. Bereits jetzt werden Deepfake-Technologien für wirtschaftlich und politisch motivierte Manipulationen genutzt. In Kürze wird es möglich sein, ohne großen Aufwand nicht nur Stimmen und einzelne Videosequenzen, sondern auch komplexe Ereignisse virtuell so zu simulieren, dass sie wie reale Ereignisse aussehen: zum Beispiel Gewalttaten oder Terroranschläge. KI in den Händen autoritärer Akteure ist das ultimative Manipulationswerkzeug. Die Grenzen zwischen Wirklichkeit und Fake drohen weiter zu erodieren, wenn virtuelle Realitäten von Akteuren mit böswilligen Absichten eingesetzt werden – und dies wird ohne Zweifel passieren. Um eine Manipulation von KI-basierten Avataren und digitalen Ereignissen zu verhindern, müssen Verfahren etabliert werden, die die Authentizität der Avatare und Ereignisse bestätigen. Dazu können beispielsweise Richtlinien eingeführt werden, die die Erstellung von KI-basierten Avataren und digitalen Ereignissen regeln. Es muss sichergestellt werden, dass die Ersteller solcher Inhalte identifiziert und verantwortlich gemacht werden können. Darüber hinaus müssen technische Lösungen entwickelt werden, um Deepfakes im Metaverse zu erkennen. Zum Beispiel können Techniken verwendet werden, welche KI-basierte Avatare und digitale Ereignisse überprüfen, bevor sie öffentlich zugänglich gemacht werden. Auf diese Weise lassen sich Manipulation und Täuschung effektiv verhindern. Es ist wichtig, dass Maßnahmen ergriffen werden, um Manipulation von KI-basierten Avataren und digitalen Ereignissen im Metaverse zu verhindern und so ein sicheres und vertrauenswürdiges Umfeld für alle Nutzer:innen zu schaffen. Dafür ist jetzt die Zeit!

Denn noch existiert das Metaverse nicht. Noch kann die Entwicklung des Metaverse beeinflusst werden. Es dürfen nicht die Augen vor potenziellen Bedrohungen verschlossen werden. Über ökonomische Interessen und technische Möglichkeiten hinaus sind auch sozialwissenschaftliche und zivilgesellschaftliche Stimmen bei der Gestaltung des Metaverse zu berücksichtigen. Gemeinsam ist dafür Sorge zu tragen, dass das Internet der Zukunft nicht in einer Dystopie endet.

---

^[1] Metaverse: (Un)bekannte Welt? Welche Kundengruppen die Reise antreten. Köln und Heidelberg, p 16.