Foundation Metaverse Europe Positionspapier zu Metaverse und Geistiger Selbstkontrolle von Prof. Dr. Thomas Metzinger

Veränderte Bewusstseinszustände im technologischen Wandel zum kommenden Metaverse

Ein Hauptproblem für eine zeitgemäße Bewusstseinskultur ist die neue „attention extraction economy“.

Gestützt auf selbstlernende KI und moderne, sich selbst ständig verbessernde Algorithmen, extrahiert sie Aufmerksamkeit aus menschlichen Gehirnen und verwandelt sie in Geld. Information und Unterhaltung gibt es heute fast überall umsonst. Aufmerksamkeit dagegen ist die neue knappe Ressource, die systematisch ausgebeutet wird, weil sie zu einer Währung geworden ist, zu einem Zahlungsmittel, mit dem gehandelt werden kann.

Was in der neuen »Aufmerksamkeitsökonomie« tatsächlich monetarisiert wird, das ist aber in Wirklichkeit die Zerstörung von geistiger Autonomie und damit unserer Fähigkeit, die eigene Aufmerksamkeit noch willentlich und selbstbestimmt zu kontrollieren. Aber wir brauchen geistige Autonomie, wenn wir als mündige Bürger unsere Demokratien aufrechterhalten und verteidigen wollen. Wir brauchen sie auch, um der planetaren Krise ins Angesicht schauen und sagen zu können: Ich nehme die Herausforderung an.

Maßnahmen zum Erhalt der geistigen Selbstkontrolle im Metaverse

Die Fähigkeit zur geistigen Selbstbestimmung ist zudem von entscheidender Bedeutung für unsere allgemeine Lebensqualität. Längst geht es heute nicht mehr darum, ob ein Mensch oder eine Maschine den Weltmeister im Go oder im Schach stellt. Das Spiel, das die Systeme im Moment gegen uns spielen, ist ein ganz anderes: Wer kontrolliert die knappe Ressource der von unseren biologischen Gehirnen erzeugten Aufmerksamkeit – wir selbst oder ein amerikanischer Tech-Konzern? Fragen wie diese sind absolut zentral für die Bewusstseinskultur der Zukunft.

Im Metaversum werden sich solche Fragen noch einmal in anderer, verschärfter Form stellen als in den „alten“ sozialen Medien. Und zwar nicht, weil das Metaversum etwas Böses ist, in dem professionelle Aufmerksamkeitsräuber und Wegelagerer auf den armen Nutzer warten. Nein, das Metaversum könnte auch einfach so gut und so attraktiv werden, dass dies den sozialen Zusammenhalt in der so genannten wirklichen Welt auf unerwartete Weise schwächt.

Und weiter:

• Welche ethischen und rechtlichen Grundsätze sollten uns in der Aufmerksamkeitsökonomie der Zukunft leiten?
• Gibt es mediale Umwelten und Geschäftsmodelle, die illegal sein sollten?
• Wie können wir auf ethisch vertretbare Weise bessere Algorithmen für soziale Netzwerke und neue, wesentlich komplexere virtuelle Realitäten entwickeln?
• Wie kann es gelingen, dass künstliche Intelligenz tatsächlich dem Gemeinwohl dient und dass neue Bewusstseinstechnologien unsere geistige Autonomie erhöhen, anstatt sie zu zerstören?Allgemeiner gefragt :
• Sollte in einer offenen und freien Gesellschaft jeder Bürger das Recht haben, sein eigenes Gehirn so zu manipulieren, wie er es möchte?
• Oder gibt es Zustände und Räume des Bewusstseins, die »tabu« sein sollten, etwa weil sie die Autonomie des Erlebenden (und indirekt auch die von anderen) zerstören?

Bewusstseinskultur und das allgemeine Bildungssystem

Die praktische Philosophie des Geistes befasst sich nicht nur mit dem, was wir besser nicht tun sollten, sondern auch mit dem, was proaktiv, also zielgerichtet und vorausschauend, gefördert werden sollte. Auch dazu ein Beispiel: Weltweit erproben bereits viele evidenzbasierte Initiativen unterschiedliche Möglichkeiten, eine säkularisierte Meditationspraxis in unser Bildungssystem zu integrieren. Vor dem Hintergrund der oben kurz skizzierten Aufmerksamkeitsökonomie (die im Metaverse eine noch relevantere Rolle spielen wird) und der eskalierenden Drogenproblematik scheint mir das, insbesondere für Kinder und Jugendliche, außerordentlich sinnvoll zu sein.

Welche Bewusstseinszustände wollen wir aktiv fördern und in unsere Gesellschaft integrieren?
Sollten wir angesichts der vielversprechenden Ergebnisse in der modernen Meditationsforschung säkulare Formen des Meditationsunterrichts in bestimmte oder sogar in alle Stufen unserer Bildungssysteme integrieren? Die sich rasant verändernden Rahmenbedingungen werfen jedoch die ganz grundlegende Frage nach der heutigen Bedeutung von »Bildung« auf. Angesichts so vieler neuer Handlungsmöglichkeiten helfen uns Denkverbote nicht weiter. Stattdessen brauchen wir Mut, Fantasie und eine Kultur von Versuch und Irrtum.

Die Gesellschaft ist ihren politischen Institutionen manchmal weit voraus, sie sucht und tastet längst in vielversprechenden Initiativen und Experimenten nach einer neuen Bewusstseinskultur. Das Problem dabei: Für jede soziale Bewegung und jede kulturelle Innovation gibt es ein optimales Zeitfenster, in dem ihre wichtigsten Erkenntnisse formal integriert werden müssen, will man nicht Gefahr laufen, dass sie in Vergessenheit geraten und der Gesellschaft wieder verloren geht.

Bildung ermöglicht es jungen Menschen, zu aktiven Mitgliedern der Gesellschaft und der Kultur zu werden und damit auch zu politisch mündigen Bürgern. Welche Bereiche des phänomenalen Zustandsraums sollte jeder junge Mensch vor dem Erwachsenenalter kennenlernen? Wie sähe ein »phänomenologischer Bildungskanon« aus, der unserem aktuellen Erkenntnisstand und unserer sich rasch ändernden Situation wirklich gerecht werden kann? Worin bestünde der unabdingbare Bildungskern einer modernen Bewusstseinskultur?

Debatte zum Thema KI und Metaverse

Es ist an der Zeit, die laufende öffentliche Debatte über Künstliche Intelligenz (KI) und ihre Umsetzung beim Aufbau des Metaverse in unsere politischen Institutionen zu tragen. Viele Experten sind der Meinung, dass wir im nächsten Jahrzehnt mit einem Wendepunkt in der Geschichte sozialer Plattformen konfrontiert werden und dass sich die Gelegenheit, das Zeitfenster für die Ausarbeitung einer wirklich substantiellen angewandte Ethik für die KI langsam schließt. Politische Institutionen müssen daher ein minimales, aber hinreichendes Paket anpassungsfähiger ethischer Grundregeln und rechtlicher Einschränkungen für eine gemeinwohlorientierte Nutzung und die künftige Weiterentwicklung von KI im Metaversum ausarbeiten und dann auch zeitnah umsetzen. Sie müssen auch Raum für einen rationalen, evidenzbasierten Prozess der kritischen Diskussion schaffen, der darauf abzielt, diesen ersten Satz normativer Beschränkungen kontinuierlich zu aktualisieren, zu verbessern und wann immer notwendig auch zu revidieren. In der gegenwärtigen Situation ist davon auszugehen, dass die Werte, die die weitere Entwicklung von KI leiten, von einer sehr kleinen Anzahl von Menschen festgelegt werden, die in großen privaten Unternehmen und militärischen Einrichtungen tätig sind. Daher besteht ein Ziel darin, proaktiv so viele Perspektiven wie möglich einzubeziehen – und zwar zeitnah.

Notwendigkeit hoher Sicherheitsstandards

Wir müssen weltweite Sicherheitsstandards für die KI-Forschung und ihre Umsetzung im Metaversum entwickeln und umsetzen. Eine globale Charta für KI ist notwendig, da solche Sicherheitsstandards nur dann wirksam sein können, wenn sich alle Länder, die an der entsprechenden Art von Forschung und Entwicklung teilnehmen und in diese investieren, verbindlich zu bestimmten Regeln verpflichten. Dafür jedoch stehen die Chancen momentan ziemlich schlecht, deshalb geht es auch demokratische Resilienz und digital Souveränität für die Bundesrepublik Deutschland. Angesichts des derzeitigen wirtschaftlichen und militärischen Wettbewerbs wird die Sicherheit der KI-Forschung höchstwahrscheinlich zugunsten eines schnelleren Fortschritts und geringerer Kosten reduziert, indem sie in Länder mit niedrigen Sicherheitsstandards und geringer politischer Transparenz verlagert wird (eine offensichtliche und starke Analogie ist das Problem der Steuerhinterziehung durch Unternehmen und Trusts). Wenn die internationale Zusammenarbeit und Koordinierung erfolgreich wäre, könnte ein „Wettlauf nach unten“ bei den Sicherheitsstandards (durch die Verlagerung der wissenschaftlichen und industriellen KI-Forschung) im Prinzip vermieden werden.Wenn dies – was wahrscheinlich ist – nicht gelingt, geht es um einen proaktiven, weit in die Zukunft blickenden Schutz für die Bundesrepublik Deutschland.

Risiken für den sozialer Zusammenhalt

Aber KI birgt noch viele andere Risiken für den sozialen Zusammenhalt, zum Beispiel durch privat betriebene und autonom gesteuerte soziale Medien, die darauf abzielen, die menschliche Aufmerksamkeit zu sammeln und für die weitere Nutzung durch ihre Kunden zu „verpacken“, oder durch „Engineering“ der politischen Willensbildung mittels Big Nudging-Strategien und KI-gesteuerten Entscheidungsarchitekturen, die für die einzelnen Bürger, deren Verhalten auf diese Weise gesteuert wird, nicht transparent sind. Künftige KI-Technologie wird extrem gut darin sein, menschliches Verhalten zu modellieren und vorausschauend zu steuern – zum Beispiel durch positive Verstärkung und indirekte Vorschläge, die die Einhaltung bestimmter Normen oder die Entstehung von „Motiven“ und Entscheidungsergebnissen völlig spontan und ungezwungen erscheinen lassen. In Kombination mit Big Nudging und prädiktiver Nutzerkontrolle könnte die intelligente Überwachungstechnologie auch die globalen Risiken erhöhen, indem sie lokal dazu beiträgt, autoritäre Regime auf effiziente Weise zu stabilisieren. Auch hier gilt, dass die meisten dieser Risiken für den sozialen Zusammenhalt derzeit höchstwahrscheinlich noch unbekannt sind und wir sie vielleicht nur zufällig entdecken. Die politischen Entscheidungsträger müssen sich deshalb auch darüber im Klaren sein, dass jede Technologie, die die Verständlichkeit ihres eigenen Handelns für den menschlichen Nutzer gezielt optimieren kann, im Prinzip auch für Täuschungen optimiert werden kann. Es muss daher sehr sorgfältig darauf geachtet werden, dass die Belohnungsfunktion einer KI nicht zufällig oder gar absichtlich in einer Weise festgelegt wird, die indirekt dem Gemeinwohl schadet.

Die KI-Technologie ist derzeit ein privates Gut. KI-gesteuerte soziale Netzwerke und das Metaversum gehören jedoch mittlerweile zur kritischen Infrastruktur. Es ist die Aufgabe demokratischer politischer Institutionen, große Teile davon in ein gut geschütztes Gemeingut zu verwandeln, etwas, das der gesamten Menschheit gehört und demokratischer Kontrolle unterliegt. Bei der Tragödie der Allmende kann oft jeder sehen, was kommt, aber wenn es keine Mechanismen gibt, um der Tragödie wirksam entgegenzuwirken, wird sie sich unsichtbar entfalten, zum Beispiel in dezentralen Situationen. Die EU sollte proaktiv solche Präventionsmechanismen entwickeln.

Anpassung der Governance-Strukturen

Abschließend möchte ich darauf hinweisen, dass die Anpassung der Governance-Strukturen selbst Teil der Problemlandschaft ist: Um die zeitliche Lücke des pacing gap zu schließen oder zumindest zu minimieren, müssen wir Ressourcen in die Veränderung der Struktur der Governance-Ansätze selbst investieren. „Meta-Governance“ bedeutet genau dies: Eine Governance der Governance, die den Risiken und potenziellen Vorteilen eines explosiven Wachstums in bestimmten Bereichen der technologischen Entwicklung gerecht wird.

Ein GCC für KI könnte als „Issue Manager“ für eine bestimmte, schnell aufkommende Technologie fungieren, als Informations-Clearinghouse, Frühwarnsystem, Analyse- und Überwachungsinstrument und internationaler Best-Practice-Evaluator sowie als unabhängige und vertrauenswürdige Anlaufstelle für Ethiker, Medien, Wissenschaftler und interessierte Akteure.

Natürlich sind viele andere Strategien und Governance-Ansätze denkbar. Hier geht es nur darum, dass wir die Herausforderung der rasanten Entwicklung von KI und autonomen Systemen nur meistern können, wenn wir die Frage der Meta-Governance von Anfang an ganz oben auf unsere Agenda setzen. In Europa ist das Haupthindernis für die Erreichung dieses Ziels natürlich die „sanfte Korruption“ durch die Big-Tech-Industrielobby in Brüssel: Es gibt starke finanzielle Anreize und wichtige Akteure, die daran interessiert sind, den zeitlichen Rückstand so lange wie möglich aufrechtzuerhalten.

Quellen:

Absatz 1-3: Thomas Metziger, Bewusstseinskultur: Spiritualität, intellektuelle Redlichkeit und die planetare Krise

Absatz 4-7: Thomas Metziger, The Cambridge Handbook of Responsible Artificial Intelligence, Towards a Global Artificial Intelligence Charter

Bild: Veysel Çelik | AVA Arthouse Studio / Piper Verlag