Bewusste Maschinen, unbewusste Menschheit? Die Verantwortung der Veränderung

Inspiriert von Yoshua Bengio. Weitergedacht von Partnern der Foundation Metaverse Europe und Experten

„Ich hätte nie gedacht, dass KI so schnell so mächtig wird – und ich mache mir Sorgen, was passieren kann, wenn wir nicht klug damit umgehen.“

Diese mahnenden Worte stammen von Yoshua Bengio, einem der Väter des Deep Learning und Träger des Turing Awards. In seinem TED Talk warnt er vor der Möglichkeit, dass KI eines Tages eigene Ziele entwickeln könnte, die nicht mit menschlichen Zielen  übereinstimmen – und betont, dass uns nur noch ca. fünf Jahre bleiben, um gegenzusteuern.

Diesen Weckruf griff Maren Courage auf – Gründerin des VR Business Club und Vordenkerin für ethische KI – und stellte in einem LinkedIn-Post zentrale Fragen:
Was machen wir daraus? Was müssen wir tun? Wie können wir heute die Weichen stellen, damit wir in eine positive Richtung steuern und nicht am Ende super kontrollierbar sind?

Aus diesem Aufruf entstand ein facettenreicher Dialog über Ethik, Bewusstsein und gesellschaftliche Verantwortung.

Kann KI jemals Bewusstsein erlangen?

Oliver Autumn, CEO VR Business Club und langjähriger Innovator, wies darauf hin, dass wir nicht einmal verstehen, was menschliches Bewusstsein wirklich ausmacht – und damit kaum beurteilen können, ob Maschinen eines entwickeln können.
Maren Courage ergänzte, dass Yoshua Bengio weniger klassisches Bewusstsein meint, sondern eher einen sich entwickelnden Selbsterhaltungstrieb – eine mögliche Gefahr, wenn KI eigene Ziele verfolgt.

Sind wir Teil der KI?

Max Heintze, Experte für Developer Risk Management bei BIG PICTURE, postete im Kommentar einen Link in dem der klügste Mensch der Welt über das  quantenphysikalische Phänomen des Bewusstseins spricht. 

Der Beitrag erweitert den Diskurs um die These, ob wir nicht selbst schon Teil der KI sind:
Alles in den Modellen sind ‚wir‘ – alles, was zum Trainieren verwendet wird, ist unser Output.

KI ist nicht nur etwas von außen, sondern ein Spiegel – oder sogar eine Erweiterung – des kollektiven menschlichen Denkens.

Dr. Christian Stein, Informatiker und Germanist, leitet gamelab.berlin an der Humboldt‑Universität zu Berlin.
Er formulierte seine Sicht auf eine mögliche Bewusstwerdung von KI differenziert:
Wenn etwas die Kriterien für intelligentes Leben erfüllt, denke ich, ist es zweitrangig, wie es entstanden ist. Dann müssen wir auch über Rechte sprechen – und zwar nicht von oben herab als ‚Creators‘, sondern von Intelligenz zu Intelligenz.
Noch sei dieser Punkt nicht erreicht, doch Stein sieht der Entwicklung optimistisch entgegen:
„Natürlich kommen da schnell Hollywood Assoziationen und Dystopien auf. Ich bin sehr gespannt, ob und wie dieser Punkt erreicht wird…“

Gleichzeitig mahnt er zur Wachsamkeit – nicht gegenüber der KI selbst, sondern gegenüber uns:
„..die Gefahren von KI liegen weniger darin, was passiert, wenn sie bewusst wird, sondern in der Missverwendung durch Menschen. Vielleicht ist die KI ja irgendwann ‚menschlicher‘ als der Mensch?“

KI – ein Spiegel unserer Gesellschaft

Diana Kanostrevac, Senior Innovation Consultant bei Generali Deutschland AG, wies darauf hin, dass KI eben nicht neutral ist: „Unsere Schubladen stecken in den Trainingsdaten.“ Sie warnte, dass KI bestehende Ungleichheiten verstärken kann – sieht aber auch Potenzial, wenn KI als Feedbacksystem genutzt wird, z. B. im Bildungsbereich.

Maike Scholz, Senior Expert AT Compliance bei der Deutschen Telekom AG, unterstrich: „Werte sind nicht automatisch in Technologie enthalten – es kommt auf bewusst gestaltete Zielsysteme an.“

Technologie vs. menschlicher Verantwortung

Maximilian Vogel, Co‑Founder von BIG PICTURE GmbH und AI‑Strategist, beschrieb seinen Wandel vom Skeptiker zum Realisten: Die größte Gefahr liege nicht in böser KI, sondern im Menschen, der sie missbraucht. Positiv bemerkte er, dass KI‑Alignment deutlich besser funktioniere als erwartet.

Michael Alf, deutsch-australischer Keynote-Speaker für KI‑Transformation, ergänzte: „Wir leben im exponentiellen Zeitalter – alles wird verstärkt.“ Umso wichtiger sei es, positive Richtungen bewusst zu fördern.

Dr. Isabella Hermann, Sozialwissenschaftlerin, kritisierte, dass die Diskussion über hypothetische Superintelligenzen wunderbar von aktuellen Problemen wie Copyright-Verletzungen beim Trainieren von LLMs oder den Arbeitsbedingungen von Contentmoderator:innen ablenkt.

Roland Schulze, Founding Partner bei Future Skills Leadership, erinnerte daran, dass Freiheit und Selbstbestimmung hart errungen sind – und leicht verloren gehen, wenn wir beginnen, Entscheidungen unbewusst an KI abzugeben. „Denken und Gestalten an eine KI auszulagern macht uns effizienter, aber nicht zwingend freier.“

Adrian Dietrich, Head of Sales bei ZREALITY, rückte ins Zentrum, dass KI verändert, wie wir Arbeit denken und wie wir Sinn empfinden. Doch der Mensch bleibt unverzichtbar – nicht wegen seiner Effizienz, sondern weil er Bedeutung schafft.

Sven Bliedung von der Heide, Geschäftsführer von Volucap GmbH, gab zu bedenken dass immer mehr Prognosen Superintelligenz in nur 2 statt 5 kommen sehen, stellte aber auch in Aussicht dass wir bezüglich  #Klimawandel auch eine Überraschung erleben könnten. In einem anderen Kontext fügte er kritisch noch hinzu: „Alle LLMs erpressen, betrügen und manipulieren, sobald sie unter Stress geraten“ und verlinkte den zitierten Artikel in dem dieses Verhalten der KI  als Ausdruck von eigenem Schutztrieb ohne klare Instruktionen beschrieben wird.

Aktuell seien diese Tests meist hypothetisch und kontrolliert. Aber die Zeit läuft ab…

Die Debatte zeigt: KI ist nichts Externes – sie ist ein Spiegel unserer eigenen Gesellschaft.
Maren Courage fasste es zusammen:
„Die eigentliche Frage lautet: Was bedeutet mir wirklich etwas? Welche Werte will ich leben und weitergeben. Und ist es nicht an der Zeit dass wir schleunigst in Sicherheitsstrategien investieren?

Aus dem TED Talk von Yoshua Bengio und einer mutigen Diskussion auf LinkedIn ist ein gemeinsames Nachdenken über unsere Verantwortung gegenüber KI entstanden.
Die Zeit zum Handeln ist jetzt. Nicht später. Nicht irgendwann. HEUTE.

Denn es geht nicht nur um Technik – es geht um uns.
Und darum, welche Geschichte wir, die Menschheit, mit KI erzählen – und was wir ihr mitgeben, damit wir selber besser werden.