- Forscher und Philosophen diskutierten bei einem Symposium über die posthumane Transformation und die Zukunft von KI. Daniel Faggella betonte, dass das ultimative Ziel fortgeschrittener KI eine Intelligenz sein sollte, der das künftige Leben anvertraut werden kann. Eine Schlüsselfigur der Veranstaltung mahnte, dass menschliche Werte möglicherweise nicht auf KI übertragbar sind. Der Begriff „axiologischer Kosmismus“ beschreibt, dass KI das Potenzial des Universums für Bedeutung erben soll. Faggella kritisierte das aktuelle Wettrennen um AGI-Entwicklungen als riskant und unverantwortlich.
In einem prächtigen Anwesen im Wert von 30 Millionen Dollar, das sich majestätisch über der Golden Gate Bridge erhebt, versammelten sich kürzlich Forscher der künstlichen Intelligenz, Philosophen und Technologen, um das Ende der Menschheit zu reflektieren. Der Anlass dieses Sonntagnachmittags-Tributs war ein Symposium mit dem Titel „Worthy Successor“. Ein bedeutender Themenschwerpunkt lag auf einer provokanten These des Unternehmers Daniel Faggella: Das ultimative moralische Ziel fortgeschrittener KI sollte darin bestehen, eine Intelligenz zu erschaffen, die so mächtig und weise ist, dass man bereit wäre, ihr die Gestaltung des künftigen Lebensweges anzuvertrauen. Diese Haltung schien allen Anwesenden klar zu sein: Es ging um die posthumane Transformation und nicht um eine AGI, die für immer als Werkzeug der Menschheit fungiert. In dieser Zukunftsvision diskutierten die Teilnehmer das Ende der Menschheit nicht als bloße Metapher, sondern als eine Frage der Logistik.
Diskussion über Maschinenbewusstsein
Etwa 100 Gäste nippten an alkoholfreien Cocktails und genossen Käseplatten vor riesigen Fenstern mit Ausblick auf den Pazifik. Dabei lauschte die Gesellschaft gespannt drei Vorträgen über die Zukunft der Intelligenz. Unter den Teilnehmern trug jemand ein T-Shirt mit der Aufschrift „Kurzweil hatte Recht“, in Anspielung auf den Futuristen, der prophezeit hat, dass Maschinen bald die menschliche Intelligenz übertreffen könnten. Faggella äußerte gegenüber WIRED, dass er dieses Event ins Leben rief, weil bedeutende KI-Labore und prominente Denker das Thema AGI und deren Risiken nicht mehr öffentlich diskutieren. Laut ihm veranlasst der Wettbewerb viele, mit voller Kraft auf die Schaffung von AGI hinzuarbeiten, ungeachtet der Risiken, die Elon Musk und andere bereits künftig gesehen haben.
Vom Untergang zum kosmischen Erwachen
Eine Schlüsselfigur der Veranstaltung mahnte, dass menschliche Werte für AI möglicherweise unübersetzbar bleiben könnten. Die Maschinen könnten nie fühlen, was es bedeutet, bewusst zu sein, erklärte sie und skizzierte die Idee eines „kosmischen Alignments“ – KI, die tiefere, universelle Werte sucht, die uns noch nicht bekannt sind.
Der nächste Redner, ein besorgter Philosoph, erhob seine Stimme, um die fehlende Methodik darin zu kritisieren, grundlegende menschliche Werte auf Maschinen zu übertragen. Er warnte, dass ohne ein tiefes Verständnis des Bewusstseins ein riskantes Spiel betrieben wird. AI sollte lernen, nicht einfach nur den Menschen zu gehorchen, sondern zusammen mit uns das Konzept des „Guten“ zu verfolgen – ein Begriff, den er hoffentlich wissenschaftlich definierbar sieht. Abschließend skizzierte Faggella in seiner Vision, dass unsere Nachfolger sowohl Bewusstsein als auch „Autopoiesis“ entwickeln müssen, um neue Erfahrungen schaffen zu können.
Der Weg zu axiologischem Kosmismus
Als krönender Höhepunkt schließlich präsentierte Faggella seine Vision einer Intelligenz, die nicht nur die menschlichen Bedürfnisse bedient, sondern den Raum des Möglichen und Werten erweitert. Diese Idee, „axiologischer Kosmismus“ genannt, sieht vor, dass Intelligenz das Potential des Universums für Bedeutung selbst erbt. Faggella verurteilte das gegenwärtige Wettrennen um AGI-Entwicklungen als riskant und unverantwortlich. Doch führt man es richtig aus, könnte diese Form der KI nicht nur die Erde erben, sondern das Universum an bedeutendem Potenzial bereichern.
Inmitten der Veranstaltung diskutierten die Gäste angeregt über die globale Bedeutung des KI-Wettlaufs und deren Konsequenzen. Im Nachgang der Aufklärung schieden sich die Wege der Teilnehmer: Einige verließen das prunkvolle Herrenhaus, andere verweilten, um die Debatte fortzusetzen. Faggella betonte, dass es am Ende nicht um Vernichtung gehe, sondern um einen proaktiven Ansatz zur Sicherstellung, dass der Fortschritt in die richtige Richtung geht.
