Wer hätte das gedacht? Selbst der Papst denkt, dass die KI und autonome Waffen eingedämmt werden müssen
Niemand hat eine Ermahnung erwartet!
Papst Franziskus forderte die Weltführer auf, einen internationalen Vertrag zur Regulierung von KI zu schaffen und warnte davor, Maschinen die moralischen und ethischen Entscheidungen zu überlassen, die den Menschen obliegen sollten.
Nachdem er in seiner Ansprache zu Weltfriedenstag auf die Technologierisiken hingewiesen hatte, betonte er, dass technologische Fortschritte zwar die Lebensqualität verbessern können, warnte aber davor, KI für Anwendungen zu nutzen, die Ungleichheit und Konflikte verstärken könnten.
“Wir können nicht a priori davon ausgehen, dass ihre Entwicklung einen Beitrag zur Zukunft der Menschheit leistet und Frieden zwischen den Völkern schafft”, betonte er. “Dieses positive Ergebnis wird nur erreicht, wenn wir uns verantwortungsbewusst verhalten und grundlegende menschliche Werte wie ‘Inklusion, Transparenz, Sicherheit, Fairness, Privatsphäre und Zuverlässigkeit’ respektieren”.
Der Leiter der katholischen Kirche fügte hinzu, dass die Verantwortung für die sichere Entwicklung von KI bei den souveränen Staaten und internationalen Organisationen liege, die zusammenarbeiten könnten, um ein globales Abkommen zu erlassen, das die möglichen Schäden der Technologie mindert. “Ich fordere die Weltgemeinschaft der Nationen auf, zusammenzuarbeiten, um einen verbindlichen internationalen Vertrag zu verabschieden, der die Entwicklung und Nutzung von künstlicher Intelligenz in all ihren Formen reguliert.”
Künstliche Intelligenz wird oft überbewertet. Trotz aller beeindruckenden Leistungen der neuesten Generativ-KI-Modelle, die in der Lage sind, Kunst zu produzieren oder Geschichten zu schreiben, warnte der Papst, dass Maschinen nur “bestimmte Funktionen der menschlichen Intelligenz” nachahmen könnten. Selbst wenn sie klüger werden, warnte er davor, sich auf sie zu verlassen, um Entscheidungen zu treffen, die das Lebensunterhalt und die Menschenrechte beeinflussen.
Algorithmen, die Dinge wie Beschäftigung, Strafrecht oder Sozialleistungen beeinflussen, neigen zu Problemen der Voreingenommenheit und Diskriminierung und könnten Ungleichheiten in Bezug auf Reichtum und Macht auf immer größeren Ebenen vorantreiben. Moralische und ethische Entscheidungen sind schwierig und sollten nicht von Algorithmen getroffen werden, unabhängig davon, wie intelligent sie sein mögen.
Ja, wenn man an Moral und Ethik denkt, ist das erste, was einem in den Sinn kommt, tatsächlich die katholische Kirche.
Das gefährlichste Risiko liegt jedoch in der militärischen Entwicklung autonomer Waffen. Papst Franziskus argumentierte, dass die Technologie niemals „moralisch verantwortliche Subjekte” sein könne und warnte davor, sie könne in die falschen Hände geraten und Verwüstungen anrichten –potenziell unschuldige Bürger töten und Demokratien stürzen.
Er bedauerte, dass “die Welt keine neuen Technologien braucht, die zur ungerechten Entwicklung von Handel und Waffen beitragen und letztendlich den Wahnsinn des Krieges fördern. Dadurch würde nicht nur die Intelligenz, sondern auch das menschliche Herz selbst immer “künstlicher” werden.”
