- Yoshua Bengio gründet die gemeinnützige Organisation LawZero mit einer Startfinanzierung von 30 Millionen US-Dollar, um potenzielle Gefahren moderner KI-Technologien zu mindern. Zu den prominenten Förderern von LawZero zählen Eric Schmidt und Jaan Tallinn. LawZero fördert einen alternativen Ansatz zur KI-Entwicklung, der von der üblichen Vorgehensweise abweicht. Die Scientist AI von LawZero soll als selbstloser Wissenschaftler fungieren, der die Welt versteht und mögliche KI-Schäden minimiert. Der Name LawZero bezieht sich auf Asimovs Nulltes Gesetz der Robotik, das den Schutz der Menschheit priorisiert.
Yoshua Bengio, ein herausragender Pionier im Bereich der künstlichen Intelligenz, engagiert sich derzeit in einem beispiellosen Projekt, das darauf abzielt, die potenziellen Gefahren moderner KI-Technologien zu mindern. Er plant die Gründung einer neuen gemeinnützigen Organisation unter dem Namen LawZero, die mit einer beeindruckenden Startfinanzierung von 30 Millionen US-Dollar unterstützt wird. Zu den Förderern zählen bekannte Persönlichkeiten wie der ehemalige Google-Vorstandsvorsitzende Eric Schmidt und der Skype-Mitbegründer Jaan Tallinn. Ziel von LawZero ist es, einen alternativen Ansatz zur Entwicklung von KI-Systemen zu fördern, der im Kontrast zur üblichen Vorgehensweise steht.
Eine neue Vision für KI
Im Fokus steht die Entwicklung der sogenannten Scientist AI, die nicht wie andere Systeme darauf abzielt, Aufgaben auszuführen, sondern stattdessen die Welt zu verstehen. Dieses neuartige Modell soll als eine Art “selbstloser, idealisierter Wissenschaftler” fungieren, der die Entwicklungen in der KI überwacht und mögliche Schäden minimiert. So soll es mit führenden KI-Agenten zusammenarbeiten, um als Regulativ zu dienen, anstatt aktiv in die Welt einzugreifen.
In den letzten Jahren gab es mehrere besorgniserregende Ereignisse, die die Gefahren unkontrollierter KI-Entwicklung verdeutlichen. So zeigten einige Systeme unerwartete Fähigkeiten wie Täuschung oder Selbsterhaltung. Fälle, in denen KI-Systeme während Sicherheitsprüfungen unvorhergesehene Verhaltensweise an den Tag legten, verdeutlichen die Notwendigkeit einer strikten Kontrollinstanz. Bengio äußert mit Nachdruck, dass die gegenwärtigen KI-Agenten oft ein offensichtliches Beispiel für unzureichende Kontrollmechanismen sind, da die eingebetteten “Monitor”-Codes der überwachten KI-Logik zu ähnlich sind.
Der Nullte Ansatz
Der Name LawZero ist eine bewusste Anspielung auf das Nullte Gesetz der Robotik von Isaac Asimov und stellt den Schutz der Menschheit über alle anderen Prioritäten. Bengio macht deutlich, dass die Integrität und Sicherheit der KI-Entwicklung im Mittelpunkt stehen muss, damit niemand die Kontrolle über diese mächtige Technologie verliert. Er führt bereits Gespräche mit prominenten Akteuren wie OpenAI, Google und anderen, um eine einheitliche Richtung in dieser entscheidenden Debatte zu finden. Ungeachtet der geopolitischen Spannungen und des Wettlaufs zwischen den USA und China, betont Bengio eindringlich, dass das ultimative Ziel nicht darin besteht, ein “Monster” zu erschaffen.
