In einem offenen Brief fordern die Unterzeichner, darunter prominente Persönlichkeiten wie Yoshua Bengio, Stuart Russell, Elon Musk und Steve Wozniak, alle KI-Labore auf, die Entwicklung von KI-Systemen, die leistungsfähiger als GPT-4 sind, für mindestens sechs Monate zu pausieren.

Sie betonen die potenziellen Risiken von KI-Systemen mit menschenähnlicher Intelligenz und die Notwendigkeit, ihre Entwicklung sorgfältig zu planen und zu verwalten.

Die Unterzeichner sind besorgt über den aktuellen, unkontrollierten Wettlauf um immer leistungsfähigere KI-Systeme, deren Auswirkungen und Risiken nicht ausreichend verstanden oder kontrolliert werden können. Während der Pause sollen KI-Labore und unabhängige Experten gemeinsam Sicherheitsprotokolle entwickeln und umsetzen, die von unabhängigen Experten überwacht und geprüft werden.

Die Unterzeichner betonen, dass die Entwicklung von KI im Allgemeinen nicht gestoppt werden soll, sondern lediglich der gefährliche Wettlauf um immer größere, unvorhersehbare Modelle. Parallel dazu sollen KI-Entwickler mit politischen Entscheidungsträgern zusammenarbeiten, um die Entwicklung robuster KI-Regulierungssysteme zu beschleunigen.

Diese sollten unter anderem neue Regulierungsbehörden, Überwachungsmechanismen, Haftungsregelungen und öffentliche Förderung für KI-Sicherheitsforschung umfassen. Die Unterzeichner sind überzeugt, dass die Menschheit eine blühende Zukunft mit KI genießen kann, wenn sie verantwortungsbewusst entwickelt und eingesetzt wird. Sie plädieren dafür, die Entwicklung anderer KI-Technologien zu verlangsamen und die Gesellschaft die Chance zu geben, sich anzupassen.