Norman Müller fordert unabhängige Prüfungen mächtiger KI-Systeme

Der Essay unterscheidet gewöhnliche Assistenzaufgaben von Systemen, die eigenständig in andere technische Abläufe eingreifen können. Müller verlangt, bereits vor einer Freigabe zu untersuchen, welche Risiken die jeweiligen Fähigkeiten ermöglichen. Eine unabhängige Bewertung setzt aus seiner Sicht Zugang zu relevanten Systemen, Prüfergebnissen und Vorfällen voraus. Prüfer müssen auch Befunde benennen können, die eine Veröffentlichung verzögern oder den Einsatz begrenzen.

Den Vergleich mit internationaler Kontrolle gefährlicher Technologien verwendet der Autor als Ausgangspunkt für eine institutionelle Frage. Zugleich erläutert er, dass digitale Systeme anderen Bedingungen unterliegen als physisches Material. Eine Aufsicht für KI könne deshalb keine bloße Kopie vorhandener Kontrollordnungen sein. Der Beitrag ist ein politischer und unternehmerischer Standpunkt, keine Darstellung bereits geltender neuer Pflichten.

Für Europa schlägt Müller vor, eigene technische Prüfkompetenz aufzubauen und internationale Vereinbarungen voranzutreiben. Öffentliche Stellen sollten Anbieterangaben fachlich beurteilen können. Gleichzeitig betont der Essay die Verhältnismäßigkeit: Anforderungen müssen sich an der Tragweite der Fähigkeiten orientieren, statt kleinere Unternehmen pauschal zu belasten. Unsichere Zukunftsszenarien beschreibt der Autor ausdrücklich nicht als feststehende Ereignisse.

Eine am 17. September erschienene Begleitfolge im Format „TWO MINDS – ONE ESSAY“ diskutiert auch Einwände, etwa mögliche Innovationshemmnisse und die Grenzen internationaler Aufsicht. Sie gehört zum selben Themenangebot und erhält keine eigene doppelte Pressemitteilung. Der vollständige Essay ist unter https://www.ventureaistack.com/… zugänglich. Norman Müller steht für redaktionelle Rückfragen zu seinen Forderungen zur Verfügung.