ZÜRICH – Viele Forschende und führende Technologieexpert:innen haben in den letzten Jahren vor künstlicher Intelligenz gewarnt, wie man es seit dem Beginn des Atomzeitalters nicht mehr gehört hat. Elon Musk beispielsweise sagte, dass «KI weitaus gefährlicher ist als Atombomben», was ihn dazu veranlasste, eine wichtige Frage zu stellen: «Warum haben wir keine regulatorische Aufsicht? Das ist Wahnsinn.»
Der verstorbene Stephen Hawking äußerte sich ähnlich: «Wenn wir nicht lernen, uns auf die potenziellen Risiken vorzubereiten und sie zu vermeiden, könnte KI das schlimmste Ereignis in der Geschichte unserer Zivilisation sein. Sie birgt Gefahren, wie mächtige autonome Waffen oder neue Möglichkeiten für die Wenigen, die Vielen zu unterdrücken.»
Angesichts der potenziell katastrophalen Folgen unkontrollierter KI besteht ein klarer Bedarf an internationalen Leitplanken, um sicherzustellen, dass diese aufkommende Technologie – passender bezeichnet als datenbasierte Systeme – dem Gemeinwohl dient. Konkret bedeutet dies, dass die Menschenrechte weltweit, auch online, gewahrt werden müssen.
Zu diesem Zweck sollten Regierungen rechtlich verbindliche Regulierungen einführen, die datenbasierte Systeme fördern, welche die Machtlosen vor den Mächtigen schützen, indem sie sicherstellen, dass die Menschenrechte während des gesamten Lebenszyklus solcher Systeme, einschliesslich Design, Entwicklung, Produktion, Vertrieb und Nutzung, respektiert, geschützt, implementiert und umgesetzt werden.
Ebenso wichtig ist, dass die UNO dringend eine Internationale Agentur für datenbasierte Systeme (IDA) einrichtet, eine globale KI-Aufsichtsbehörde, welche die sichere, nachhaltige und friedliche Nutzung dieser Technologien fördert, die Einhaltung der Menschenrechte sicherstellt und die Zusammenarbeit in diesem Bereich unterstützt. Die IDA würde auch über Regulierungsbefugnisse verfügen, um dabei zu helfen, die Marktzulassung von KI-Produkten zu steuern. Angesichts der Ähnlichkeiten zwischen datenbasierten Systemen und Nukleartechnologien wäre die Internationale Atomenergie-Organisation (IAEA) das beste Modell für eine solche Einrichtung, nicht zuletzt, weil sie eine der wenigen UNO-Organisationen «mit Zähnen» ist.
Der Erfolg der IAEA hat gezeigt, dass wir in der Lage sind, Vorsicht walten zu lassen und das blinde Streben nach technologischem Fortschritt zu unterbinden, wenn die Zukunft der Menschheit und des Planeten auf dem Spiel steht. Nachdem die Bombardierung von Hiroshima und Nagasaki die verheerenden humanitären Folgen eines Atomkriegs aufgezeigt hatte, wurden Forschung und Entwicklung im Bereich der Kerntechnik eingeschränkt, um noch schlimmere Folgen zu verhindern. Ermöglicht wurde dies durch ein internationales Regime – die IAEA – mit starken Durchsetzungsmechanismen.
Eine wachsende Zahl von Wissenschaftler:innen aus der ganzen Welt hat die Einrichtung einer IDA gefordert und die Schaffung datenbasierter Systeme auf der Grundlage der Achtung der Menschenrechte unterstützt. «The Elders», eine von Nelson Mandela gegründete unabhängige Gruppe führender Persönlichkeiten aus aller Welt, haben die enormen Risiken der KI und die Notwendigkeit einer internationalen Agentur wie der IAEA erkannt, «um diese mächtigen Technologien im Rahmen robuster Sicherheitsprotokolle zu verwalten» und sicherzustellen, dass sie «in einer Weise genutzt werden, die mit dem Völkerrecht und den Menschenrechtsverträgen vereinbar ist». Folglich ermutigen sie die Länder, bei der UNO-Generalversammlung einen Antrag an die Völkerrechtskommission zu stellen, einen internationalen Vertrag zur Einrichtung einer neuen UNO-Agentur für KI-Sicherheit auszuarbeiten.
Zu den einflussreichen Befürwortern eines rechtsverbindlichen Rechtsrahmens für KI gehört Sam Altman, der CEO von OpenAI, dessen öffentliche Veröffentlichung von ChatGPT Ende 2022 das KI-Wettrüsten in Gang setzte. Letztes Jahr forderte Altman eine internationale Behörde, die u. a. «Systeme inspizieren, Audits verlangen, die Einhaltung von Sicherheitsstandards prüfen [und] Beschränkungen für den Einsatzgrad und das Sicherheitsniveau auferlegen» kann. Sogar Papst Franziskus hat die Notwendigkeit betont, eine multilaterale Institution einzurichten, welche die ethischen Fragen, die sich aus der KI ergeben, untersucht und ihre Entwicklung und Nutzung durch «einen verbindlichen internationalen Vertrag» regelt.
Die UNO hat ihrerseits die Bedeutung der Förderung und des Schutzes der Menschenrechte in datenbasierten Systemen hervorgehoben. Im Juli 2023 nahm der UNO-Menschenrechtsrat einstimmig eine Resolution zum Thema «Neue und aufkommende digitale Technologien und Menschenrechte» an, in der festgestellt wird, dass es diesen Technologien «möglicherweise an einer angemessenen Regulierung mangelt» und die Notwendigkeit «wirksamer Massnahmen zur Verhinderung, Milderung und Behebung negativer Auswirkungen solcher Technologien auf die Menschenrechte» betont wird. Zu diesem Zweck fordert die Resolution die Schaffung eines Rahmens für Folgenabschätzungen, für die Ausübung der Sorgfaltspflicht und für die Gewährleistung wirksamer Abhilfemassnahmen sowie menschlicher Aufsicht und rechtlicher Rechenschaftspflicht.
Kürzlich, im März, hat die UNO-Generalversammlung einstimmig eine Resolution zur «Nutzung der Chancen sicherer und vertrauenswürdiger Systeme der künstlichen Intelligenz für eine nachhaltige Entwicklung» verabschiedet. In dieser bahnbrechenden Resolution wird anerkannt, dass «dieselben Rechte, die Menschen offline haben, auch online geschützt werden müssen, auch während des gesamten Lebenszyklus von Systemen der künstlichen Intelligenz.»
Da die internationale Gemeinschaft nun die Notwendigkeit des Schutzes der Menschenrechte in datenbasierten Systemen erkannt hat, liegt der nächste Schritt auf der Hand. Die UNO muss jetzt diesen globalen Konsens in die Tat umsetzen und eine IDA einrichten.
ZÜRICH – Viele Forschende und führende Technologieexpert:innen haben in den letzten Jahren vor künstlicher Intelligenz gewarnt, wie man es seit dem Beginn des Atomzeitalters nicht mehr gehört hat. Elon Musk beispielsweise sagte, dass «KI weitaus gefährlicher ist als Atombomben», was ihn dazu veranlasste, eine wichtige Frage zu stellen: «Warum haben wir keine regulatorische Aufsicht? Das ist Wahnsinn.»
Der verstorbene Stephen Hawking äußerte sich ähnlich: «Wenn wir nicht lernen, uns auf die potenziellen Risiken vorzubereiten und sie zu vermeiden, könnte KI das schlimmste Ereignis in der Geschichte unserer Zivilisation sein. Sie birgt Gefahren, wie mächtige autonome Waffen oder neue Möglichkeiten für die Wenigen, die Vielen zu unterdrücken.»
Angesichts der potenziell katastrophalen Folgen unkontrollierter KI besteht ein klarer Bedarf an internationalen Leitplanken, um sicherzustellen, dass diese aufkommende Technologie – passender bezeichnet als datenbasierte Systeme – dem Gemeinwohl dient. Konkret bedeutet dies, dass die Menschenrechte weltweit, auch online, gewahrt werden müssen.
Zu diesem Zweck sollten Regierungen rechtlich verbindliche Regulierungen einführen, die datenbasierte Systeme fördern, welche die Machtlosen vor den Mächtigen schützen, indem sie sicherstellen, dass die Menschenrechte während des gesamten Lebenszyklus solcher Systeme, einschliesslich Design, Entwicklung, Produktion, Vertrieb und Nutzung, respektiert, geschützt, implementiert und umgesetzt werden.
Ebenso wichtig ist, dass die UNO dringend eine Internationale Agentur für datenbasierte Systeme (IDA) einrichtet, eine globale KI-Aufsichtsbehörde, welche die sichere, nachhaltige und friedliche Nutzung dieser Technologien fördert, die Einhaltung der Menschenrechte sicherstellt und die Zusammenarbeit in diesem Bereich unterstützt. Die IDA würde auch über Regulierungsbefugnisse verfügen, um dabei zu helfen, die Marktzulassung von KI-Produkten zu steuern. Angesichts der Ähnlichkeiten zwischen datenbasierten Systemen und Nukleartechnologien wäre die Internationale Atomenergie-Organisation (IAEA) das beste Modell für eine solche Einrichtung, nicht zuletzt, weil sie eine der wenigen UNO-Organisationen «mit Zähnen» ist.
Der Erfolg der IAEA hat gezeigt, dass wir in der Lage sind, Vorsicht walten zu lassen und das blinde Streben nach technologischem Fortschritt zu unterbinden, wenn die Zukunft der Menschheit und des Planeten auf dem Spiel steht. Nachdem die Bombardierung von Hiroshima und Nagasaki die verheerenden humanitären Folgen eines Atomkriegs aufgezeigt hatte, wurden Forschung und Entwicklung im Bereich der Kerntechnik eingeschränkt, um noch schlimmere Folgen zu verhindern. Ermöglicht wurde dies durch ein internationales Regime – die IAEA – mit starken Durchsetzungsmechanismen.
SPRING SALE: Save 40% on all new Digital or Digital Plus subscriptions
Subscribe now to gain greater access to Project Syndicate – including every commentary and our entire On Point suite of subscriber-exclusive content – starting at just $49.99.
Subscribe Now
Eine wachsende Zahl von Wissenschaftler:innen aus der ganzen Welt hat die Einrichtung einer IDA gefordert und die Schaffung datenbasierter Systeme auf der Grundlage der Achtung der Menschenrechte unterstützt. «The Elders», eine von Nelson Mandela gegründete unabhängige Gruppe führender Persönlichkeiten aus aller Welt, haben die enormen Risiken der KI und die Notwendigkeit einer internationalen Agentur wie der IAEA erkannt, «um diese mächtigen Technologien im Rahmen robuster Sicherheitsprotokolle zu verwalten» und sicherzustellen, dass sie «in einer Weise genutzt werden, die mit dem Völkerrecht und den Menschenrechtsverträgen vereinbar ist». Folglich ermutigen sie die Länder, bei der UNO-Generalversammlung einen Antrag an die Völkerrechtskommission zu stellen, einen internationalen Vertrag zur Einrichtung einer neuen UNO-Agentur für KI-Sicherheit auszuarbeiten.
Zu den einflussreichen Befürwortern eines rechtsverbindlichen Rechtsrahmens für KI gehört Sam Altman, der CEO von OpenAI, dessen öffentliche Veröffentlichung von ChatGPT Ende 2022 das KI-Wettrüsten in Gang setzte. Letztes Jahr forderte Altman eine internationale Behörde, die u. a. «Systeme inspizieren, Audits verlangen, die Einhaltung von Sicherheitsstandards prüfen [und] Beschränkungen für den Einsatzgrad und das Sicherheitsniveau auferlegen» kann. Sogar Papst Franziskus hat die Notwendigkeit betont, eine multilaterale Institution einzurichten, welche die ethischen Fragen, die sich aus der KI ergeben, untersucht und ihre Entwicklung und Nutzung durch «einen verbindlichen internationalen Vertrag» regelt.
Die UNO hat ihrerseits die Bedeutung der Förderung und des Schutzes der Menschenrechte in datenbasierten Systemen hervorgehoben. Im Juli 2023 nahm der UNO-Menschenrechtsrat einstimmig eine Resolution zum Thema «Neue und aufkommende digitale Technologien und Menschenrechte» an, in der festgestellt wird, dass es diesen Technologien «möglicherweise an einer angemessenen Regulierung mangelt» und die Notwendigkeit «wirksamer Massnahmen zur Verhinderung, Milderung und Behebung negativer Auswirkungen solcher Technologien auf die Menschenrechte» betont wird. Zu diesem Zweck fordert die Resolution die Schaffung eines Rahmens für Folgenabschätzungen, für die Ausübung der Sorgfaltspflicht und für die Gewährleistung wirksamer Abhilfemassnahmen sowie menschlicher Aufsicht und rechtlicher Rechenschaftspflicht.
Kürzlich, im März, hat die UNO-Generalversammlung einstimmig eine Resolution zur «Nutzung der Chancen sicherer und vertrauenswürdiger Systeme der künstlichen Intelligenz für eine nachhaltige Entwicklung» verabschiedet. In dieser bahnbrechenden Resolution wird anerkannt, dass «dieselben Rechte, die Menschen offline haben, auch online geschützt werden müssen, auch während des gesamten Lebenszyklus von Systemen der künstlichen Intelligenz.»
Da die internationale Gemeinschaft nun die Notwendigkeit des Schutzes der Menschenrechte in datenbasierten Systemen erkannt hat, liegt der nächste Schritt auf der Hand. Die UNO muss jetzt diesen globalen Konsens in die Tat umsetzen und eine IDA einrichten.