Brüderlichkeit im Zeitalter der KI

Deutsche Version (auch verfügbar in العربية-الإمارات, English , Español-España, Français-Canada, Français, עברית-ישראל, हिन्दी-भारत, Italiano, 日本語, 한국어, Magyar, Português-Brasil, Svenska, 简体中文)

Bewegt von dem tiefen Wunsch nach einer Zukunft, in der Menschen unsere Gesellschaften und Entscheidungen gestalten, ergeht der folgende Appell unseres unabhängigen Runden Tisches, der sich aus Expert:innen, Technologieführer:innen, Vordenker:innen und Wissenschaftler:innen aus vielen verschiedenen Nationen, Hintergründen und Glaubensrichtungen zusammensetzt: Wir appellieren für eine Zukunft, in der künstliche Intelligenz (KI) verantwortungsvoll von und für die Menschen entwickelt wird.

Die Entscheidungen, die wir heute über KI treffen, werden die Welt, die wir zukünftigen Generationen hinterlassen, grundlegend prägen. KI verursacht bereits jetzt erhebliche Schäden, verstärkt Ungleichheiten, konzentriert Macht in den Händen einiger weniger und schadet der Umwelt. Für die Entwicklung von agentischen Technologien – was viele in der KI- Forschungsgemeinschaft als „Superintelligenz“ bezeichen –, die das Potenzial haben, die menschliche Intelligenz zu übertreffen, werden zunehmend größere Mengen Geld aufgewendet. Damit sehen wir uns mit enormen Herausforderungen konfrontiert, die moralische Führungsstärke und dringende konkrete Maßnahmen erfordern.

Künstliche Intelligenz bietet erhebliche Möglichkeiten, wissenschaftliche Entdeckungen und das gegenseitige Verständnis der Menschen voranzutreiben, das Gesundheitswesen zu verändern, die Regierungsführung zu verbessern und im weiteren Sinne nachhaltigen, integrativen Wohlstand zu fördern. Allerdings birgt sie laut dem International Scientific Report on AI Safety (dem „Internationalen wissenschaftlichen Bericht zur Sicherheit künstlicher Intelligenz“) auch erhebliche Risiken. Dazu zählen der Verlust von Arbeitsplätzen, die Einschränkung individueller Freiheiten, Machtkämpfe, Desinformation und Manipulation, Massenüberwachung, Auswirkungen auf die Umwelt sowie Gefahren für das Wohlergehen der Menschen.

Um legitime und potenzielle Chancen zu nutzen und gleichzeitig Kosten und Risiken zu minimieren, müssen die Grundlagen für das menschliche Gedeihen geschaffen werden. Dazugehören klar definierte Grenzen, die auf der Achtung von Würde, Gemeinschaft, Menschen- und Umweltrechten sowie Rechenschaftspflicht beruhen.

In diesem Geist der Brüderlichkeit, Hoffnung und Vorsicht appellieren wir an Sie als Weltführer:innen, die folgenden Grundsätze und Grenzen zu beachten. Nur so kann der Dialog darüber gefördert werden, wie KI unserer gesamten Menschheitsfamilie am besten dienen kann.

• Menschliches Leben und Menschenwürde: KI darf niemals so entwickelt oder eingesetzt werden, dass das menschliche Leben, die Würde aller Menschen oder unsere Grundrechte bedroht, eingeschränkt oder missachtet werden. Die menschliche Intelligenz, die uns zu Weisheit, moralischem Denken und der Ausrichtung auf Wahrheit und Schönheit befähigt, darf niemals durch künstliche Verarbeitung, so hochentwickelt diese auch sein mag, abgewertet werden.

• KI sollte als Werkzeug eingesetzt werden, nicht als Autorität: KI muss unter menschlicher Kontrolle bleiben. Der Aufbau unkontrollierbarer Systeme sowie eine übermäßige Delegation von Entscheidungen sind moralisch inakzeptabel und müssen gesetzlich untersagt werden. Daher sollte die Entwicklung einer Superintelligenz erst erlaubt werden, wenn ein breiter wissenschaftlicher Konsens darüber besteht, dass sie sicher und kontrollierbar ist. Selbst dann sollte dies jedoch nur unter der Voraussetzung einer klaren, breiten öffentlichen Zustimmung erfolgen.

• Rechenschaftspflicht: Nur Menschen verfügen über moralische und rechtliche Handlungsfähigkeit. KI-Systeme hingegen sind und müssen Rechtsobjekte bleiben, niemals Subjekte. Die Verantwortung und Haftung hierfür liegt bei Entwickler:innen, Anbieter:innen, Unternehmen, Anwender:innen, Instituten sowie Regierungen. Künstliche Intelligenz darf keine Rechtspersönlichkeit oder „Rechte“ erhalten.

• Entscheidungen über Leben und Tod: Entscheidungen über Leben und Tod dürfen niemals von KI-Systemen getroffen werden – weder in militärischen Anwendungen während bewaffneter Konflikte noch in Friedenszeiten bei der Strafverfolgung, Grenzkontrolle, im Gesundheitswesen oder bei gerichtlichen Entscheidungen.

• Sichere und ethische Entwicklung: Entwickler:innen müssen KI von Anfang an sicher, transparent und ethisch gestalten, nicht erst nachträglich. Die Bereitsteller:innen müssen den Kontext der Nutzung sowie mögliche Schäden berücksichtigen. Dabei müssen sie denselben Sicherheits- und ethischen Grundsätzen folgen, die auch für die Entwickler:innen gelten. Vor der Bereitstellung und während des gesamten Lebenszyklus müssen unabhängige Tests und eine angemessene Risikobewertung durchgeführt werden.
• Verantwortung: Regierungen, Unternehmen und alle anderen Akteure dürfen KI nicht für Zwecke der Herrschaft, für illegale Angriffskriege, Zwangsmaßnahmen, Manipulation, Social Scoring oder eine ungerechtfertigte Massenüberwachung einsetzen.

• Vertrauenswürdiges Design: KI muss auf eine Weise konzipiert und unabhängig bewertet werden, dass unbeabsichtigte, katastrophale Auswirkungen auf Menschen und die Gesellschaft vermieden werden. Dies gilt insbesondere für Designs, die zu Täuschungen, Wahnvorstellungen, Suchtverhalten oder dem Verlust von Autonomie führen können. 

• Kein KI-Monopol: Die Vorteile der KI in wirtschaftlicher, medizinischer, wissenschaftlicher und sozialer Hinsicht dürfen nicht monopolisiert werden.

• Keine Abwertung des Menschen: Die Entwicklung und der Einsatz von KI sollten Menschen bei ihren selbstgewählten Bestrebungen unterstützen. Sie darf nicht dazu führen, dass Menschen überflüssig, entrechtet, abgewertet oder ersetzt werden.

• Ökologische Verantwortung: Der Einsatz von KI darf unseren Planeten und seine Ökosysteme nicht gefährden. Der enorme Bedarf an Energie, Wasser und Seltenerdmetallen muss entlang der gesamten Lieferkette verantwortungsbewusst und nachhaltig gesteuert werden.

• Kein unverantwortlicher globaler Wettbewerb: Ein unverantwortlicher globaler Wettbewerb zwischen Unternehmen und Ländern um immer leistungsfähigere KI muss vermieden werden.

Die Einhaltung dieser Grundsätze wird nicht einfach sein. Erforderlich sind Zivilcourage, sinnvolle Mechanismen der Rechenschaftspflicht, eine weitsichtige Führung aus allen Bereichen der Gesellschaft, ein verbindlicher internationaler Vertrag, der Grenzen festlegt, sowie eine unabhängige Aufsichtsbehörde mit Durchsetzungsbefugnissen. Wir fordern daher moralische Führungsstärke im Zeitalter der KI. Da die von KI ausgehenden Gefahren oft indirekter Natur sind, appellieren wir an Wissenschaftler:innen, die Zivilgesellschaft, Menschenrechtsgruppen und andere Interessengruppen, sich verstärkt darum zu bemühen, die Grenzen und Gefahren der KI zu artikulieren und das öffentliche Bewusstsein dafür zu schärfen. Wir fordern Wissenschaftler:innen, Führungskräfte der Technologiebranche sowie politische Entscheidungsträger:innen dazu auf, den Stimmen, Erfahrungen und Forschungsergebnissen von Datenarbeiter:innen sowie von Gemeinschaften und Menschen, die die (materiellen) Kosten der KI zu spüren bekommen, Gehör zu schenken. Ihre Arbeit muss sich am Schutz und Nutzen der Schwächsten orientieren. Denn die Legitimität moralischer und rechtlicher Regeln in einer Gesellschaft hängt letztlich davon ab, wie sie mit ihren schwächsten und schutzbedürftigsten Mitgliedern umgeht. Wir appellieren an Wissenschaftler:innen, zivilgesellschaftliche Gruppen und unabhängige Prüfer:innen, neue Ziele und Messgrößen zu entwickeln und vorzuschlagen. Damit sollen Lernalgorithmen hinsichtlich ihrer Genauigkeit, Ausgewogenheit und des Wohlergehens der Menschen während ihres gesamten Lebenszyklus trainiert, optimiert und bewertet werden. Dabei muss mehr als nur ihre Aufgabenleistung und ihr Engagement berücksichtigt werden.

Wir ermutigen politische Entscheidungsträger:innen, führende Vertreter:innen der Technologiebranche sowie globale Gemeinschaften, bei der Entwicklung umfassender Rahmenbedingungen für die Regulierung von KI zusammenzuarbeiten – zum Wohle aller. Dazu gehört auch das Recht der Menschen, frei von KI zu leben. Um authentische menschliche Brüderlichkeit im Zeitalter der künstlichen Intelligenz zu fördern, müssen universelle ethische und rechtliche Standards definiert werden.

Abschließend appellieren wir an alle Menschen guten Willens: Sorgen wir gemeinsam dafür, dass KI der gesamten Menschheit dient und nicht nur einer kleinen Gruppe!

Finally, we appeal to all people of good will: let us unite to ensure that AI serves all of humanity rather than a narrow few. 

Wenn wir uns über Nationen, Kulturen und Glaubensrichtungen hinweg zusammenschließen und den Dialog über den Wettbewerb stellen, können wir eine Zukunft gestalten, in der die Menschenwürde gestärkt wird und eine gerechtere und friedlichere Welt entsteht.

Wir rufen alle Interessengruppen – darunter Bürger:innen, Wissenschaftler:innen, Wirtschaftsführer:innen, religiöse Würdenträger:innen, Gemeinschaftsvertreter:innen und politische Entscheidungsträger:innen – dazu auf, sich an dieser Initiative zu beteiligen. Lassen Sie uns gemeinsam den Grundsatz bekräftigen, dass Maschinen den Interessen der Menschheit dienen müssen.