Jenseits von Optimismus und Angst
Der KI-Diskurs ist oft zwischen zwei unbefriedigenden Lagern gespalten. Das eine behandelt KI als unvermeidliche Erlösung: einen allgemeinen Motor für Produktivität, Medizin, Bildung, Kreativität und Fülle. Das andere behandelt sie als herannahende Katastrophe: eine Kraft der Arbeitslosigkeit, Überwachung, Manipulation, Abhängigkeit und des institutionellen Zusammenbruchs.
Beide Rahmen enthalten Bruchstücke der Wahrheit. Keiner genügt für Governance. Die eigentliche Frage ist nicht, ob KI gut oder schlecht ist. Die eigentliche Frage ist, unter welchen Bedingungen KI das menschliche Leben verbessert, unter welchen Bedingungen sie der Gesellschaft Wert entzieht und welche Schutzmaßnahmen erforderlich sind, bevor der Einsatz irreversibel wird.
Eine ernsthafte KI-und-Gesellschaft-Initiative sollte daher mit einem Wirkungsregister beginnen.
Was ein Wirkungsregister misst
Ein KI-Wirkungsregister würde mehr als technische Leistung erfassen. Es würde fragen, ob ein System den Bereich verbessert, den es betritt, oder lediglich Kosten innerhalb einer Organisation senkt, während es Schäden anderswo exportiert.
In der Bildung: Verbessert KI das Verständnis, oder erzeugt sie fließende Abhängigkeit? Im Journalismus: Erweitert sie den Zugang zu Information, oder flutet sie die Öffentlichkeit mit kostengünstigem synthetischem Rauschen? In der Gesundheit: Verbessert sie Diagnose und Versorgung, oder schafft sie undurchsichtige Triage-Systeme, die Patientinnen nicht anfechten können? In der Arbeit: Erweitert sie menschliche Fähigkeit, oder löst sie Einstiegswege auf, über die Expertise normalerweise entsteht?
Das Register muss Vorteile einschließen. Es muss auch Externalitäten einschließen: Aufmerksamkeitskosten, Energieverbrauch, Datenausbeutung, Entprofessionalisierung, Verstärkung von Verzerrungen, Rechenschaftslücken, psychologische Abhängigkeit und demokratische Verwundbarkeit.
Nachhaltigkeit ist nicht nur ökologisch
Nachhaltige KI wird oft in Begriffen von Energie, Chips und Rechenzentren diskutiert. Diese Fragen sind wichtig. Aber soziale Nachhaltigkeit ist ebenfalls wichtig.
Eine Gesellschaft kann Systeme einführen, die technisch effizient, aber sozial korrosiv sind. Sie kann Verwaltungskosten senken und gleichzeitig Einsamkeit vergrößern. Sie kann Bildung personalisieren und gemeinsame Standards schwächen. Sie kann Kundenservice automatisieren und institutionelle Unerreichbarkeit normalisieren. Sie kann unendlich Inhalte erzeugen und die kulturellen Bedingungen degradieren, die Schaffen bedeutungsvoll machen.
Die Nachhaltigkeitsfrage ist daher weiter gefasst: Kann dieses System skalieren, ohne die menschlichen, bürgerlichen, kulturellen und ökologischen Grundlagen zu schwächen, von denen es abhängt?
Ethik nach dem Einsatz
Viele Organisationen behandeln KI-Ethik als Startvoraussetzung: ein Richtliniendokument, eine Risikoprüfung, eine Compliance-Checkliste. Aber die wichtigsten Schäden können nach dem Einsatz auftreten, wenn Nutzerinnen sich anpassen, Anreize sich verschieben, Grenzfälle sich ansammeln und das System zur Infrastruktur wird.
Ethik muss daher kontinuierlich sein. Sie erfordert Monitoring, Beschwerdemechanismen, unabhängige Prüfungen, Vorfallmeldungen, Beteiligung der Beschäftigten, öffentliche Erklärung und das Recht, Systeme zu pausieren oder rückgängig zu machen, die in der Praxis versagen.
Der Zweck eines KI-und-Gesellschaft-Thinktanks sollte nicht sein, Innovation um ihrer selbst willen zu bremsen. Er sollte Innovation dauerhafter machen, indem sichergestellt wird, dass Menschen wichtiger bleiben als die Systeme, die ihnen dienen sollen.