Concept Paper - Intelligenz ist nicht Autorität: Ein Ordnungsrahmen für menschliche Autorität, Kontrolle und Sicherheit bei fortgeschrittener KI

Counts differ because each database indexes a different set of publications. We treat OpenAlex as the canonical count; Google Scholar is not shown (no API, and crawling it violates its ToS).

Dieses Concept Paper untersucht, wie menschliche Autorität über fortgeschrittene KI-Systeme erhalten bleibt, wenn diese auf Daten, Werkzeuge und externe Systeme zugreifen. Es trennt Fähigkeit, Informationszugriff, Inferenz, Autorisierung, Ausführung und bestätigte Wirkung. Vorgeschlagen wird ein Ordnungsrahmen mit unabhängigen Informations- und Wirkungsgrenzen, sichtbarem Systemzustand, wirksamem Stopp und Widerruf, geschützter Freigabe sowie überprüfbaren Ergebnissen. Weitere Schwerpunkte sind epistemische Unsicherheit, persönliche KI, kognitive Souveränität und die Risiken von Personalisierung. Das Papier verbindet etablierte Sicherheitsprinzipien mit nutzerzentrierten Anforderungen; es beansprucht keine fertige technische Implementierung.