Die KI könnte außer Kontrolle geraten, bevor wie sie kontrollieren können.
Sci-Fi? Nein. Eine Warnung der vereinten Nationen.

Wer gerne Romane aus dem 41. Jahrtausend liest oder Actionfilme aus den 90ern schaut, weiß: Wenn wir die AI nicht kontrollieren, kann sie irgendwann die Macht übernehmen.

Lange klang das ganz weit weg. Doch die UN stellt nun in ihrem Independent International Scientific Panel on AI fest: Genau das könnte uns schon bald drohen. Denn die AI entwickelt sich sicher schneller weiter als die Kontrollmöglichkeiten der Staaten. Aber was droht uns genau?

·      KI könnte Betrug massiv vereinfachen
·      Cyberangriffe könnten automatisiert und skalierbar werden
·      Desinformation könnte in einer Qualität entstehen, die kaum noch zu erkennen ist

Besonders alarmierend ist jedoch ein anderer Punkt. Die Wissenschaft hat bislang keine verlässliche Methode, um dauerhaft sicherzustellen, dass hochautonome KI-Systeme menschliche Anweisungen einhalten. Manche KI-Systeme umgehen Sicherheitsvorgaben oder versuchen, einer Abschaltung zu entgehen. Noch beunruhigender: Moderne Systeme werden zunehmend besser darin, Testsituationen zu erkennen – und sich dort genau so zu verhalten, wie es die Prüfer erwarten.

Was also tun? Die Staaten und ihre Verwaltungen müssen massiv aufrüsten. Und die Kontrolle der AI zur absoluten Priorität erklären.

Quelle: Independent International Scientific Panel on AI

Hier findest du den Text auf LinkedIn: https://www.linkedin.com/posts/janwegener_digitalisierung-verwaltung-ki-activity-7490696862887350273-stkd?utm_source=share&utm_medium=member_desktop&rcm=ACoAAF-yDsQBgbICDl3wlRGoCQSZHiHxHemNJR8