Die verschiedenen Seiten der KI

KI und Krieg, das mag auf den ersten Blick nach Science-Fiction klingen, allerdings: Wir sind bereits mittendrin. KI spielt in den Konflikten und Kriegen der Gegenwart eine große, vielleicht bald auch schon entscheidende Rolle. „Die Verwendung von Künstlicher Intelligenz gilt als dritte große Revolution in der Kriegsführung, nach der Erfindung des Schießpulvers und der Entwicklung von Nuklearwaffen“, so der Gesprächspartner des Abends, Prof. Karl Hans Bläsius. Eine der zentralen Fragen dabei: Die sogenannte `kill chain´, also Tötungskette, und die Geschwindigkeit und Sicherheit in und mit der sie abläuft. Und, hiermit verbunden, die Frage nach dem `Human in the loop´, also das Vorhandensein menschlicher Entscheidungs- bzw. Eingriffsmöglichkeiten in diesem Prozess – oder eben ihr Fehlen.

Wie kann angesichts des zunehmenden Einsatzes von KI und der damit einhergehenden ungeheuren Beschleunigung von Abläufen menschliche Verantwortung noch gewährleistet werden? Und wie gehen wir mit den Risiken eines `Flash Wars´ um, also der unbeabsichtigten Eskalationsspirale aufgrund der Interaktionsprozesse zwischen den vollautonomen Systemen? Fragen, die sich nicht so leicht beantworten lassen, die aber zeigen: Auch wir als Gesellschaft sollten hier genauer hinschauen, es geht um viel. In ihrem Text „Sicherheitspolitik verstehen“ aus dem Jahr 2022 schreiben die beiden Autoren Lahl und Varwick: „Klar ist nur, dass mit dem technologischen Fortschritt der KI ein neuer Stresstest auf die internationale Sicherheitspolitik zukommt. Letztendlich geht es für alle Akteure und die Völkergemeinschaft darum, nicht die Kontrolle über das zu verlieren, was Krieg und Frieden in existenzieller Weise mitbestimmt.“
Nicht die Kontrolle zu verlieren – oder vielleicht am Ende ein aus der Sicht einer pluralen Gesellschaft zu viel an (staatlicher) Kontrolle zu haben, das sind die Pole der Diskussion um den Einsatz von KI im Bereich der Kriminalität(sbekämpfung). Auf der einen Seite spricht ein Papier des Branchenverbandes Bitcom von 2023 davon, dass ca. 99 Prozent der digitalen Straftaten im Dunkelfeld bleiben und von den bekannten digitalen Straftaten weniger als 30 Prozent aufgeklärt werden. KI-Bots können mittlerweile persönlich zugeschnittene Betrugsmails verschicken, Computerviren bauen, Systeme hacken und vieles mehr; Europol warnt bereits vor einer „Welle KI-gestützter Cybercrimes“. Da kann auf Seiten der Strafverfolgung offensichtlich nicht alles beim Alten bleiben. Auf der anderen Seite: Mehrere Bundesländer nutzen derzeit – wenn auch in einer im Vergleich zu den USA abgeschwächten Version – Elemente des Systems Gotham der Firma Palantir, mithilfe dessen Daten zusammengeführt und reorganisiert werden können. In den Diskussionen im Bundestag und Bundesrat stehen die Zeichen auf Ausweitung, die digitale Rasterfahndung scheint nicht mehr weit entfernt.

Neben der Frage, ob man tatsächlich mit einem Partner wie Palantir zusammenarbeiten oder vielleicht nicht lieber europäische Alternativen nehmen sollte, berührt dies sehr grundsätzliche Fragen, insbesondere die Abwägung zwischen Freiheit und Sicherheit. Kai Biermann, Journalist bei der ZEIT, hat bereits festgestellt: „Wir erleben das Ende der Privatsphäre im öffentlichen Raum.“ Und der ehemalige Innenminister Gerhart Baum hat es in einem Interview kurz vor seinem Tod es so ausgedrückt: „Palantir ist eine Verführung, der sich unser Rechtsstaat entziehen muss.“

Nach diesen doch eher herausfordernden Einsatzgebieten von KI kann sie im Bereich von Gesundheit und Krankheit sehr viel einfacher ihr positives Potenzial entfalten: Von der schnellen Entwicklung neuer Medikamente über individualisierte Therapien bis zu Chatbot-Therapeuten, von einer effizienten Organisation des Gesundheitssystems bis zur besseren Diagnostik und Therapieentwicklung selbst bei Seltenen Erkrankungen. Und tatsächlich: Vieles ist heute schon möglich, anderes in der Entwicklung oder zumindest am Horizont erkennbar. Hinzu kommt all das, was Menschen selbst aufzeichnen, auch hier kann vieles zu einem besseren Umgang mit Erkrankungen und einem Mehr an Lebensqualität beitragen.

Bei allem Potential – auch hier gibt es kritische Aspekte: Wie gewährleiten wir den Schutz der sensiblen Gesundheitsdaten, wie verhindern wir, dass sich im medizinischen Bereich Tätige zu sehr auf die KI verlassen und ihr dabei vielleicht zu unkritisch folgen und ihr eigenes Können einbüßen? Und mit Blick auf die in den vergangenen Jahren entwickelten IT-basierten Systeme zur Entscheidungsunterstützung (Clinical Decision Support Systems): Wie verhindern wir zukünftig rein KI-basierte Entscheidungen und sichern die PatientInnen-Autonomie, also das Recht, dem „Computer-Paternalismus“ im Zweifel auch zu entgehen? Genug Stoff für weitere Gespräche und Diskussionen!