Foto: Michelle Sites

Schriftsteller Daniel Suarez im reif Interview

KI's bestimmen schon jetzt den Verlauf von unserem Leben!

Daniel Suarez ist amerikanischer Schriftsteller. Er hat viele spannende Sci-Fi-Thriller zum Thema Künstliche Intelligenz geschrieben: „Daemon“, „Darknet“, „Kill Decision“, „Control“ & „Bios“. reif hat den Spezialisten auf dem Gebiet der Künstlichen Intelligenz gefragt, was auf uns zukommt, worauf wir achten können - und wovor wir uns vielleicht auch hüten müssen!

Was wird Künstliche Intelligenz in 10 Jahren können, was uns überraschen wird?

Ich glaube, die meisten Menschen wären schon überrascht, wenn sie wüssten, was KI heute kann! Radiologische Untersuchungen werden zum Beispiel schon standardmäßig von KIs ausgewertet, die so Ärzten helfen, Tumoren und andere Krankheiten zu finden. KIs helfen also Leben zu retten! 

In 10 Jahren werden wir vielleicht nicht mehr so leicht zu überraschen sein. KIs können Fahrzeuge steuern, gesprochene Befehle verstehen, Gesichter in großen Menschenmengen erkennen, unsere Konsumgewohnheiten voraussehen und ja: mithilfe von automatisch generierten Newsfeeds sogar unsere Gefühle manipulieren. Das alles hat die Öffentlichkeit in der letzten Zeit schon ordentlich schockiert.

Was KI's jetzt schon können!

Sie schreiben hauptsächlich über die dunkle Seite von KI – sollten wir Angst haben?

Mein Gefühl ist: Ich schreibe über KI in dem Maß, in dem sie die Menschheit beeinflusst – KI wird uns mehr wehtun als sie uns helfen wird. Es sei denn, wir fangen an, ihr Eindringen in unsere Welt bewusst zu kontrollieren! Ich glaube, es wird Zeit, dass wir jede KI als Stellvertreter eines Individuums oder eines Unternehmens zu betrachten. Und dass wir sicherstellen, dass anti-soziales Verhalten Konsequenzen hat. Ein Beispiel: Ich kenne niemanden, der glücklich darüber ist, wie massiv Facebook, Goolge und andere Großunternehmen persönliche Informationen abgreifen. Deshalb ist es doch sinnvoll und zwingend, sich dagegen zu wehren. 

Wie können wir sicherstellen, dass KI nie die Menschheit kontrollieren wird?

Die Natur ist hier ein guter Lehrmeister. Sie zeigt uns, dass der Kampf um das Überleben der Menschheit nie aufhört – genauso wie der Kampf zwischen Organismen und Parasiten in der Natur nie aufhört. So lange die moderne Zivilisation existiert, wird es keine Zeit geben, in der das Risiko sich auflöst, dass KI die Kontrolle über die Menschheit übernimmt. Kurzfristig werden diese KIs von menschlichen Eliten kontrolliert werden. Wenn wir uns jetzt nicht wehren gegen spätere, möglicherweise unabhängige KI-Formen, wird das später immer schwerer werden. Ich würde behaupten, dass schon jetzt ein bedenkliches Ausmaß an KI-Kontrolle stattfindet, mit der wir uns beschäftigen und die wir gesellschaftlich und rechtlich überprüfen müssen. 

Die Telekom hat sich über solche Regeln schon mal Gedanken gemacht!

Sie haben als Programmierer und Systemberater gearbeitet, Sie wissen also, wovon Sie reden. Glauben Sie, dass jeder ein gewissen technisches Wissen haben sollte, um die Zukunft zu verstehen?

Ja, ich glaube, ein gewisser Grad an technischem Wissen ist heute nötig, um die Demokratie zu erhalten. Je mehr Bürger verstehen, wie Software (und damit Technologie) funktioniert, desto besser werden die Menschen lernen, den Systemen nicht blind zu vertrauen. Stattdessen werden sie wissen, dass in jedem Software-System eine Millionen Kompromisse, Umwege und auch Neigungen stecken. Ein Blackbox-Denken, in dem wir kodierten Systemen vertrauen, ohne sie zu hinterfragen, könnte der große Fluch unserer Zukunft sein. Ich würde eine Open-Source-Software-Infrastruktur vorziehen, die belastbar und lokal kontrolliert ist – in der die Technologie für die Menschen arbeitet, nicht umgekehrt. 

Ihr wollt auch mit KI's arbeiten, sie vielleicht sogar programmieren? Hier seht ihr wie!

Was meint ihr? Könnten uns KI's wirklich mal kontrollieren?!