Der Geist ist aus der Flasche

„Der Geist ist aus der Flasche“. Mit diesem Satz warnt der kürzlich verstorbene Stephen Hawking vor der künstlichen Intelligenz und hat das Ende der Menschheit vor Augen. Ausgerechnet Stephen Hawking, dessen Existenz von Maschinen mit künstlicher Intelligenz abhängig war. Tesla-Chef Elon Musk, dem man mit Sicherheit keine Technikfeindlichkeit unterstellen kann, hält die künstliche Intelligenz für eine größere Gefahr für die Menschheit als die Atombombe. Und Bill Gates, der mit seinem Unternehmen die technologische Grundlage geschaffen hat, auf der sich die Anwendungen der künstlichen Intelligenz gerade entfalten, stößt in das gleiche Horn. Dazu gibt es warnende Stimmen von Nobelpreisträgern und führenden Wissenschaftlern, die sich bereits 2015 mit einem offenen Brief an die Öffentlichkeit gewandt haben.

Bei den Befürwortern der künstlichen Intelligenz, die nur den unbestritten vorhandenen Segen dieser Technologie sehen, werden diese Mahner als Weltuntergangspropheten apostrophiert. Die Diskussion über die Gefahren der KI sei so abwegig wie die Diskussion über die Überbevölkerung auf dem Mars. Andererseits, wenn bedeutende Geistesgrößen der Welt Schlange stehen, um uns mit einer öffentlichen Stellungnahme vor etwas zu warnen, wäre es nicht besser ihnen zuzuhören?

Ende der Privatheit?

Möglicherweise hatten sie nicht den Flächenbrand vor Augen, den Facebook zurzeit erlebt. Hier gibt es möglicherweise noch eine Chance, dass die Zivilgesellschaft und demokratisch gewählte Regierungen das Gebaren eines Internet-Giganten einhegt und die Geschäftswelt daran erinnert, dass sie neben der Profitmaximierung auch Verantwortung für das Gemeinwohl hat. In Europa können wir uns auf das Inkrafttreten der Datenschutz-Grundverordnung und die rasche Verabschiedung der e-Privacy-Verordnung freuen. Die psychometrische Vermessung von Endbenutzern mittels intransparenter Algorithmen und die massenhafte Beeinflussung von Mikro-Zielgruppen mit Desinformationen könnte dann auf ein beherrschbares Maß reduziert werden. Dennoch ist dauerhaft Wachsamkeit angesagt und unter dem Aspekt des Mensch-Seins mit Algorithmen muss bei jedem Produkt die Frage gestellt werden, ob es unsere Lebensqualität verbessert. Ist das nicht gegeben, muss reguliert werden.

Wir wissen nicht, wie wir super-intelligente Maschinen kontrollieren können

Wenn man sich mit den Äußerungen von Hawking beschäftigt, fällt auf dass er den segensreichen Nutzen der KI befürwortet. Es ist aber die menschliche Natur selbst, die die Richtung in die Zukunft vorgibt. Kurzfristig hängt die Wirkung der KI davon ab, wer sie kontrolliert; langfristig kommt es darauf an, ob sie überhaupt kontrolliert werden kann. Hawking erkennt implizit an, dass KI eine “Dual-Use”–Technologie ist, eine Technologie, die je nach Anwendung sehr gut oder sehr schädlich sein kann: Kernspaltung, Kernreaktoren, Kernfusion und Atombomben sind bekannte Repräsentanten einer „Dual-Use“-Technologie. Welchen Weg eine solche Technologie einschlägt, hängt immer an den Absichten und den ethischen Einstellungen ihrer Benutzer.

Hawkings Pessimismus speist sich

• aus einem weltweiten Wettlauf zwischen den Großmächten über die digitale Vorherrschaft,
• aus gigantischen Datenspeichern, die die Geheimdienste bereits angelegt haben und weiter ausweiten,
• aus den laufenden Entwicklungen von Killer-Robotern, die ohne das Zutun des Menschen auf den Knopf drücken können.

All das läuft ziemlich ungeordnet unter der Oberfläche ab und Bestrebungen nach einem internationalen Moratorium sind bisher gescheitert.

All das mag weit in die Zukunft gerichtet sein, aber auf die gegenwärtige Situation passt meines Erachtens gut eine Aussage, die dem Dramatiker Anton Tschechow zugeschrieben wird: „Wenn im ersten Akt ein Gewehr an der Wand hängt, dann wird es im letzten Akt abgefeuert”. Was die KI angeht, befinden wir uns zurzeit vermutlich noch im ersten Akt. Daher sollten wir Hawkings Warnung zum Anlass nehmen, einmal gründlich darüber nachzudenken, was passiert, wenn wir das Gewehr an der Wand nicht entfernen.

Referenzen:

https://www.independent.co.uk/news/science/stephen-hawking-transcendence-looks-at-the-implications-of-artificial-intelligence-but-are-we-taking-9313474.html

https://www.theguardian.com/science/2016/oct/19/stephen-hawking-ai-best-or-worst-thing-for-humanity-cambridge

Stuart Russel: Artificial Intelligence: A Modern Approach

http://aima.cs.berkeley.edu/

Future of Live, AI Open Letter (Jan. 2015)

https://futureoflife.org/ai-open-letter

---