Der Geist ist aus der Flasche

„Der Geist ist aus der Flasche“. Mit diesem Satz warnt der kürzlich verstorbene Stephen Hawking vor der künstlichen Intelligenz und hat das Ende der Menschheit vor Augen. Ausgerechnet Stephen Hawking, dessen Existenz von Maschinen mit künstlicher Intelligenz abhängig war. Tesla-Chef Elon Musk, dem man mit Sicherheit keine Technikfeindlichkeit unterstellen kann, hält die künstliche Intelligenz für eine größere Gefahr für die Menschheit als die Atombombe. Und Bill Gates, der mit seinem Unternehmen die technologische Grundlage geschaffen hat, auf der sich die Anwendungen der künstlichen Intelligenz gerade entfalten, stößt in das gleiche Horn. Dazu gibt es warnende Stimmen von Nobelpreisträgern und führenden Wissenschaftlern, die sich bereits 2015 mit einem offenen Brief an die Öffentlichkeit gewandt haben.

Bei den Befürwortern der künstlichen Intelligenz, die nur den unbestritten vorhandenen Segen dieser Technologie sehen, werden diese Mahner als Weltuntergangspropheten apostrophiert. Die Diskussion über die Gefahren der KI sei so abwegig wie die Diskussion über die Überbevölkerung auf dem Mars. Andererseits, wenn bedeutende Geistesgrößen der Welt Schlange stehen, um uns mit einer öffentlichen Stellungnahme vor etwas zu warnen, wäre es nicht besser ihnen zuzuhören?

Ende der Privatheit?

Möglicherweise hatten sie nicht den Flächenbrand vor Augen, den Facebook zurzeit erlebt. Hier gibt es möglicherweise noch eine Chance, dass die Zivilgesellschaft und demokratisch gewählte Regierungen das Gebaren eines Internet-Giganten einhegt und die Geschäftswelt daran erinnert, dass sie neben der Profitmaximierung auch Verantwortung für das Gemeinwohl hat. In Europa können wir uns auf das Inkrafttreten der Datenschutz-Grundverordnung und die rasche Verabschiedung der e-Privacy-Verordnung freuen. Die psychometrische Vermessung von Endbenutzern mittels intransparenter Algorithmen und die massenhafte Beeinflussung von Mikro-Zielgruppen mit Desinformationen könnte dann auf ein beherrschbares Maß reduziert werden. Dennoch ist dauerhaft Wachsamkeit angesagt und unter dem Aspekt des Mensch-Seins mit Algorithmen muss bei jedem Produkt die Frage gestellt werden, ob es unsere Lebensqualität verbessert. Ist das nicht gegeben, muss reguliert werden.

Wir wissen nicht, wie wir super-intelligente Maschinen kontrollieren können

Wenn man sich mit den Äußerungen von Hawking beschäftigt, fällt auf dass er den segensreichen Nutzen der KI befürwortet. Es ist aber die menschliche Natur selbst, die die Richtung in die Zukunft vorgibt. Kurzfristig hängt die Wirkung der KI davon ab, wer sie kontrolliert; langfristig kommt es darauf an, ob sie überhaupt kontrolliert werden kann. Hawking erkennt implizit an, dass KI eine “Dual-Use”–Technologie ist, eine Technologie, die je nach Anwendung sehr gut oder sehr schädlich sein kann: Kernspaltung, Kernreaktoren, Kernfusion und Atombomben sind bekannte Repräsentanten einer „Dual-Use“-Technologie. Welchen Weg eine solche Technologie einschlägt, hängt immer an den Absichten und den ethischen Einstellungen ihrer Benutzer.

Hawkings Pessimismus speist sich

  • aus einem weltweiten Wettlauf zwischen den Großmächten über die digitale Vorherrschaft,
  • aus gigantischen Datenspeichern, die die Geheimdienste bereits angelegt haben und weiter ausweiten,
  • aus den laufenden Entwicklungen von Killer-Robotern, die ohne das Zutun des Menschen auf den Knopf drücken können.

All das läuft ziemlich ungeordnet unter der Oberfläche ab und Bestrebungen nach einem internationalen Moratorium sind bisher gescheitert.

All das mag weit in die Zukunft gerichtet sein, aber auf die gegenwärtige Situation passt meines Erachtens gut eine Aussage, die dem Dramatiker Anton Tschechow zugeschrieben wird: „Wenn im ersten Akt ein Gewehr an der Wand hängt, dann wird es im letzten Akt abgefeuert”. Was die KI angeht, befinden wir uns zurzeit vermutlich noch im ersten Akt. Daher sollten wir Hawkings Warnung zum Anlass nehmen, einmal gründlich darüber nachzudenken, was passiert, wenn wir das Gewehr an der Wand nicht entfernen.

Referenzen:

https://www.independent.co.uk/news/science/stephen-hawking-transcendence-looks-at-the-implications-of-artificial-intelligence-but-are-we-taking-9313474.html

https://www.theguardian.com/science/2016/oct/19/stephen-hawking-ai-best-or-worst-thing-for-humanity-cambridge

Stuart Russel: Artificial Intelligence: A Modern Approach

http://aima.cs.berkeley.edu/

Future of Live, AI Open Letter (Jan. 2015)

https://futureoflife.org/ai-open-letter

[Total: 0    Average: 0/5]

Gerhard Schimpf, the recipient of the ACM Presidential Award 2016, has a degree in Physics from the University of Karlsruhe. As a former IBM development manager and self-employed consultant for international companies, he has been active in ACM for over four decades. He was a leading supporter of ACM Europe, serving on the first ACM Europe Council in 2009. He was also instrumental in coordinating ACM’s spot as one of the founding organizations of the Heidelberg Laureates Forum. Gerhard Schimpf is a member of the German Chapter of the ACM (Chair 2008 – 2011) and a member of the Gesellschaft für Informatik. --oo-- Gerhard Schimpf, der 2016 mit dem ACM Presidential Award geehrt wurde, hat an der TH Karlsruhe Physik studiert. Als ehemaliger Manager bei IBM im Bereich Entwicklung und Forschung und als freiberuflicher Berater international tätiger Unternehmen ist er seit 40 Jahren in der ACM aktiv. Er war Gründungsmitglied des ACM Europe Councils und gehört zum Founders Club für das Heidelberg Laureate Forum, einem jährlichen Treffen von Preisträgern der Informatik und Mathematik mit Studenten. Gerhard Schimpf ist Mitglied des German Chapter of the ACM (Chairperson 2008 – 2011) und der Gesellschaft für Informatik.


Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.

WP Facebook Auto Publish Powered By : XYZScripts.com