Vertrauenswürdiger Einsatz von Künstlicher Intelligenz

4.7.2019

Bei unserem Symposium Mensch-Sein mit Algorithmen haben wir im vergangenen Jahr das interdisziplinäre Zusammenspiel von Informatik, Ingenieurwissenschaften, Kunst, Philosophie und Recht beleuchtet. Insbesondere Fragestellungen der Philosophie und der Ethik (Prof. Filipovic´) und des Rechts (Prof. Boehm) im Zusammenhang mit aktuellen Entwicklungen waren von besonderer Bedeutung, weil diese in den Betrachtungen der Informatiker nicht oft vorkommen.

Fragen aus der Perspektive der Philosophie

Ethik verdankt sich historisch gewachsenen Erfahrungen des Menschen. Die Grundfragen der Ethik lauten „was sollen wir tun“?

„Genügt mein Handeln den traditionell gewachsenen ethischen und moralischen Ansprüchen?“

Kommen neue Technologien hinzu, die wie KI gesellschaftliche Transformationen bewirken, müssen diese bewertet werden, ob sie Potential haben, menschliches Handeln zu verbessern und sie müssen einer kritischen Bewertung unterzogen werden, ob sie zum Schaden führen oder dem Nutzen der Menschen dienen. Es gibt also keine fertigen Antworten.

Es müssen demnach Leitlinien entwickelt werden, die im Einklang mit fundamentalen ethischen Grundprinzipien wie der Menschenwürde, der Autonomie und der individuellen sowie der demokratischen Freiheit stehen.

Bei der Anwendung der KI muss dabei die Schnittstelle zur sozialen Sphäre in den Blick genommen werden, um sicherzustellen, das ethische Grundprinzipien wie Fairness oder Transparenz nicht verletzt werden.

 Fragen aus der Perspektive des Rechts.

Unter den Gegebenheiten neuer Technologien, wie lernender Systeme, die in der Lage sind automatisch Entscheidungen zu fällen, stellt sich die Frage nach Zurechnung und damit nach Verantwortung und individueller Haftung.

Die Schlüsselbegriffe, die auf algorithmische Systeme in diesem Zusammenhang angewandt werden müssen sind Transparenz und Nachvollziehbarkeit. Nur so können rechtlich bindende Situationen entstehen.

Im Kern muss die Frage beantwortet werden, ob es ein „Menschenbild der Digitalisierung“ gibt und ob dieses mit einem freiheitlich demokratischen Rechtsstaat in Einklang zu bringen ist.

Regulierung spielt sich üblicherweise im Rahmen nationaler Grenzen ab, was aber in Zeiten der Beherrschung des Netzes durch global agierende Firmen nicht wirksam ist.

Hier hat die EU mit der DSGVO Pionierarbeit geleistet. Diese ist inzwischen auch außerhalb der EU zum Gold Standard geworden.

Nach der EU-DSGVO hat jeder Bürger das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.

Insgesamt ergeben sich aber interessante interdisziplinäre Forschungsaufgaben im Zusammenspiel von Technologie, Philosophie und Recht.

Das Fraunhofer Institut für Intelligente Analyse- und Informationssysteme hat zu diesem Themengebiet aktuell ein lesenswertes Whitepaper /Ref/ vorgelegt. Es fasst die ersten Ergebnisse einer interdisziplinären Zusammenarbeit zusammen, mit dem Ziel AI Systeme zu zertifizieren, damit sie ethischen und rechtlichen Normen genügen. Handlungsfelder sind:

  • Autonomie und Kontrolle
  • Fairness
  • Transparenz
  • Verlässlichkeit
  • Sicherheit
  • Datenschutz

 

Ref:

Zum Whitepaper

https://www.iais.fraunhofer.de/content/dam/iais/KINRW/Whitepaper_KI-Zertifizierung.pdf

 

[Total: 0    Average: 0/5]

Avatar

Gerhard Schimpf, the recipient of the ACM Presidential Award 2016, has a degree in Physics from the University of Karlsruhe. As a former IBM development manager and self-employed consultant for international companies, he has been active in ACM for over four decades. He was a leading supporter of ACM Europe, serving on the first ACM Europe Council in 2009. He was also instrumental in coordinating ACM’s spot as one of the founding organizations of the Heidelberg Laureates Forum. Gerhard Schimpf is a member of the German Chapter of the ACM (Chair 2008 – 2011) and a member of the Gesellschaft für Informatik. --oo-- Gerhard Schimpf, der 2016 mit dem ACM Presidential Award geehrt wurde, hat an der TH Karlsruhe Physik studiert. Als ehemaliger Manager bei IBM im Bereich Entwicklung und Forschung und als freiberuflicher Berater international tätiger Unternehmen ist er seit 40 Jahren in der ACM aktiv. Er war Gründungsmitglied des ACM Europe Councils und gehört zum Founders Club für das Heidelberg Laureate Forum, einem jährlichen Treffen von Preisträgern der Informatik und Mathematik mit Studenten. Gerhard Schimpf ist Mitglied des German Chapter of the ACM (Chairperson 2008 – 2011) und der Gesellschaft für Informatik.


Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.

WP2FB Auto Publish Powered By : XYZScripts.com