Browsed by
Schlagwort: United Nations

Hilfe oder Verhängnis – Die Zukunft von Robotik und AI

Hilfe oder Verhängnis – Die Zukunft von Robotik und AI

In den letzten Wochen haben viele Medien über die Sorgen von Elon Musk berichtet. Er sprach sich für präventive Regularien im Bereich Künstliche Intelligenz (auch: Artificial Intelligence oder kurz: KI bzw. AI) aus. Dazu haben vor einigen Tagen 116 Experten in einem Brief an die Vereinten Nationen gebeten, die Entwicklung und Nutzung von autonomen Waffensystemen zu verbieten. Unter diesen Begriff können viele Technologien fallen, aber das Beispiel, was einem selbst sofort einfällt, sind “Killerroboter” wie im Film Terminator aus dem Jahr 1984.

 

Sollte ‘Künstliche Intelligenz’ reguliert werden?

Elon Musk sagte schon mehrmals auf Konferenzen, als auch über Twitter, dass er die Notwendigkeit von präventiven Regularien im Bereich KI sieht. Diese Aussagen wurden von der Presse aufgenommen und publiziert, aber erst als Mark Zuckerberg in einem Live-Videochat die Sorgen von Elon Musk als nichtig darstellte, wurde das Thema von den Medien in den Fokus genommen. Es gab von jeder großen deutschen Tageszeitung Kommentare dazu.

Mark Zuckerberg sagte, dass er den Pessimismus nicht verstehe und KI selbst sehr optimistisch sehe. Zuckerberg nennt Beispiele: bessere Krankheitsdiagnostik durch KI, selbstfahrende Autos und folglich weniger Autounfälle. In seinem knapp zweieinhalb minütigen Kommentar gibt er nur wenige Beispiele. Die genannten Beispiele sind aber alle softwarebasiert. Zuckerberg hat Konzepte von Datenanalysen durch KI im Sinn, wenn er optimistisch darüber denkt. Es ist keine Frage, dass er dort Recht hat.

Elon Musk hingegen sieht dies nicht nur aus dem Aspekt der Software. So hart es klingt, Mark Zuckerberg kennt nur die informationsbasierten Möglichkeiten, doch Elon Musk hat durch seine Firmen auch die ingenieurwissenschaftlichen Möglichkeiten kennen gelernt. Der Gedanke hinter Elon Musk Sorge ist, dass KI in einer Zukunft (vielleicht in fünfzig oder hundert Jahren) den Menschen als Problem sehen könnte. Maschinen arbeiten logisch und wenn der Mensch als Problem in einem System entdeckt werden sollte, wird er daraus eliminiert. Isaac Asimov hat schon 1942 in seiner Kurzgeschichte Gesetz für Roboter festgelegt:

  1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.

  2. A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.

  3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.

Und diese Gesetze sollte man nicht als Science-Fiction-Literatur abtun, denn Asimov hat einige der größten Entwicklungen der letzten Jahrzehnte in seinen Büchern und weiteren Publikationen vorausgesagt. Regularien können bzw. würden natürlich die Entwicklung einschränken und so einen potenziellen Fortschritt verhindern. Oren Etzioni (Allen Institute for Artificial Intelligence) hat in der New York Times seine Meinung über den Brief geäußert und fordert ebenfalls Regularien. Er gibt drei Empfehlungen auf Basis der Gesetz von Asimov:

  1. First, an A.I. system must be subject to the full gamut of laws that apply to its human operator.

  2. My second rule is that an A.I. system must clearly disclose that it is not human.

  3. My third rule is that an A.I. system cannot retain or disclose confidential information without explicit approval from the source of that information.

Ich bin der Meinung von Elon Musk und Oren Etzioni. Es gibt dutzende Beispiele dafür, dass Regierungen viele Technologien erst im Nachhinein regulieren und nicht präventiv handeln. Zum einen kann man dies als wirtschaftspolitische Maßnahme ansehen, zum anderen liegt es an der Trägheit der politischen Systeme.

 

Verbot von autonomen Waffensystemen?

Das Verbot von autonomen Waffensystemen leuchtet vielen Menschen sofort ein. Niemand möchte “Killer-Roboter”, doch die Regierungen waren bis jetzt auch in diesem Bereich nicht an Regularien interessiert. Eine Entwicklung und Nutzung von solchen Waffensystemen würde eine Verschiebung des Status-Quo bedeuten – wie der Einsatz von Giftgas im ersten Weltkrieg oder der Einsatz der Atombomben im zweiten Weltkrieg.

Die Vereinten Nationen haben eine erste Diskussion darüber eröffnet und der Brief wurde nun aufgrund dieser ersten Diskussionen geschrieben. Rüstungskonzerne und Ministerien verschiedener Länder arbeiten schon lange an autonomen Waffensystemen. Das Aufsehen erregendste Unternehmen in diesem Bereich ist das amerikanische Unternehmen Boston Dynamics. Ehemals ein Tochterunternehmen von Alphabet, nun Teil des japanischen Softbank-Konzerns.

Boston Dynamics wurde lange Zeit durch Forschungsaufträge des amerikanischen Verteidigungsministeriums bezahlt. In jenen Projekten entstanden Roboter mit habitueller Bipedie (Aufrechter Gang) und habitueller Quadrupedie (Vierbeiner). Alle entwickelten Roboter sind keine Waffensysteme aber die lassen sich sehr schnell mit solchen ausstatten. Die große Entwicklung im Bereich von humanoiden Robotern für Konfliktsituationen war der aufrechte Gang. Nun wurde diese Hürde geschafft und die nächste große Entwicklung ist ein durch KI gesteuerter humanoider Roboter. Dies wird wieder einige Jahrzehnte dauern, aber wie oben schon genannt, sind die Technologien an sich nicht besorgniserregend, sondern ihre Kombination.

Neben solchen humanoiden Robotern verlangen die Verfasser des Briefes auch das Verbot von autonomen Waffen und Drohnen. Semi-autonome Waffen gibt es schon, beispielsweise ein Lenkflugkörper (salopp auch “fire and forget” genannt). Diese Lenkflugkörper suchen sich den Weg zum Ziel selbst, nur das Angriffsziel muss vorher festgelegt werden. Autonome Drohnen sind noch nicht bekannt, aber ferngesteuerte Drohnen sind schon seit Jahren im Einsatz.

Ein Verbot aus moralischer Sicht ist einleuchtend, doch auch wie bei KI gibt es hier das Argument, dass ein Verbot Auswirkungen auf die Forschung und Entwicklung von autonomen Systemen haben wird. Nicht nur im militärischen Sektor, sondern auch im Privatsektor. Es gibt dutzende militärische Entwicklungen, die es in das Alltagsleben des Menschen geschafft haben. Das Offensichtlichste ist natürlich das was Sie bzw. ich gerade nutzen: das Internet.

Wie gesagt, bin ich der Meinung von Elon Musk, aber um die Forschung und Entwicklung beider Technologien nicht zu gefährden, sollten die regulatorischen Maßnahmen so gering wie möglich ausfallen. Der Ankerpunkt solcher Regularien sollte ein Verbot der Kombination von künstlicher Intelligenz und autonomen Waffensystemen sein. Und zwar ausnahmslos.

Auch haben Wissenschaftler aller Naturwissenschaften eine moralische Verpflichtung ihre Forschung und deren Ergebnisse nicht als Waffe instrumentalisieren zu lassen. Solch eine Instrumentalisierung geschah im ersten und zweiten Weltkrieg durch Patriotismus und Chauvinismus.

 

Etablierte Hersteller haben den Brief nicht unterschrieben

Die großen Roboterhersteller wie ABB, Fanuc oder Kuka haben den Brief nicht unterschrieben, nur ein Deutscher – Marcus Frei, Gründer von NEXT.Robotics – hat ihn unterschrieben. Der bekannteste Unterzeichner der Robotikindustrie ist Gründer und derzeitiger CTO von Universal Robots: Esben Østergaard. Und DeepMind-CEO Suleymann ist dort nicht als Google-Mitarbeiter aufgeführt, genauso wenig das DeepMind ein Tochterunternehmen von Alphabet ist. Die Liste der Unterzeichner ist ein Mix aus AI- und Robotik-Startups und es werden keine Institutionen wie Universitäten oder Forschungseinrichtungen genannt, obwohl unter den Unterzeichnern einige Professoren und wissenschaftliche Mitarbeiter mit Schwerpunkt KI oder Robotik sind, wie Francesco Mondada (Professor an der EPFL Lausanne).

Der Brief ist ein weiterer Schritt in die richtige Richtung, um eine Debatte über Robotik und AI zu fördern. Durch diesen Brief ist die Debatte auch zum ersten Mal auch außerhalb von Fachkreisen geführt worden und dies ist sehr positiv anzusehen.

Während ich diesen Artikel geschrieben habe, wurden noch einige Aussagen bspw. von Elon Musk und Putin über AI getätigt, welche leider nicht mehr diskutiert werden konnten. Es gibt seit dem Brief an die UN einen Dammbruch zum Thema AI und täglich äußern sich weitere Personen des öffentlichen Lebens dazu.