Blog

December 4, 2018

Selbstlernende Idioten

„Warum wir vor der KI keine Angst haben müssen – aber vor den Anwendern.“, erklärt unser TOI-Kollege Michael Leitl und bildet damit den Abschluss unserer Blogserie „Angst vs. Optimismus“.

Computer verblüffen uns heute oft mit magisch erscheinenden Leistungen. Der Einzelhändler Otto.de lässt seinen Bedarf an Lagerware von einer KI berechnen. Das macht sie so gut, dass auf Vorrat bestellte Ware verkauft wird, während sie noch auf dem Weg zu Otto ist. So muss sie gar nicht erst eingelagert werden. Der Betreiber einer New Yorker Harley Davidson Filiale nutzte eine KI, um neue Kundenkontakte zu bekommen. Er erhielt über 1000 Prozent mehr neue Interessenten. Google lässt schlecht belichtete Bilder per KI gut rechnen. Ärzte lassen Tomografien und Röntgenbilder von KIs nach bösen Tumoren durchforsten – mit beindruckendem Erfolg.

So faszinierend diese Erfolgsmeldungen sind, sie erzeugen auch Angst. Menschen fürchten um ihre Existenz, um die Gesellschaft oder gleich das Überleben der Menschheit. Je nach Studie fallen mehr oder weniger Jobs der Automation durch KI zum Opfer. Zum Beispiel in Großbritannien 7 Millionen bis 2037, laut einer Studie von PricewaterhouseCoopers. Andererseits werden etwa 7.2 Millionen neue Stellen im gleichen Zeitraum geschaffen: In den Sektoren Gesundheit, Forschung und Bildung.

Wovor muss man also wirklich Angst haben? Vor den Maschinen? Vor der Veränderung in der eigenen Biografie? Oder vielleicht eher vor denjenigen, die die neue Technik für ihre Zwecke nutzen bzw. missbrauchen?

Facebook setzt auf Algorithmen lernender Systeme, um die Verweildauer seiner Leser im Stream zu erhöhen. Das führt dazu, dass populistische News zunehmend nach oben in die Streams gespült werden. Botschaften, die polarisieren, werden geteilt und erfahren Aufmerksamkeit – die Nutzer bleiben auf der Plattform. Den Mechanismus haben sich unterschiedliche Gruppen zunutze gemacht: In Myanmar sehen Menschenrechtsorganisationen laut einer ZDF-Dokumentation die Ursache des blutigen Konflikts in der zunehmenden Hetze auf Facebook – angefacht durch den Algorithmus. (Quelle: https://www.zdf.de/dokumentation/zdfinfo-doku/datenkrake-facebook-das-milliardengeschaeft-mit-der-privatsphaere-102.html)

China setzt in hohem Maß auf das Sammeln, Kombinieren und Abgleichen von Daten – die Führung des Landes hat erkannt, dass das Potential von KI, komplexe Prozesse zu steuern, die Ineffizienz autoritärer Staatssysteme eliminieren kann. Was KI zum Segen von Produktionsprozessen macht, wird für überwachte Bürger von Diktaturen zum Fluch. (Institut für Innovation und Technik „Gute KI, böse KI?“)

Es kommt darauf an, was man daraus macht

KI an sich ist neutral. Sie hat kein Wertesystem, sondern funktioniert wie ein Megafon. Sehr anschaulich zeigen das die Erfahrungen mit dem selbstlernenden Chatbot Tay von Microsoft (Quelle: https://www.zeit.de/digital/internet/2016-03/microsoft-tay-chatbot-twitter-rassistisch), der sich zum Rassisten entwickelte, die Bilderkennung von Google, die sich als diskriminierend erwies und die KI-gestützte Personalsuche von Amazon, die Bewerbungen von Frauen systematisch aussortierte. (Quellen: https://www.reuters.com/video/2018/10/10/amazon-scraps-ai-recruiting-tool-showing?videoId=472114021, https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms)

Lernende Systeme verstärken vorhandene Muster in den Datensätzen, anhand derer sie lernen und wandeln sie in Arbeitsregeln um. An diesen Regeln orientieren sie sich und wenden die nun einprogrammierten Vorurteile systematisch an. Die Beispiele zeigen: Lernende Maschinen sind ein mächtiges Werkzeug. Sie können das Leben interessanter machen, unsere Möglichkeiten potenzieren und den Alltag vereinfachen. In den falschen Händen haben sie jedoch auch das Potential, unsere Gesellschaft zu zerstören.

Medienkompetenz als Pflicht

Wir müssen daher lernen, misstrauisch gegenüber den Ergebnissen dieser Giga-Kalkulationen zu sein. Je komplexer die Systeme, desto wahrscheinlich wird es sein, dass wir mit unerwarteten und unerwünschten Nebenwirkungen konfrontiert werden. Um diese zu erkennen und gegensteuern zu können, ist eine vertiefte Medienkompetenz so wichtig, wie das Erlernen der Grundrechenarten.

Bisher ist KI nicht mehr als eine Inselbegabung, ein künstlicher, fleißiger Idiot. Auf echte Kreativität im Sinne von Erfindungen, die getrieben werden durch Leidenschaft, Angst oder manischem Genie werden wir noch lange warten müssen. Wir bekommen dafür hervorragende Mustererkennung basierend auf vorhandenen Daten. Die Ergebnisse sind Kopien oder Extrapolationen der Vergangenheit – keine zukunftsweisende Originale. Zu diesem Ergebnis kommt auch der Kunstexperte Hanno Rauterberg in seiner Stellungnahme zur Versteigerung eines KI-Gemäldes bei Christie’s: „Es ist die tausendste Adaption von bestimmten Porträtmustern … Das Bild ist viel langweiliger als die Entstehungsgeschichte.“ Er bewertet es als „relativ belanglos“. (Quelle: https://www.deutschlandfunkkultur.de/kunstexperte-zur-versteigerung-eines-ki-gemaeldes-das-bild.1008.de.html?dram:article_id=431648)



Und hier alle weiteren Teile zur Blogserie: ANGST VS. OPTIMISMUS

Andrea machte den Anfang und stellte die Frage in den Raum „Wann bitte bekommt die breite Masse die Chance zum Digitalisierungsoptimismus?“. Eine erste pragmatische Antwort darauf gab Stefanie, gefolgt von Minjoo, die sich aus der Sicht einer Creative Coderin näherte und Tommaso. Karel plädiert in seinem Beitrag für eine Gemeinschaftsleistung, um Optimismus zu verbreiten, während Heiko im Interview auf die Verantwortung der Kreativen eingeht und auf frühkindliche Prägung – in gewissem Sinne – setzt.

Titelbild von Raj Eiamworakul auf Unsplash

Michael Leitl

Tools of Innovators

Studied chemistry in Reutlingen, was a long-time editor at “Harvard Business Manager”, cofounder of the Newsplatform Pocketstory and Member of the Innovationteam at “Der Spiegel”: Michael brings a wealth of knowledge and the journalistic point of view to the team of Tools of Innovators.

The
Mensch


click here for more:
NEWS, BLOG, EVENTS & THINKING