Künstliche Intelligenz, natürliche Dummheit

Wir alle haben sie schon erlebt: Eltern, die so vernarrt in ihren Nachwuchs sind, dass der nichts falsch machen kann. Ich meine: nichts. Das Gekrakel von Kindern, die ihren Wachsmalstift nicht gerade halten können, zeigt für solche Mamas und Papas, dass wir es mit einem Genie vom Range eines Rembrandts zu tun haben. Jede Fehlleistung belegt nur die gewaltige Begabung.

Hier ist natürlich die Rede von der Künstlichen Intelligenz, die scheinbar auch nichts falsch machen kann. Jeder vernünftige Mensch / Zeitungsleser weiß schließlich, dass sie gegenwärtig von Triumph zu Triumph eilt und sich anschickt, reihenweise Arbeitsplätze zu vernichten und sich nach und nach sämtliche intellektuelle Fähigkeiten des Menschen anzueignen. Geradezu grotesk klingt das bei Kai Schlieter. Das jüngste gescheiterte Experiment von Facebook, die einen natürlichsprachigen Chatbot für Verhandlungen entwickeln wollen, nahm er zum Anlass, in der Berliner Zeitung unter anderem folgendes vom Stapel zu lassen:

… Maschinen verwandeln Gehirnwellen in Postings, aus Facebook wird ein Bewusstseinskonzern, ein globales Netzwerk aus neuronalen Verschaltungen von Menschen und Maschinen …. Selbstlernende Software. Erschaffen aus exponentiell wachsenden Datenmassen und Rechenleistungen. … Diese Technik macht alle zuvor geschaffenen Werkzeuge überflüssig, weil sie deren Funktion automatisiert. Auch das wichtigste Werkzeug des Menschen: die Kognition, also Informationsverarbeitung. Juristen, Versicherungsangestellte, Journalisten verloren bereits ihre Jobs. KI ermöglicht die umfassendste Automatisierung von Arbeit in der Geschichte der Menschheit. … Selbstlernende Algorithmen erkennen Muster und Bilder besser als Menschen. … „Heute müssen wir Computer nicht mehr programmieren, sie programmieren sich selbst“, schreibt der Informatiker Pedro Domingos …

Und so weiter, und so fort. Ich verstehe schon, der angedrehte, geradezu apokalyptische Ton ist dem Feuilleton geschuldet. Mit drögem einerseits / andererseits kommst du heute nicht mehr weit. Mir geht es auch nicht darum, einen Kollegen auf dem Meinungsmarkt lächerlich zu machen, obwohl es in diesem Fall verlockend leicht fallen würde. Mir geht es um ein besseres, ideologiekritisches Verständnis: Welche Rolle spielt die Künstliche Intelligenz in der populären Vorstellungswelt?

Denn dieser Artikel ist nur ein extremes Beispiel für den Ton und die Tendenz der Berichterstattung über die plaudernden Bots insgesamt. Facebooks Software ist gedacht, um Tauschverhandlungen zu automatisieren. Sie optimiert ihre Äußerungen online entsprechend einer Belohnungsfunktion. Weil es sich aber um künstliche neuronale Netze (KNN) handelt, denen jedes Verständnis abgeht, was sie da äußern, wichen sie von der gängigen Syntax ab, wie Der Standard (in einem der besseren Artikel) berichtet:

So begannen die künstlichen Intelligenzen mit der Zeit, immer weiter von gewohntem Satzbau und Grammatik abzuweichen und eine eigene Sprachlogik zu entwickeln. Das führte zu Konversationsverläufen wie diesem:
Bob: "I can can I I everything else."
Alice: "Balls have 0 to me to me to me to me to me to me to me to me to."
Offenbar waren die Bots dazu übergegangen, bestimmte Satzelemente – hier "I", "can" und "to me" – für die Definition der Wertigkeit der virtuellen Güter einfach zu wiederholen.

Daraufhin beendete Facebook das Experiment. Dieser alltägliche Vorgang wurde in der Öffentlichkeit so interpretiert, als hätten die Bots eine Art Geheimsprache entwickelt, die zu schwierig für uns Menschen sei, und das Unternehmen habe sie abschalten müssen, bevor sich diese Intelligenz weiter verselbständige.

Facebook muss zwei Bots „töten“, weil sie offenbar eine eigene Sprache entwickelt haben. Einige Experten halten diese Versuche mit Künstlicher Intelligenz für sehr gefährlich – für die Menschheit.

Zugespitzt gesagt, die Forscher konnten eben noch den Stecker ziehen, weil die Singularität eingetreten wäre, wie die Transhumanisten sagen würden. Dass sich KNN nicht um die Gepflogenheiten der Grammatik scheren würden, war so absehbar, dass übrigens einige Informatiker vermuten, es könne sich um eine von Facebook geplante PR-Aktion gehandelt haben. Wahrscheinlich liegen sie da falsch. Dhruv Batra, einer der beteiligten Programmierer, äußerte jedenfalls glaubwürdig sein Entsetzen darüber, wie sehr sein Experiment missverstanden wurde.

I have just returned from CVPR to find my FB/Twitter feed blown up with articles describing apocalyptic doomsday scenarios, with Facebook researchers unplugging AI agents that invented their own language. ... I find such coverage clickbaity and irresponsible. While the idea of AI agents inventing their own language may sound alarming/unexpected to people outside the field, it is a well-established sub-field of AI, with publications dating back decades ... Analyzing the reward function and changing the parameters of an experiment is not the same as “unplugging” or “shutting down AI”. If that were the case, every AI researcher has been “shutting down AI” every time they kill a job on a machine.

Halten wir fest: Computer programmieren sich keineswegs selbst. Sie werden es auf absehbare Zeit nicht tun, jedenfalls gibt es keine Fortschritte, die solche Leistungen möglich erscheinen lassen. Die Erfolge der KNN bedeuten nicht, dass sie "Muster und Bilder besser erkennen" als Menschen. Zahlreiche Experimente haben gezeigt, wie viel Unsinn dabei herauskommen kann, wenn sie sich selbst überlassen bleiben - unter Umständen sehr gefährlicher Unsinn, aber nicht, weil solche Algorithmen zu schlau, sondern in einiger Hinsicht eben dumm wie Brot sind! Woher kommt die Kluft zwischen Automatisierungsphantasie und Automatisierungswirklichkeit? Ich kann nur vermuten ...

- Der vermeintliche technische Triumph liefert eine bequeme, konventionelle Erklärung dafür, dass Arbeitsplätze abgebaut werden und Überkapazitäten bestehen.

- Er korrespondiert mit der Perspektive der Unternehmer und Ingenieure, die immer schon aufgrund ihrer wunderbaren Maschinen ihre Beschäftigten für überflüssig oder wenigstens nebensächlich hielten.

- Er entspricht einer weit verbreiteten Geringschätzung für die Leistungen der lebendigen Arbeit - irgendwie verständlich, finde ich, angesichts der vielen bullshit jobs (David Graeber), und das heißt in der Konsequenz leider oft auch einer Selbstverachtung.

Aber die digitale Automatisierung der Arbeit erschöpft sich in nicht in Software. Die arbeitenden Menschen - jene "Juristen, Versicherungsangestellte, Journalisten", vor allem aber die Lastwagenfahrer, Industriearbeiter, Handwerker - werden nicht überflüssig, sondern in eine neue Rolle gebracht. Die neuen Automaten sind für sie Arbeitswerkzeuge. Ihre Arbeit wird (nach Möglichkeit) standardisiert, ihr Arbeitsfeld industrialisiert. Diese reale und konkrete Automatisierung - also nicht die, von der gegenwärtig so viel die Rede im Fernsehen und den Zeitungen ist - ist das Ergebnis eines verwickelten und voraussetzungsvollen Zusammenspiels von Technik, Recht und Politik. In "Automatisierung und Ausbeutung" habe ich diese Zusammenhänge etwas ausführlicher dargestellt.