"Die Roboter wissen nicht, was sie tun"

Schon befremdlich, einer zoomorphen Maschine beim Twerken zu zusehen ...

In der Süddeutschen weist Michael Moorstedt darauf hin, dass die so beliebten Roboter-Vorführungen nicht halten, was sie versprechen. Er erwähnt insbesondere die jüngste Vorführung von "Pepper" im britischen Parlament.

Sämtliche Fragen und Antworten, die im Verlauf der Konversation mit Pepper fielen, waren im Vorhinein abgemacht worden und dem Roboter fest eingeschrieben worden. Der Automat wurde per Smartphone-Kommando gesteuert.

Geschichte wiederholt sich. Vor zwei Jahren habe ich in meinem Buch "Automatisierung und Ausbeutung" ausführlich die Faszination der veremeintlich denkenden Maschine untersucht. Sie nahm im 18. Jahrhundert mit Automaten wie dem Schachtürken ihren Anfang. Ich schreibe dazu im Kapitel "Kunstfertige Hochstapler":

Wenn die Automaten in die Öffentlichkeit treten, geschehen merkwürdige Dinge. Ihre Selbsttätigkeit erregt die Phantasie der Menschen so stark, dass es auf Details nicht anzukommen scheint. Die mehr oder weniger eingestandene Hochstapelei in der KI-Forschung und Robotik hat eine lange Geschichte. Wer einmal auf dieses Muster aufmerksam wurde, entdeckt es plötzlich überall, quer durch die Jahrhunderte.

... Um die Öffentlichkeit zu beeindrucken und den Eindruck von Leben und Autonomie zu erwecken, setzen die Automatenbauer die neueste Technik und die besten Herstellungsverfahren ein. Vaucanson beispielsweise gehörte zu den ersten, die eine mechanische Ablaufsteuerung benutzen. Kempelen nutzte Magnetismus zur Signalübertragung ins Innere des Schachautomaten. Die Automaten sind täuschend echt, aber eben auch echte Täuschungen. Dieses technikgeschichtliche Muster hat die überraschende Pointe, dass die Hochstapelei die technische Entwicklung voran bringt.

Wenn ich Anfang des 21. Jahrhunderts zurückschaue auf die vermeintlich intelligenten Automaten, von NAO über Eric Robot bis zum Schachtürken, kommt es mir vor, als sei es in diesem besonderen Fall nicht wahr, dass Geschichte sich nicht wiederholt. Die Argumente und die Akteure in der öffentlichen Debatte gleichen sich aufs Haar. Techniker versprechen mehr, als sie halten können, dem einfachen Volk und den Gebildeten bleibt vor Staunen der Mund offen stehen. Zwischen ihnen: Journalisten.

Die Automaten müssen nicht perfekt sein, um diese Wirkung zu haben. Das Publikum ahnt oder weiß sogar, dass die Erfinder Hochstapelei betreiben, aber fühlt sich nicht betrogen, sondern goutiert die Automaten wie einen Science-Fiction-Roman. Als der Schachtürke im Jahr 1784 in London präsentiert wurde, errieten einige Besucher sofort, dass in dem Apparat ein Mensch verborgen sein musste. Auf seiner Tournee durch die Vereinigten Staaten beobachteten in der Stadt Baltimore zwei Jugendliche vor der Vorführung, wie der Spieler in den Apparat hineinkletterte. Eine lokale Zeitung veröffentlichte diese Information. Aber das hinderte den Dichter Edgar Allan Poe nicht daran – der diesen Artikel möglicherweise sogar kannte! – einen länglichen Essay über die Mechanisierung des menschlichen Geistes zu verfassen. Die Automaten erregen eben unsere Fantasie über alle Maßen, und gerade ihre Unzulänglichkeiten sind das Langweilige an ihnen.

Und jetzt, nach ungefähr zwanzigtausend Artikeln über die rasenden Fortschrtte der Künstlichen Intelligenz erste Absatzbewegungen bei einem Leitmedium wie der Süddeutschen. Und was sagt der Artikel noch?

Ähnlich agiert auch der Roboterhersteller Boston Dynamics. Die ehemalige Google-Tochter veröffentlicht hin und wieder Videos, in denen ihre Roboter sagenhafte Dinge vorführen, etwa über einen Hindernisparcours laufen. Die meisten Zuschauer gehen davon aus, dass die Maschinen autonom handeln, und so finden sich in den Kommentarspalten zuverlässig Warnungen vor dem baldigen Aufstand der Roboter. Wie der Gründer nun zugab, zeigten die Aufnahmen jedoch das "typischerweise beste Verhalten". Heißt: Genau wie Pepper werden die Roboter ferngesteuert. Trotzdem brauchen sie bis zu 20 Versuche, bis die Aufnahme sitzt.

Und ich so, vor gut zwei Jahren:

Über 19 Millionen Mal wurde dieses Video (von Boston Dynamics) betrachtet; viele Nachrichtenmedien nahmen es zum Anlass, über die rasenden Fortschritte der Robotik zu berichten. Einige Spielverderber wiesen allerdings darauf hin, dass der etwa zweieinhalb Minuten lange Film überraschend viele Schnitte enthält, weil die Firma die Stürze des Roboters und seine Fehlversuche der Weltöffentlichkeit lieber vorenthält.

Erfolgreiche Journalisten reiten auf dem Hype wie auf ein Surfer auf einer Welle. Ich lerne das wohl nie.

Vor dem Epochenbruch

Gestern Abend brachte Andruck / Deutschlandfunk Kultur meine Lobpreisung von „Entwertung – Ein Geschichte der Welt in sieben billigen Dingen“ von Jason Moore und Raj Patel. „Ein Buch zur Zeit“, lautet mein abschließendes Urteil – und das ist „Entwertung“ wirklich, in mehrfacher Hinsicht. Letzten Samstag wurde gemeldet, dass Thyssen-Krupp und die BASF ihre Produktion zurückfahren müssen, weil der Pegel des Rheins niedrig ist wie nie zuvor. Wenn die deutschen Flüsse in Zukunft immer seltener zum Gütertransport zu gebrauchen sind, wird die Industrie auf Anlieferung über die Straßen ausweichen – also noch mehr Treibhausgase produzieren und die Klimaerwärmung weiter vorantreiben.

Weitere Beispiele lassen sich mühelos finden, deprimierend mühelos: Kippelement im prekären Verhältnis zwischen natürlichen Lebensgrundlagen und kapitalistischem Wachstum. Moore und Patel stellen die entscheidende Frage und dies mit der nötigen Ernsthaftigkeit: Wenn das kapitalistische Weltsystem sich als unfähig erweist, auf die Klimaerwärmung zu reagieren – und bis jetzt gibt es keinen Hinweis, dass es dazu in der Lage sein wird – was kommt dann?

Die Autoren von „Entwertung“ teilen nicht die Vorstellung, dass der Klimawandel über uns hereinbricht wie eine einzige große Naturkatastrophe. Aber sie verweisen mit Recht darauf, dass die notwendigen Anpassungsmaßnahmen unvereinbar sind mit den Wachstumsstrategien der letzten fünf Jahrhunderte. Das kapitalistische Weltsystem hat seine Entwicklungsmöglichkeiten erschöpft, so lautet ihr Fazit. Eine neue technisch-industrielle Revolution in der Naturaneignung ist nirgendwo in Sicht, weder die Digitalisierung, noch die Gentechnik auf dem Acker bieten dem Kapital einen Ausweg. Ein Zusammenbruch scheint daher deutlich wahrscheinlicher als ein ökologisch reformierter „Grüner Kapitalismus“. Diese These stößt auf starke Abwehr, auch unter Linken. Ich sage: Wer sie nicht teilt, muss Fakten beibringen.

Deshalb empfehle ich „Entwertung“, aber das Buch hat auch Schwächen. Die eine ist, dass die Autoren mit einigen stilistischen Mätzchen versuchen, ihre Grundannahmen an die Leser zu bringen. Aber weil sie die Theorie hinter ihrer Erzählung nicht erklären, wirken grundlegende Zusammenhänge wie bloße Behauptungen. Etwa das historische Muster, dass Arbeitskosten und Ressourcenpreise teurer werden, bis neue Gebiete und Stoffe in das Weltsystem integriert werden. Moore und Patel übernehmen diese Beobachtung aus der Weltsystem-Analyse (Immanuel Wallerstein, Giovanni Arrighi, Beverly Silver ...), aber sie erklären das nicht. Deshalb überzeugen sie nur diejenigen, die ihre Positionen ohnehin bereits teilen.

Überhaupt, ein populäres Sachbuch muss wie ein Motorroller sein, der schnell, elegant und wendig sein Ziel erreicht. Zu diesem Zweck darf man ihn nicht überladen. Leider wollen Moore und Patel dem Leser ganze LKW-Ladungen zustellen, aber sozusagen ohne dass er es bemerkt. Das geht schief und sie bleiben auf dem Weg öfter mal stecken.

Ich habe schon früher versucht, Jason Moores Arbeiten und seinen Ansatz in Deutschland bekannt zu machen (mit einer Übersetzung und einem Interview). Jason zeigt in seinen Untersuchungen, dass die kapitalistische Entwicklungsdynamik (= Krisendynamik) eine ökologische Seite hat. Neue Formen der Naturaneignung sind ebenso wichtig wie industrielle Revolutionen oder mit diesen verbunden. Das ist eine wichtige Erkenntnis.

Das Problem an Jasons Ansatz ist allerdings aus meiner Sicht, dass er gleichzeitig eine Art Feldtheorie der kapitalistischen Entwicklung und eine Dekonstruktion des Natur- und Menschenbegriffs sein soll. Daher das nervige und beharrliche Sägen an der Differenz zwischen menschlicher und nicht-menschlicher Natur, das er von seiner Gewährsfrau Donna Haraway übernimmt. „Weltökologische Perspektive = Weltsystemanalyse + Postmoderne“ urteilt Christian Stache kürzlich in dem Online- Magazin „Kritisch lesen“. Das ist allzu harsch (weil noch eine fundierte Umwelt- und Agrargeschichte hinzukommt), aber im Kern richtig.

Natur wird bei Moore nicht nur de facto ideologisch „vergesellschaftet“, d.h. als Produkt sozialer Beziehungen aufgefasst, damit ihrer relativen Unabhängigkeit und Eigenständigkeit beraubt und mit verdinglichten gesellschaftlichen Relationen – der sogenannten zweiten Natur – vermengt.

Kurz, Jasons Weltökologie leidet darunter, dass er sie einer unausgegorenen Erkenntnistheorie überfrachtet. Ihr starkes Moment ist der holistische Ansatz einer Geschichte der kapitalistischen Naturaneignung und gesellschaftlichen Entwicklung - eine Entwicklung, die in die Sackgasse geraten ist.

Q: Wie bringe ich das Schlechste in einem Journalisten zum Vorschein?

A: Ich bezahle ihn entsprechend der Clicks (oder Click-Throughs).

Web.de erreicht neue Untiefen.

"Die Wildwest-Zeiten in den Sozialen Medien beenden"

Was tun gegen die Meinungsmacht der großen Sozialen Medien Facebook, Twitter und Google? Mein Feature "Neue Regeln für Internetkonzerne" lief gestern Abend bei Zeitfragen / Deutschlandfunk.

Die Gemengelage in der neuen Regulierungsdebatte ist komplex. Warum rufen Politiker in Europa nach mehr Aufsicht? An dem Geschäftsmodell der Plattformen kann das nicht liegen, denn das ist gleich geblieben: möglichst viele, möglichst aussagekräftige Nutzerdaten sammeln und veräußern. Als unfein oder fragwürdig gilt dies gilt erst, seit den politischen Eliten klar wurde, welche Macht die Sozialen Netzwerke bergen. Die russische Einflussnahme auf den amerikanischen Wahlkampf, später die Enthüllungen über die Datenanalyse-Firma Cambridge Analytica, wecken bei ihnen Ängste vor Desinformation, gezielt gestreute Gerüchte und Propaganda aus dem Ausland.

Bei den Initiativen auf EU-Ebene gegen die amerikanischen Anbieter Google und Facebook wiederum geht es weniger um Datenschutz oder Medienpolitik als um eine "digitale Industriepolitik". Europäische Plattformen sollen zu "Weltmarktchampions" werden, die irgendwann der amerikanischen Konkurrenz entgegentreten können. Man wolle "starke deutsche und europäische Akteure der Plattformökonomie", heißt es beispielsweise im Koalitionsvertrag der Bundesregierung. Gleichzeitig fürchtet gerade die deutsche Regierung und das deutsche Kapital (wegen ihrer extremen Exportabhängigkeit), dass die Handelskonflikte mit den USA eskalieren könnten, wenn die amerikanischen Konzerne wirksamer besteuert oder behindert würden.

Wäre ein europäisches Youtube besser als ein amerikanisches? Was wäre gewonnen, wenn deutsche Geheimdienste statt amerikanischer den Informationsfluss kontrollieren? Meine bescheidene Meinung: Wir brauchen echte Alternativen, "ein neuer Typus öffentlicher Institutionen, die physische und softwaretechnische Infrastruktur aufbauen und betreiben, ohne die private Aneignung von Gewinnen oder den Durchgriff der Exekutive zuzulassen", wie es Rainer Fischbach formuliert hat. Diese Netze müssten unabhängig von Staat und Parteiendemokratie sein, aber dennoch aus Steuermitteln oder Gebühren finanziert werden. Sie könnten auf personalisierte Werbung verzichten, könnten datensparsamer funktionieren und den Nutzerinnen und Nutzern transparente Filtermöglichkeiten bieten.

Labour-Parteichef Jeremy Corbyn hat übrigens vor kurzem medienpolische Forderungen und Ideen präsentiert, die in die richtige Richtung gehen: die journalistische Unabhängigkeit sichern, kommerzielle Interessen und die Einflussnahme finanzstarker Interessensgruppen zurückdrängen, alternative Medienproduzenten fördern.

Für eine sachgerechte Algorithmen-Kritik

Die Rosa-Luxemburg-Stiftung hat meinen Überblick über Tendenzen bei der polizeilichen Internetauswertung veröffentlicht. Darin geht es insbesondere um SOCMINT – Social Media Intelligence, vulgo: Facebook, Twitter oder Whatsapp. Die kürzlich festgenommenen Rechtsterroristen aus der Region Chemnitz wurden übrigens in erster Linie wegen ihrer Telegram-Kommunikation überführt - dies nur als Beleg, dasss SOCMINT mittlerweile praxisrelevant ist!

Massendaten aus dem Internet werden für die Polizei und die Nachrichtendienste immer wichtiger. Mithilfe von Software wie Palantir verbinden die Behörden sie mit eigenen und externen Datenbanken. Big Data Überwachung nennt das treffend die Soziologin Sarah Brayne.

In dem Text für die Rosa-Luxemburg-Stiftung konnte ich auf viele Aspekte nicht eingehen. Einer von ihnen ist die sogenannte algorithmische Diskriminierung. Ich möchte das an dieser Stelle nachholen, weil sich um die Bedeutung der Algorithmen und ihre "Fairness" oder "Ungerechtigkeit" alle möglichen Mystifikationen und Missverständnisse ranken – und andererseits die Digitalisierung der Polizeiarbeit in Wirklichkeit durchaus Chancen für mehr Bürgerrechte und eine demokratisch kontrollierte Polizei bietet, die aber wegen des pauschalen Algorithmen-Bashings überhaupt nicht sichtbar werden.