Daniel Urban

Autor und Composer, Frankfurt am Main

2 Abos und 2 Abonnenten
Artikel

The trial of the Superdebthunterbot

Dass es das kapitalistische Wirtschaftssystem wie kaum etwas anderes versteht, technischen Fortschritt voranzubringen, ist eine Binsenweisheit, die in aktuellen Diskussionen über ebenjenes trotzdem immer wieder gerne vergessen wird. Während sich beispielsweise in den letzten Jahren ethische Diskussionen über sogenannte künstliche Intelligenzen, technische Singularität und Humanoide entspinnen, in denen mal mehr und mal weniger apokalyptisch über verschiedene Zukunftsmodelle sinniert wird, macht sich die Wirtschaft fröhlich daran – soweit es der tatsächliche technische Stand erlaubt –, die lernfähigen Programme ganz real zu implementieren: ob nun bei Kreditanträgen, Marketingauswertungen, oder mittels der viel bescholtenen Twitter- und sonstigen Social-Media-Bots. Das Beratungsunternehmen PricewaterhouseCoopers sieht dank der KI-Techniken das deutsche Bruttoinlandsprodukt bis 2030 um 11,3% steigen, und die amerikanische Society for Human Resource Management berichtete im letzten Jahr bereits davon, dass sich Anwaltskanzleien größerer Unternehmen, die Bewerbungs- und Mitarbeiterbeurteilungsverfahren zunehmend der KI überlassen,  schon auf Sammelklagen diesbezüglich vorbereiten.

Während sich erst im letzten Jahr eine EU-Experten-Kommission mit der Frage beschäftigte, wie nun genau ethisches Handeln einer künstlichen Intelligenz auszusehen habe, zeigte die britische Künstlerin Helen Knowles bereits 2016 in ihrer Videoarbeit „The Trial of Superdebthunterbot“, welche ganz konkreten Problemstellungen sich auftun könnten. Der gut 45-minütige Film basiert auf einer Performance, die die Künstlerin im Rahmen einer Ausstellungseröffnung in der Oriel Sycarth Gallery in Wrexham, UK inszeniert hatte. Ausgangspunkt der Arbeit: Die KI „Superdebthunterbot“ muss sich in einem Gerichtsprozess gegenüber dem Vorwurf des Totschlages verantworten. Im Auftrag eines Unternehmens, das dem britischen Staat fällige Studentenkredite abgekauft hatte, lag die Aufgabe des Computers darin, mitunter überaus zweifelhafte Jobangebote für die Schuldner zu finden, um bei diesen abzukassieren. Zwei der Schuldner vermittelte die KI an eine medizinische Studie, an deren Nebenwirkungen die Probanden verstarben. Hat sich der „Supedebthunterbot“ nun des Totschlags schuldig gemacht, hätte er die medizinische Studie auf Seriosität prüfen müssen? Die Künstlerin ließ die Juristen Oana Labontu Radu und Lauries Elks Plädoyers verfassen und vor Publikum vortragen, das anschließend als Jury das Urteil zu sprechen hatte.

Helen Knwoles, die in die Londoner arebyte Gallery mit ihrer umfassenden Multimedia-Installation „Trickle Down, A New Vertical Sovereignty“ gerade die Verteilungsprinzipien der Finanzwirtschaft in Augenschein nimmt, produzierte 2016 eine Videoversion der Performance: im Londoner Southwark Gerichtshof wurde die Arbeit wiederaufgeführt;  drei Kameras, eine Drohne und eine um den Kopf geschnallte GoPro kamen bei dem Dreh zum Einsatz.  Eine Gerichtsmitarbeiterin schiebt zu bedrohlich anmutenden Streicherklängen einen unscheinbar aussehenden Computer im Glasgehäuse einen langen Gang hin zum Gerichtssaal. Die Geschworenen werden von einem anderen Angestellten aufgeklärt, wie genau sie sich im Gerichtssaal zu verhalten haben. Bevor Anklage und Verteidigung ihr Plädoyer halten, fasst zunächst der Richter (Schauspieler Mark Frost) noch einmal die Beweisführung zusammen und macht deutlich, dass die Künstliche Intelligenz und nicht der Programmierer angeklagt seien. Anschließend begleitet die Kamera die Jury beim Beraten über das Urteil – die Diskussion hangelt sich entlang einiger Fragen, die ihnen das Gericht ausgehändigt hat: Kann man der KI Schuld zusprechen, handelt sie bewusst? Hat sie eine Sorgfaltspflicht für die Schuldner? Die Geschworenen sind sich uneins: Eine Frau möchte die KI allein deshalb schuldig sprechen, um ein Signal an Unternehmen, die selbstlernende Computer einsetzen, zu senden. Andere sprechen der KI Handlungsfreiheit und somit Schuldfähigkeit per se ab. Man spürt, wie sich die Fragen des fiktionalen Falles samt deren Implikationen Bahn brechen in die tatsächliche Realität: Wie sieht ein angemessener Umgang mit Maschinen aus, die als digitale Broker direkten Einfluss auf die Weltwirtschaft haben, oder aber in Unternehmen bei der Mitarbeiter-Evaluation für die Entlassung von Angestellten sorgen können?  Hat die KI vielleicht gar ähnliche Probleme wie ihr Schöpfer, der Mensch, der ja bekanntlich laut Schopenhauer nicht wollen kann, was er will?

Ähnliche Fragestellungen können einem auch bei Spike Jonzes Film „Her“ (2013) in den Sinn schießen, den Helen Knowles als weiteren Film im DoubleFeature zeigen wird. Der Film lässt sich vielleicht am besten als eine Art SciFi-Romanze beschreiben. Theodore Twombly (Joaquin Phoenix) arbeitet in einer nahen Zukunft für einen Dienstleister, der Briefe jeglicher Art – Glückwunschkarten und Dankesbriefe, Liebes- oder Kondolenzbriefe – für Klienten aufsetzt, die selbst nicht die richtigen Worte finden. In seinem in warmes Licht getauchtem Großraumbüro diktiert Towmbly so seinem Computer tagein tagaus anrührende Mitteilungen, während sein eigenes Privatleben in Scherben liegt: die langjährige Ehe ist in die Brüche gegangen, vereinsamt und desillusioniert kann er sich nicht dazu bringen, die Scheidungsunterlagen zu unterzeichnen. Als schließlich ein neues Betriebssystem, die künstliche, ausschließlich sprachgesteuerte Intelligenz OS 1, eingeführt wird, bahnt sich zwischen Theodore und der AI Samantha (Scarlett Johansson) langsam eine Liebesbeziehung an.

Spike Jonzes Film schert sich wenig um die großen technischen oder gesamtgesellschaftlichen Implikationen, die mit der Erschaffung einer künstlichen Intelligenz einhergehen. Vielmehr bleibt er beim Individuum, dessen Einsamkeit und Sehnsucht nach Liebe unter veränderten Vorzeichen in den Fokus gerückt wird. Ähnlich wie zu Beginn die AI staunt Theodore Twombly über das, was ihn da ausschließlich auf verbaler Ebene entzückt und sein Leben bereichert, hat aber keine Möglichkeit, sein Objekt der Begierde auch nur ansatzweise zu erfassen. Die körperliche Sensation einer Liebesbeziehung wird derweil so nah ans Gehirn geschoben, wie nur denkbar: ausschließlich durch das Ohr, das der menschlichen Schaltzentrale nächste Organ, ist der Partner erfahrbar, alle anderen Sinne verlieren zunehmend ihre Bedeutung. Die künstliche Intelligenz bei Helen Knowles, der Superdebthunterbot, hat dieses Problem schon ganz anders gelöst: seine Körperlosigkeit macht er durch die ihm vom Menschen zugesprochene Verantwortungsgewalt, von der er vermutlich selbst überhaupt gar keinen Begriff hat, wett, mittels derer er sowohl Geist als auch Leibhaftigkeit seiner Untergebenen ein für allemal auslöschen kann.


[Gekürzte Fassung im SchirnMag].

 

 

 

 

 

 

Zum Original