Honorary Mention
Anatomy of an AI System ist eine groß angelegte Karte und ein detailliertes Essay, welches die menschlichen Arbeits-, Daten- und Planetenressourcen untersucht, die für den Bau und Betrieb eines Amazon Echo erforderlich sind. Die Explosionszeichnung kombiniert und visualisiert drei zentrale, extrahierte Prozesse, die für den Betrieb eines groß angelegten künstlichen Intelligenzsystems erforderlich sind: materielle Ressourcen, menschliche Arbeitskraft und Daten. Die Karte und das Essay betrachten diese drei Elemente über die Zeit hinweg, als eine visuelle Beschreibung der Geburt, des Lebens und des Todes einer einzigen Amazon Echo-Einheit.
In diesem Moment des 21. Jahrhunderts sehen wir eine neue Form der Ausbeutung, die weit fortgeschritten ist und in die äußersten Ecken der Biosphäre und die tiefsten Schichten des menschlichen kognitiven und affektiven Wesens reicht. Viele der von maschinellen Lernsystemen getroffen Annahmen über das menschliche Leben sind begrenzt, normativ und mit Fehlern behaftet. Doch sie schreiben und bauen diese Annahmen in eine neue Welt ein und werden zunehmend eine Rolle bei der Verteilung von Chancen, Reichtum und Wissen spielen.
Der für die Interaktion mit einem Amazon Echo benötigte Stack geht weit über den vielschichtigen „Technical Stack“ von Datenmodellierung, Hardware, Servern und Netzwerken hinaus. Der volle Stack reicht viel weiter in Kapital, Arbeit und Natur hinein und erfordert enorme Ressourcen von alledem. Die tatsächlichen Kosten dieser Systeme – soziale, ökologische, wirtschaftliche und politische – bleiben verborgen.
Wir bieten mit dieser Karte und diesem Essay eine Möglichkeit, um zu beginnen, eine größere Bandbreite von Systemextraktionen zu überblicken. Die für den Aufbau von Systemen der künstlichen Intelligenz erforderliche Größenordnung ist zu komplex, zu unklar durch das Recht des geistigen Eigentums und zu kompliziert in der Logistik, um im Moment vollständig verstanden zu werden.
Credits
Karten und Design: Vladan Joler und Kate Crawford
Herausgeber: SHARE Lab, SHARE Foundation and The AI Now Institute, NYU
Kate Crawford ist eine vielfach veröffentlichte Forscherin, Wissenschaftlerin und Autorin, die sich seit über einem Jahrzehnt mit großen Datensystemen, maschinellem Lernen und künstlicher Intelligenz beschäftigt. Sie ist Mitbegründerin und Co-Direktorin des AI Now Institute der NYU, das Forschungen zu den sozialen Auswirkungen künstlicher Intelligenz durchführt. Sie ist eine angesehene Forschungsprofessorin an der New York University und Principal Researcher bei Microsoft Research New York. Im Jahr 2016 war sie in der Leitung des Obama White House Symposiums über die sozialen und wirtschaftlichen Auswirkungen von KI. Sie hat in vielen wissenschaftlichen Zeitschriften veröffentlicht und politische Entscheidungsträger bei der Europäischen Kommission, den Vereinten Nationen, der Federal Trade Commission und der City of New York beraten. Im Jahr 2018 wurde sie für ein Richard von Weizsäcker-Stipendium an der Robert Bosch Akademie in Berlin ausgewählt.
Vladan Joler ist Gründer und Professor der SHARE Foundation an der Abteilung für Neue Medien der Universität Novi Sad. Er leitet das SHARE Lab, ein Forschungs- und Datenuntersuchungslabor zur Erforschung verschiedener technischer und sozialer Aspekte der algorithmischen Transparenz, der digitalen Arbeitsausbeutung, unsichtbarer Infrastrukturen, Blackboxen und vieler anderer zeitgenössischer Phänomene an der Schnittstelle zwischen Technologie und Gesellschaft.
Jury Statement
Es ist ein führendes politisches Axiom unserer Zeit, dass die Zukunft jenen gehört, die die Technologien der Künstlichen Intelligenz am besten nutzen. Das Projekt Anatomy of an AI System hofft, einen anderen Pfad zu konstruieren. In dieser Zusammenarbeit zwischen Kate Crawford, einer der weltweit führenden KI-Forscherinnen des KI Now Institute der New York University, und Vladan Joler, einem Künstler der SHARE-Stiftung, werden digitale KI-Assistenztechnologien wie dem Amazon Echo als neue Formen der Ausbeutung entlarvt. Die unmittelbare Abhängigkeit von menschlicher kognitiver und affektiver Arbeit erstreckt sich auf Fragen rund um Kapital, körperliche Arbeit und die natürliche Welt. Das Projekt thematisiert, wie trotz ihrer wachsenden Allgegenwart, die tatsächlichen sozialen, ökologischen, wirtschaftlichen und politischen Kosten dieser Technologien noch unbekannt sind.
KI wird bereits in einer Weise eingesetzt, die Ungleichheiten verschärft und die globalen Demokratien zunehmend bedroht. Sie stellt aber auch eine der größten Chancen der Menschheit dar, akute epochale Herausforderungen wie den Klimawandel oder einen gerechten Zugang zur Gesundheitsversorgung zu lösen. Trotz der spürbaren Tatsache, dass die künstliche Intelligenz unsere Gesellschaften bereits heute tief prägt und die menschliche Erfahrung grundlegend verändert, wurde sie bisher weitgehend von privaten Unternehmen ohne öffentliches Bewusstsein oder Zustimmung entwickelt, eingesetzt und vor einer kollektiven Sichtweise als eine Form des „geistigen Eigentums“ abgeschirmt. Durch die detaillierte, hochauflösende Karte ermöglicht uns Anatomy of an AI System einen besseren Überblick über die verschiedenen Systemextraktionen, die den aktuellen Anwendungen dieser Technologie zugrunde liegen. Dadurch werden wir aufgefordert, uns mit den ethischen, rechtlichen, sozialen und wirtschaftlichen Auswirkungen der derzeitigen Nutzung von KI auseinanderzusetzen und wie wir wiederum neue Formen der künstlichen Intelligenz entwickeln und einsetzen könnten, in denen die Ressourcen und späteren Anwendungen dieser leistungsstarken Algorithmen offen und gerecht bleiben können.