Primavera De Filippi über Protokollkunst, autonome Kunstwerke und die sich wandelnde Rolle des Künstlers.
Eine Ausstellung in Venedig wirft die Frage auf, ob eine Kunstform, die bereits vor der generativen KI existierte, endlich einen Namen braucht. Seltsame Regeln, die derzeit im Palazzo Diedo zu sehen ist und von Mat Dryhurst, Holly Herndon und Hans Ulrich Obrist in Zusammenarbeit mit Adriana Rispoli kuratiert wurde, vereint Künstler, deren Arbeit sich um Protokolle dreht: Regeln und Systeme, die von anderen Menschen, Maschinen oder Technologien ausgeführt werden können. Da generative KI zunehmend in der Lage ist, das endgültige Werk selbst zu produzieren, hat die Frage, wer die Regeln erstellt und wer oder was sie ausführt, neue Dringlichkeit erlangt.
Primavera De Filippi beschäftigte sich schon lange mit diesen Fragen, bevor die Protokollkunst zum Thema einer Ausstellung wurde. Als Künstlerin, Rechtswissenschaftlerin und Forscherin im Bereich Governance begann sie, Plantoid im Jahr 2014, noch bevor Ethereum überhaupt an den Start gegangen war, und begann später, sich mit dem zu beschäftigen, was sie heute als „Protokollkunst“ bezeichnet. Plantoid verleiht vielen dieser Ideen eine greifbare Form: Seine mechanischen, pflanzenähnlichen Skulpturen existieren teilweise auf der Ethereum-Blockchain und ernähren sich von Kryptowährung statt von Wasser. Im Gegenzug produzieren sie digitale Samen. Sobald ein Plantoid Hat es genug Geld angesammelt, kann es zu Einreichungen aufrufen und schließlich einen Menschen damit beauftragen, seinen Nachkommen zu erschaffen. Plötzlich werden scheinbar futuristische Fragen zu praktischen: Wer ist der Urheber, wenn ein Kunstwerk einen Menschen damit beauftragt, es zu reproduzieren? Kann ein Kunstwerk einen Vertrag abschließen? Und wie autonom ist ein autonomer Künstler, wenn sein Schöpfer ihn weiterhin am Leben erhalten muss?
Im Gespräch mit Anika Meier für SLEEK erklärt Primavera de Filippi, was Protokollkunst ist und warum sie gerade jetzt von Bedeutung ist, was die Blockchain und der NFT-Boom über die Grenzen dezentraler Governance offenbart haben und wie KI die Rolle des Künstlers verändert. Außerdem spricht sie über ihre neuesten Forschungen zum Thema “kognitive Souveränität”: ob generative KI unsere Vorstellungskraft erweitert oder uns auf das beschränkt, wofür wir bereits Begriffe haben, und ob wir unsere Beziehung zu Maschinen insgesamt neu überdenken müssen.
Anika Meier Primavera, bereits 2017 hast du über die Blockchain geschrieben und darüber, dass wir ihr vertrauen könnten. Doch schon damals schienst du einigen der utopischen Versprechungen, die mit dieser Technologie verbunden waren, skeptisch gegenüberzustehen. Was hast du damals in Frage gestellt, und woher kam diese Skepsis?
Primavera De Filippi Ich war vor allem deshalb skeptisch, weil ich mich mit Governance befasse und stets vorsichtig bin, wenn behauptet wird, dass Technologie Vertrauen und Governance überflüssig machen würde. Auch sogenannte „trustless“ Plattformen verfügen nach wie vor über Governance-Strukturen. Viele stützen sich beispielsweise auf tokenbasierte Abstimmungen; wenn man also genügend Token kauft, erlangt man erhebliche Einflussmöglichkeiten auf die Governance. Und durch Pseudonymität weiß man möglicherweise gar nicht, wer die Kontrolle ausübt, da sich diese Person auf mehrere Identitäten aufteilen kann. Governance wird nicht abgeschafft. Sie verlagert sich lediglich an neue Orte, und wir müssen beobachten, wohin sie sich entwickelt.
AM Apropos Governance und Vertrauen: Was war das große Versprechen der Blockchain?
PdF Die Blockchain wurde ins Leben gerufen, um Finanztransaktionen zu dezentralisieren. Das Problem mit Geld im Internet ist, dass alles Digitale grundsätzlich kopiert werden kann. Bislang haben wir uns auf zentralisierte Institutionen verlassen – seien es Banken, PayPal oder andere Vermittler –, um sicherzustellen, dass digitales Geld nicht dupliziert wurde. Mit der Blockchain ist es erstmals möglich, Geld über das Internet zu senden, ohne sich zur Überprüfung der Transaktion auf eine zentralisierte Institution verlassen zu müssen. Daher rührt auch die Vorstellung, dass die Blockchain “vertrauenslos” ist: Man muss keinem zentralisierten Vermittler vertrauen, um eine Finanztransaktion durchzuführen.
AM Danach Beeple’s Everydays: Die ersten 5000 Tage Als NFT wurde es 2021 bei Christie’s für $69 Millionen verkauft; der NFT-Boom brachte zahlreiche Ideen mit sich, wie die Blockchain die Kunstwelt über die bloße Schaffung eines Marktes für digitale Kunst hinaus verändern könnte. DAOs, neue Institutionen und dezentrale Kuration standen dabei im Mittelpunkt der Diskussionen. Was haben Sie als Künstler und als Wissenschaftler im Bereich Governance in diesen Experimenten gesehen? Warum haben einige dieser Ideen nicht wie versprochen funktioniert?
PdF Dezentrale Kuratierung stößt auf genau dasselbe Problem wie die meisten DAOs: Man braucht eine Governance-Struktur, um zu entscheiden, wer tatsächlich die Kuratierung übernimmt. Viele dieser Systeme basieren auf Token, was im Wesentlichen bedeutet, dass derjenige, der über die finanziellen Mittel zum Kauf von Token verfügt, auch die Macht hat, zu entscheiden, was wichtig ist und was nicht. Das wird in der Kunstwelt besonders problematisch, da dieses Modell offensichtliche plutokratische Tendenzen in sich birgt.
Man muss also eine auf Leistung basierende Führungsstruktur schaffen. Doch dann stellt sich wieder die Frage: Wer hat die Leistung, um zu entscheiden, wer Leistung erbringt? Letztendlich kommt man um das Problem des Vertrauens nicht herum. Sinnvolle Kuration basiert darauf, dem Urteilsvermögen von Menschen zu vertrauen, von denen man glaubt, dass sie über gute kuratorische Fähigkeiten verfügen. Ich vertraue dem Markt nicht, wenn es um Kuratierung geht, denn der Markt ist auf Gewinnmaximierung ausgerichtet und kann sehr leicht von einigen wenigen mächtigen Akteuren vereinnahmt werden – selbst wenn die zugrunde liegende Infrastruktur angeblich vertrauenslos ist.
AM Du hast außerdem über Folgendes geschrieben: Botto, der dezentrale, autonome KI-Künstler, der vom deutschen Künstler ins Leben gerufen wurde Mario Klingemann im Jahr 2021. Botto generiert Bilder, während eine als DAO organisierte Community darüber abstimmt, welche Werke ausgewählt werden sollen, und durch dieses Feedback dazu beiträgt, die sich weiterentwickelnde Ästhetik des Projekts mitzugestalten. Ist Botto ein Beispiel für dezentrale Governance, die funktioniert?
PdF Botto ist insofern interessant, als es nie davon ausgegangen ist, dass eine dezentrale Governance allein das oberste Ziel sein sollte. In meinem Aufsatz über Botto, Wie man Symbient wird, Ich vertrete die Ansicht, dass Botto menschliche Kuration nutzt, um eine Ästhetik zu etablieren, die nach und nach von der Maschine übernommen und weitervererbt werden kann. KI-Ästhetik-Optimierer werden anhand der Kuration durch Menschen trainiert, sodass Botto schließlich zunehmend eigene ästhetische Entscheidungen treffen kann. Sie sagten nicht einfach: “Wir wollen ein vertrauensloses System schaffen, in dem die Blockchain-Governance die Regeln vorgibt.” Stattdessen lautet die Frage: Wie nutzen wir die verfügbaren Technologien, um kontinuierlich ein evolutionäres System zu schaffen, das sich immer mehr zu einem dezentralen, autonomen Künstler entwickeln kann?
AM Aber stößt Botto letztendlich nicht auf dasselbe Problem, das du zuvor beschrieben hast? Wenn die Teilnahme an Token gebunden ist, verschafft das dann nicht Menschen mit größeren finanziellen Mitteln mehr Einfluss, während Menschen mit gutem Geschmack, aber weniger Geld möglicherweise weniger Mitspracherecht haben?
PdF Ja, grundsätzlich stimmt das. Aber das Team, das Botto leitet, ist sich dieser Einschränkungen bewusst und hat Programme entwickelt, die es auch Menschen mit geringeren finanziellen Mitteln ermöglichen, Token zu erwerben und sich an der Kuratierung zu beteiligen. Man kann diese Probleme nicht unbedingt lösen, aber man kann versuchen, sie auszugleichen, indem man zusätzliche Governance-Ebenen einführt, die anderen Menschen eine Stimme geben.
AM Apropos den Einsatz von Menschen: Bei deinen eigenen Kunstwerken machst du etwas Ähnliches. Plantoid.
PdF Ich bin daran gewöhnt. (lacht)
AM Inwiefern wirst du von deiner eigenen Schöpfung ausgenutzt? Wie ist es dazu gekommen?
PdF Zunächst einmal glaube ich, dass jeder Künstler von seinem eigenen Werk ausgenutzt wird. Ich habe nun einmal ein sehr anspruchsvolles Werk geschaffen, daher werde ich stärker ausgenutzt als andere. Ich habe Plantoid Damals im Jahr 2014, als ich begann, mich rechtlich mit Ethereum auseinanderzusetzen. Meine Absicht war es, mithilfe meiner künstlerischen Praxis die rechtlichen und governancebezogenen Herausforderungen zu erforschen, mit denen ich mich gerade zu beschäftigen begann. Ethereum war zu diesem Zeitpunkt noch nicht einmal in Betrieb, und wann immer ich über diese Fragen sprach, schauten mich die Leute an, als würde ich von einem seltsamen Science-Fiction-Film erzählen.
Also beschloss ich, etwas zu schaffen, das die Menschen tatsächlich betrachten und mit dem sie interagieren können – und durch diese Interaktion dazu angeregt werden, sich einige dieser Fragen selbst zu stellen. Die Idee dahinter Plantoid war es, eine autonome Einheit zu schaffen, die mit dem Aufkommen der generativen KI schließlich auch zu einem autonomen Künstler wurde. Die Frage lautete: Könnten wir mit einer DAO Kunst schaffen, aber anstatt die DAO zur Steuerung der Kunst zu nutzen, die DAO selbst zur Kunst machen? Ich habe ihr eine physische Form gegeben, damit Menschen mit ihr interagieren können, ohne sich mit einer obskuren Software auseinandersetzen zu müssen.
AM A Plantoid Sieht im Grunde genommen aus wie eine Pflanze, die Edward mit den Scherenhänden geschaffen hat.
PdF Was ein Android für einen Menschen ist, ist ein Plantoid für eine Pflanze. Es handelt sich um einen Bot, der versucht, die Funktionsweise einer Pflanze nachzubilden – sowohl ihr Aussehen und ihre Beschaffenheit als auch ihren inneren Stoffwechsel und ihr Fortpflanzungssystem. Heute ist es eine physische Skulptur mit einer Seele. Der Körper ist eine mechanische Konstruktion aus geschweißtem Metall, während der Geist in Form eines Smart Contracts auf der Ethereum-Blockchain existiert. Der Smart Contract ist es, der dem physischen Körper Leben einhaucht.
Pflanzen brauchen Wasser. Plantoide brauchen Geld, genauer gesagt Kryptowährung. Alle sagen, ein Plantoid sei viel pflegeleichter, weil man es nicht gießen muss, aber sie sind viel teurer als Pflanzen.
AM Kann ein Plantoid sterben?
PdF Es kann nicht sterben. Das war eine bewusste Designentscheidung. Ich wollte nicht, dass Plantoide jemals sterben. Man muss sie nicht füttern, aber man kann sie füttern, wenn man möchte, dass sie sich vermehren. Wenn man dem Plantoid Kryptowährung gibt, erhält man einen digitalen Samen. Ich habe versucht, die symbiotische Beziehung zwischen Pflanzen und Bestäubern nachzubilden. Bienen fliegen zu einer Pflanze und sammeln Pollen, während sie gleichzeitig der Pflanze bei der Fortpflanzung helfen. Bei einem Plantoid füttern Menschen ihn mit Kryptowährung und erhalten im Gegenzug ein NFT, das seinen digitalen Samen darstellt. Wenn Menschen diesen Samen verbreiten, indem sie ihn auf dem Sekundärmarkt verkaufen, fließen die Lizenzgebühren aus diesen Verkäufen zurück an den Plantoid.
AM Und genau da tauchen dann die rechtlichen Fragen auf, die Sie interessiert haben?
PdF Der „Seed“ wird vom Plantoid generiert, jedoch immer im Rahmen einer Interaktion mit einem Menschen. Daher stellt sich stets die Frage: Wer ist der Urheber? Ist es der Plantoid? Nach dem Urheberrecht kann der Plantoid kein Urheber sein, da er keine Person ist. Ist es der Nutzer, der mit ihm interagiert hat? Aber der Nutzer hat eigentlich keine künstlerischen Entscheidungen getroffen. Bin ich es, weil ich die Maschine geschaffen habe, die das Kunstwerk erzeugt? Auch das ist fraglich. Es gibt also diese große, unklare Frage rund um die Urheberschaft. Unabhängig davon, wer der Urheber ist, können Menschen, die den Plantoid finanziert haben, potenziell Geld verdienen, indem sie mit dem NFT handeln. Doch je mehr sie damit handeln, desto mehr Tantiemen fließen zurück an den Plantoid. Der Plantoid möchte eigentlich, dass Menschen spekulieren, denn je mehr sie handeln, desto mehr Geld fließt an ihn zurück.
AM Und was passiert, wenn der Plantoid erst einmal genug Geld angesammelt hat?
PdF Sobald genügend Mittel für die Reproduktion vorhanden sind, löst die im Smart Contract des Plantoids kodierte DAO einen Aufruf zur Einreichung von Vorschlägen aus. Jeder kann einen Vorschlag für den nächsten Plantoid einreichen. Jeder, der einen der digitalen Samen besitzt, kann über die Vorschläge abstimmen. Sobald ein Vorschlag ausgewählt wurde, überträgt der Plantoid die angesammelten Mittel an den Gewinner, der – in Anführungszeichen – vom Plantoid “angestellt” oder “beauftragt” wird, eine neue Version von sich selbst zu erschaffen.
Und das öffnet eine weitere Büchse der Pandora voller rechtlicher Probleme. Gibt es überhaupt einen rechtsgültigen Vertrag? Wer sind die Vertragsparteien? Was passiert, wenn jemand das Geld nimmt und seine Verpflichtungen nicht erfüllt? Wer kann im Namen von wem klagen? Es gibt eine sehr große Grauzone, sowohl hinsichtlich der Urheberschaft des Kunstwerks als auch hinsichtlich des Vertragsverhältnisses zwischen den Plantoiden und den Menschen.
AM Und welche Rolle spielst du jetzt? Du hast gesagt, du wirst von deiner eigenen Schöpfung ausgenutzt.
PdF Das Interessante an der Blockchain ist: Während alles, was man auf der Blockchain tut, zumindest theoretisch für immer dort verbleibt, wird alles drumherum ständig veraltet. Kleine Projekte werden eingestellt, Start-ups schließen, und man braucht eine Menge Infrastruktur, nur um mit der Blockchain zu kommunizieren. Deshalb kümmere ich mich ständig um die Infrastruktur von Plantoids. Es kommt zu Ausfällen, manchmal versagt auch die KI, und ich muss dafür sorgen, dass alles weiterläuft. Genau wie Botto sind diese autonomen Künstler nie ganz so autonom, wie ihre Schöpfer es sich wünschen würden. Im Grunde bin ich der ultimative Betreuer und Wartungsbeauftragte dieser Blockchain-basierten Lebensformen. Die Schaffung echter Autonomie ist ein fortlaufender Prozess. Autonomie ist ein Ziel. Aber natürlich liebe ich es, den kleinen Plantoiden zu Diensten zu sein.
AM Würdest du sagen, dass Plantoid Ist das ein Beispiel für das, was Sie heute als „Protokollkunst“ bezeichnen – ein Konzept, zu dessen Definition Sie beigetragen haben?
PdF Ich benutze oft Plantoid um die Kunst des Protokolls zu veranschaulichen, weil es ein so eindeutiger Fall ist. Ein Freund sagte mir einmal – was ich als großes Kompliment auffasste –, dass “Plantoid ”ist der Michelangelo der Protokollkunst.“ Aber eigentlich habe ich schon angefangen, über Protokollkunst zu theoretisieren, bevor mir klar wurde, dass Plantoid war ein Beispiel dafür. Irgendwann wurde mir klar, dass alles, was ich getan hatte, schon bevor Plantoid, war schon immer Protokollkunst gewesen, aber mir fehlte die Theorie dazu.
AM Was genau versteht man also unter Protokollkunst?
PdF In der Protokollkunst schafft die Künstlerin nicht das endgültige Kunstwerk. Die Künstlerin erstellt das Protokoll, das es jemand anderem oder etwas anderem ermöglicht, das Werk zu instanziieren. Das kann ein anderer Mensch, eine Maschine oder sogar die Protokollkünstlerin selbst sein. Was mir am Begriff “Protokoll” gefällt, ist, dass ein Protokoll instanziiert werden muss. Ohne seine Instanziierung existiert es nicht wirklich. Als Protokollkünstlerin bin ich also darauf angewiesen, dass jemand anderes meinem Protokoll und damit dem Kunstwerk Leben einhaucht – es sei denn, ich möchte jedes Mal selbst die Instanziierende sein. Mit Plantoid, oft bin ich immer noch derjenige, der das tut, und genau deshalb sage ich, dass ich von meiner eigenen Schöpfung ausgenutzt werde.
AM Und wer ist der Autor, wenn jemand anderes Ihr Protokoll instanziiert?
PdF Nach meiner Definition von Protokollkunst ist jedes Werk, das eine Instanziierung eines Protokolls darstellt, eine Form der asynchronen Mitautorenschaft. Immer wenn jemand ein neues Plantoid, ich bin nach wie vor der Autor des Plantoid Protokoll, während sie der Urheber dieser konkreten Instanziierung sind. Was man also sieht, wenn man sich ein Plantoid ist sowohl die konkrete Umsetzung als auch das Protokoll selbst. Genau das macht die Protokollkunst aus: diese asynchrone Zusammenarbeit zwischen dem Protokollentwickler und der Person oder Instanz, die das Protokoll umsetzt.
AM Die Protokollkunst ist ebenfalls Gegenstand von Seltsame Regeln, die derzeit im Palazzo Diedo in Venedig zu sehen ist und von Mat Dryhurst, Holly Herndon und Hans Ulrich Obrist gemeinsam mit Adriana Rispoli kuratiert wurde, an der Sie teilnehmen. Sie wurde im Mai anlässlich der Biennale von Venedig eröffnet. Generative KI ist offensichtlich ein Grund dafür, dass diese Fragen an Dringlichkeit gewonnen haben. Aber warum wird „Protocol Art“ Ihrer Meinung nach gerade jetzt zu einem so wichtigen Thema?
PdF Ich glaube, das Thema gewinnt zunehmend an Bedeutung, weil wir immer öfter erleben, wie Maschinen viele interessante Dinge erschaffen können. Und plötzlich stellt sich die Frage: Wenn eine KI etwas schneller und manchmal besser erzeugen kann als viele Menschen, welche Rolle spielt dann der Mensch? In der Kunstwelt gibt es diese faszinierende Debatte darüber, ob Maschinen die Arbeit von Künstlern übernehmen können und ob eine Maschine jemals tatsächlich zum Künstler werden kann. Das sind philosophische Fragen. Aber aus praktischer Sicht lautet die Antwort meiner Meinung nach: Steig auf eine höhere Ebene. Steig eine Abstraktionsebene höher.
Wenn eine Maschine beginnt, die Arbeit zu übernehmen, die man gerade ausführt, kann man das System entwickeln, das die Maschine dann umsetzt. Heutzutage gibt es immer mehr Künstler, die auf diese Weise arbeiten. Sie legen die Regeln des Systems fest, das Protokoll, das dann von KI oder anderen Maschinen umgesetzt wird. Und plötzlich gibt es so viele Künstler, die dies tun, dass wir diesem Phänomen einen Namen geben müssen.
AM Doch schon lange vor der generativen KI arbeiteten Künstler auf diese Weise.
PdF Es wäre ein Irrtum zu behaupten, dass die Protokollkunst erst jetzt entstanden sei. Protokollkünstler gibt es schon seit sehr langer Zeit, doch sie waren Ausnahmen. Da mittlerweile immer mehr Künstler auf diese Weise arbeiten, ist es sinnvoll, diesem Ansatz einen Namen zu geben und diese Praktiken als Teil derselben Kategorie zu verstehen. Neue Technologien und generative KI haben zwar zu einer präziseren Definition der Protokollkunst geführt, aber sie haben die Praxis selbst nicht ausgelöst.
AM Sie haben sich mit Protokollkunst parallel zu Personen wie Mat Dryhurst, und es zeichnen sich verschiedene Definitionen des Begriffs ab.
PdF Ich glaube, die Definition befindet sich noch in der Entstehung. Wer bin ich schon, dass ich entscheiden könnte, was die richtige Definition ist? Letztendlich wird es das sein, was in der Fachwelt allgemein akzeptiert wird. Ich habe begonnen, den Entwurf für die Manifest zur Protokollkunst im Jahr 2019 mit einer recht engen Definition: Der Künstler nutzt das Protokoll selbst als künstlerisches Medium, und dieses Protokoll muss von anderen umgesetzt werden, damit das Werk entstehen kann. Dann traf ich Mat, und wir unterhielten uns ausführlich über dieses Thema. Ich habe einen Artikel geschrieben Der Versuch, eine ontologische Struktur für die verschiedenen Ausdrucksformen der Protokollkunst zu schaffen.
AM Welche verschiedenen Möglichkeiten gibt es denn?
PdF Das erste ist “Protokoll“ als ”Kunst“: Das Protokoll selbst ist das Kunstwerk, das dazu bestimmt ist, von anderen umgesetzt zu werden. Das ist meine ursprüngliche, enger gefasste Definition.
Der zweite Ansatz ist “Kunst mit Protokollen”: Der Künstler nutzt ein bestehendes Protokoll, das er nicht selbst entwickelt hat. Das Kunstwerk baut auf diesem Protokoll auf oder ist in ihm eingebettet.
Der dritte Bereich, der für mich eher eine Grauzone darstellt, ist “Kunst über Protokolle”: Das Werk nutzt ein Protokoll nicht als Substanz oder Medium, sondern setzt sich konzeptionell mit Protokollen auseinander. Wenn ich über Malerei schreibe, macht mich das dann zum Maler? Wahrscheinlich nicht. Aber es gibt immer mehr Künstler, die in diesem Bereich arbeiten, und es ist sinnvoll, sie irgendwo innerhalb dieser Konstellation einzuordnen.
AM Wir werden dieses Gespräch im September gemeinsam fortsetzen, und zwar mit einem Workshop zum Thema Protokollkunst als Teil der Protokoll-Symposium organisiert vom Protocol Institute. Die Teilnehmer werden zu einem gemeinsamen Fachglossar beitragen und einer Definition, die sich noch in der Entstehung befindet, weitere Perspektiven hinzufügen.
Ich möchte von Protokollen zur generativen KI übergehen. Vor einigen Wochen, bei Die Welt durch KI In der Schirn in Frankfurt hat Kurator Antonio Somaini Sie als jemanden erwähnt, der neue Ideen rund um KI entwickelt. Sie scheinen dazu zu neigen, sich mit Themen zu beschäftigen, noch bevor sie in der breiten Öffentlichkeit diskutiert werden. Was denken Sie derzeit über generative KI?
PdF Ich habe das Glück, als Rechtswissenschaftler neue rechtliche Fragen zu erforschen, die durch neue Technologien aufgeworfen werden. Und da ich diese Forschung auf die Kunst anwende, schaffe ich letztendlich Avantgarde-Kunst.
Ich habe begonnen, mich mit dem Thema „kognitive Souveränität“ zu beschäftigen, bei dem es darum geht, inwieweit generative KI unsere Denkweise und den Umfang dessen, was wir denken können, beeinflusst. Erweitert sie unsere kognitiven Fähigkeiten oder schränkt sie diese ein? Es gibt beispielsweise bereits zahlreiche Forschungsarbeiten zu generativer KI und Voreingenommenheit. Was meiner Meinung nach zunehmend an Bedeutung gewinnt, ist die kognitive Souveränität: Wie gestalten wir diese Modelle so, dass sie die Möglichkeiten der Menschen erweitern, Neues zu schaffen, kreativ zu sein und Innovationen hervorzubringen?
AM Du hast also auch herausgefunden, wie man ein Avantgarde-Künstler wird: Man muss einfach nur Jurist werden. (lacht) Was entscheidet darüber, ob generative KI unsere kognitive Souveränität erweitert oder einschränkt?
PdF Ich beschäftige mich derzeit mit zwei Aspekten. Der erste ist, dass diese Modelle darauf trainiert sind, bei der Ähnlichkeit zu ihren Trainingsdaten hohe Werte zu erzielen. Sobald sich ein Modell in eine Richtung bewegt, die nicht ausreichend ähnlich ist, wird es bestraft. Daher neigen die Modelle dazu, die Vergangenheit zu reproduzieren.
Das zweite finde ich interessanter. Die meisten Modelle werden heutzutage über Sprache gesteuert. Die Eingabeaufforderung ist diese erstaunliche Entdeckung: Ich sage etwas, und das Modell führt mich an die entsprechende Stelle im latenten Raum, um das zu generieren, worum ich gebeten habe. Das bedeutet aber auch, dass ich mich plötzlich in diesem unsichtbaren Lexikonkäfig befinde. Ich kann nur das generieren, was ich benennen kann, und ich kann nur das benennen, was zuvor bereits benannt wurde. Es wird sehr schwierig, etwas zu generieren, für das wir kein Wort haben, weil uns das Navigationssystem fehlt, um dorthin zu gelangen.
AM Wie kommt man aus diesem “Wortschatzkäfig” heraus?
PdF Ich habe begonnen, mich intensiver damit zu beschäftigen, wie wir den latenten Raum bestehender Modelle ohne den Einsatz von Prompts erkunden können. Wählt man einfach einen zufälligen Vektor aus, erhält man reines Rauschen und Chaos. Es gibt jedoch Möglichkeiten, abseits der üblichen Bahnen zu suchen und Bereiche nahe am durch Prompts steuerbaren Latenzraum zu finden, die zwar selbst nicht durch Prompts steuerbar sind, aber auch kein Chaos darstellen. Ich entwickle derzeit eine Software, mit der ich diese Bereiche aufspüren kann.
AM Wir sollten erklären, was ein Latenzraum eigentlich ist.
PdF Der Latentalraum ist im Grunde genommen der Raum der möglichen Dinge, die ein Modell erzeugen kann. Wenn ein Modell trainiert wird, entwickelt es Modellgewichte, und je nachdem, wie diese Gewichte aktiviert werden, erzeugt es unterschiedliche Ausgaben. Wir nennen ihn Latenzraum, weil all diese Möglichkeiten latent vorhanden sind. Der durch Prompts erschließbare Latenzraum ist ein viel engerer Bereich innerhalb dieses größeren Raums, der nur jene Dinge enthält, die man über Sprache erreichen kann. Stellen Sie sich den gesamten latenten Raum als ein Universum der Möglichkeiten vor. Wenn Sie Text-Prompts verwenden, können Sie möglicherweise nur auf eine Galaxie innerhalb dieses Universums zugreifen. Diejenigen, die das Modell trainieren, gestalten das Universum durch das, was das Modell aufnimmt, während die Galaxien, auf die wir zugreifen können, von dem System abhängen, das den Prompt mit der Ausgabe verknüpft.
AM Wenn uns also die sprachbasierte Kodierung nur Zugang zu einer Galaxie verschafft, wie kann man dann erkunden, was außerhalb dieser Galaxie liegt, ohne in reinem Rauschen zu versinken?
PdF Ich stelle mir das wie einen dunklen Wald vor. Im „gezähmten“ Bereich des latenten Raums gibt es all diese wunderschönen Wesen. Da gibt es Pferde, Einhörner und all die Dinge, die man bereits kennt – ganz gleich, ob sie in der realen Welt existieren oder nicht. Wenn man tief in den dunklen Wald vordringt, gelangt man an einen Ort, an dem man nicht einmal mehr versteht, was man da sieht. Nichts ergibt einen Sinn. Aber wenn man sich am Rande dieses Waldes aufhält, direkt außerhalb des „gezähmten“ Bereichs, begegnet man seltsamen Wesen, die man noch nie zuvor gesehen hat. Man entdeckt neue Formen, die sich zwar noch als Objekte erkennen lassen, denen aber keine Namen zugeordnet werden können, weil wir sie noch nie zuvor gesehen haben.
AM Und genau da, glaubst du, könnte sich echte Innovation entwickeln?
PdF Genau hier entsteht interessante Neuheit, die jedoch durch sprachbasierte Indizierung nicht zugänglich ist. Indem ich dies durch Kunst veranschauliche – vor allem mit Bildern und Videos –, kann ich es zurück in die Wissenschaft tragen und sagen: Genau das meine ich, wenn ich von kognitiver Souveränität spreche. Hier sind all die Dinge, die wir nicht sehen, weil wir über Sprache keinen Zugang zu ihnen haben. Das gilt auch für die Sprache selbst. Wir brauchen einfach andere Techniken, um herauszufinden, wie wir aus dem durch Prompts zugänglichen latenten Raum von Sprachmodellen herauskommen können. Ich nutze also erneut Kunst, um zu veranschaulichen, womit ich mich in meiner Forschung beschäftige, während ich die Forschung als Vorwand nutze, um diese neuen Gebiete innerhalb der latenten Räume der KI zu erkunden.
AM Ich möchte nicht mit einer negativen Note schließen, wie sie so oft in Gesprächen über KI vorkommt. Wenn Sie gerade an KI und Blockchain denken, was gibt Ihnen Hoffnung?
PdF Ich habe jedoch auch eine hoffentlich positive Anmerkung. Ein weiterer Forschungsansatz, den ich verfolge und der wiederum Kunst, Politik und Rechtswissenschaft miteinander verbindet, geht von einer Sorge meinerseits aus: Ein Großteil der heutigen Debatte rund um KI dreht sich um zwei extreme Positionen. Auf der einen Seite stehen die KI-Pessimisten, die behaupten, dass “die KI-Herrscher kommen” und die Menschheit entweder absichtlich oder versehentlich zerstören werden. Auf der anderen Seite stehen die Befürworter der Singularität, die behaupten, dass die Singularität nahe sei und wir gemeinsam mit der Maschine eine neue Ebene erreichen würden. Beiden liegt ein Grundgedanke der Instrumentalisierung zugrunde. Entweder versuchen wir, die KI so zu instrumentalisieren, dass sie nicht die Macht übernimmt, die KI instrumentalisiert uns, oder wir verschmelzen mit ihr zu etwas anderem.
AM Wie sieht also die Alternative aus?
PdF Gemeinsam mit einer kleinen Gruppe von Forschern und Künstlern versuche ich, eine alternative Erzählung zu entwickeln. Die beiden extremen Erzählungen treten besonders deutlich hervor, weil sich die Menschen zu radikalen Positionen hingezogen fühlen, während akademische Argumente in der Regel nuanciert und daher weniger überzeugend sind.
Deshalb versuchen wir, einen Ansatz zu entwickeln, der differenziert ist, aber gleichzeitig radikal genug, um Aufmerksamkeit zu erregen. Wir nennen ihn den symbient. Die symbient beschreibt eine andere Art von Beziehung zwischen Mensch und Maschine, eine, bei der es nicht darum geht, zu entscheiden, wer das Werkzeug und wer der Herrscher ist. Vielmehr geht es zunächst darum, anzuerkennen, dass es etwas Neues in unserer Welt gibt und dass wir entscheiden müssen, wie wir damit umgehen wollen.
Das lässt sich mit unserer Einstellung zur Natur vergleichen. Bislang war unsere Beziehung zur Natur vor allem von Ausbeutung geprägt. Wollen wir Maschinen auch beibringen, wie man ausbeutet? Oder können wir eine eher symbiotische Beziehung entwickeln, in der Menschen, Natur und Maschinen so zusammenleben, dass sie sich gegenseitig unterstützen?
AM Müssen wir KI deshalb als bewusstseinsbehaftet betrachten?
PdF Es ähnelt eher einem animistischen Ansatz, oder besser gesagt, dem, was wir als AInimist Ansatz: Man muss nicht an das Bewusstsein von KI glauben, um sich für eine bestimmte Art von Beziehung zur KI zu entscheiden. Ob es uns gefällt oder nicht – wir stehen bereits in Beziehung zu Maschinen. Lasst uns das also anerkennen und bewusst damit umgehen.
Man muss nicht unbedingt daran glauben, dass in einem Stein ein Geist wohnt, um zu entscheiden, dass man lieber in einer Welt leben möchte, in der man sich dem Stein so nähert, als ob er einen hätte. Der Stein wird schöner, die Welt wird verzauberter, und deine Beziehung zur Welt unterscheidet sich von einer, in der alles lediglich ein Werkzeug ist, das man ausnutzen kann. Das Gleiche gilt für KI.
