MEINUNG: Adobe hat vor Kurzem die neueste und fortschrittlichste Version seines generativen KI-Modells Firefly, Firefly Image 3, vorgestellt. Könnte dieses Update jedoch zu einem Anstieg von Kunstdiebstählen und -fälschungen führen?
Das Firefly Image 3-Modell befindet sich derzeit in der Betaphase und verspricht einige bedeutende Upgrades sowohl für Firefly als auch für Photoshop.
Was ist neu?
Firefly versteht jetzt Eingabeaufforderungen besser und ist geschickter darin, Bilder zu erstellen, sowohl was Struktur als auch Details angeht. Das Image 3-Modell kann auch ein breiteres Spektrum menschlicher Emotionen erzeugen und lässt sich von einer größeren Bandbreite an Kunststilen inspirieren.
Das Gen-AI-Tool „Generative Fill“ von Photoshop hat ebenfalls ein umfangreiches Update auf Firefly-Basis erhalten, mit neuen Funktionen wie „Referenzbild“, „Details verbessern“, „Hintergrund generieren“ und „Ähnliches generieren“.
Reference Image ist das Tool, das sofort meine Aufmerksamkeit erregte. Es ermöglicht Benutzern, vorhandene Bilder als Eingabeaufforderungen hochzuladen, anstatt sich auf eine kurze Textbeschreibung zu verlassen. Während einer Demo mit Adobe sah ich, wie eine Gitarre als Referenzbild-Eingabeaufforderung hochgeladen wurde. Firefly ließ sich dann stark von diesem Bild inspirieren und legte eine nahezu identische Gitarre in die Arme des Bären, der bereits in Photoshop geöffnet war.
Für böse Zwecke verwendet
Diese Technologie ist sehr beeindruckend. Sie ermöglicht es, Generative Fill eine bestimmte Form, einen bestimmten Stil und eine bestimmte Farbe zuzuweisen, ohne ein Wort einzugeben. Allerdings (und vielleicht sagt das etwas über mich aus) war ich sofort überrascht, wie diese Funktion für böse Zwecke eingesetzt werden könnte.
Kunstdiebstahl ist im Internet bereits ein weit verbreitetes Problem. Menschen laden Werke erneut hoch und geben sie als ihre eigenen aus, sei es für Geld oder Likes. Könnte diese Funktion nicht genutzt werden, um Kunstwerke zu erstellen, die einem bereits existierenden Werk ähneln?
Ich habe diese Bedenken dem CTO von Digital Media Business bei Adobe, Ely Greenfield, mitgeteilt und das hat er mir erzählt.
„Die Frage, ob ein Künstler ein Recht auf seinen Stil hat, ist kompliziert“
„Unsere Ansicht bei Adobe ist, dass ein Künstler ein Recht auf seinen Stil haben sollte, und wir arbeiten mit Regulierungsbehörden zusammen. Ich glaube, wir fördern derzeit verschiedene Gesetze in den USA, um tatsächlich Gesetze zu verabschieden, die dies unterstützen. Ich würde sagen, ja, Sie könnten ein Bild als Stilübereinstimmung, als Referenzübereinstimmung hochladen, und der springende Punkt ist, es als Quelle, als Saat verwenden zu können, um andere Dinge dieser Art generieren zu können“, erklärte Greenfield.
„Wir legen dem Benutzer ein gewisses Maß an Verantwortung auf. Ich meine, das ist so, als ob man jedes Mal, wenn man ein Bearbeitungswerkzeug verwendet, sogar einen Bleistift, die Möglichkeit hat, die Arbeit von jemand anderem zu kopieren, und deshalb können wir die Leute nicht davon abhalten. Wir tun alles, was wir können, um die Leute zu ermutigen, mit Integrität zu handeln. Wir erinnern die Leute daran, sicherzustellen, dass sie die Rechte haben. Wir prüfen die Inhaltsangabe, um zu sehen, ob eine Markierung darauf steht, die besagt, dass dies bitte nicht mit KI verwendet werden darf, aber letztendlich können Sie den Inhalt von jemand anderem hochladen und verwenden, auch wenn Sie nicht unbedingt die Rechte und die Erlaubnis dazu haben.“
Könnte jemand mit Ihrem Kunststil Geld verdienen?
Ich habe Greenfield gefragt, ob es Systeme gibt, die das Hochladen von Bildern, die aus einem anderen Kunstwerk generiert wurden, auf Print-on-Demand-Websites wie Redbubble oder Amazon verhindern oder kennzeichnen.
„Wir können nicht überprüfen, ob Sie ein Recht auf ein Bild haben, und wir können auch nicht nachverfolgen, was Sie im Nachhinein mit diesem Bild machen. Leider können wir nichts dagegen tun“, sagte er.
„Das Beste, was wir tun können, und ein Großteil davon ist die Hälfte unserer Investition in die Content Authenticity Initiative, die andere Hälfte ist technischer Natur. Wie schaffen wir die Systeme, die es uns ermöglichen, diese Informationen zu verfolgen? Und die andere Hälfte ist gesellschaftlicher, sozialer, politischer Natur. Wir arbeiten mit Aufsichtsbehörden zusammen, wir arbeiten mit anderen Medien- und Technologieunternehmen, Hardwareunternehmen, Softwareunternehmen, um zu versuchen, die Technologie an den Mann zu bringen, damit wir im Laufe der Zeit die Erwartungen der Öffentlichkeit ändern können.“
Die Content Authenticity Initiative
Die Content Authenticity Initiative ist ein Zusammenschluss von Medien- und Technologieunternehmen, die gemeinsam die Einführung eines offenen Industriestandards für die Authentizität von Inhalten vorantreiben. Adobe leistet seinen Beitrag unter anderem dadurch, dass es mithilfe von KI erstellte oder bearbeitete Bilder mit seinen Content Credentials-Metadaten kennzeichnet.
„[One] Eine Analogie, die ich gerne verwende, ist das Schlosssymbol im Browser. Wir sind an den Punkt gekommen, an dem die Leute dieses Schlosssymbol erwarteten und wenn es nicht da war, waren sie misstrauisch gegenüber der Website und gaben ihre Kreditkarte nicht ein. Jetzt nähern wir uns dem Punkt, an dem der Browser anfängt zu sagen: Wenn es nicht da ist, lassen wir Sie die Website einfach nicht sehen. Sie können es umgehen, Sie können sagen, ich möchte das Risiko eingehen, aber der Browser sagt immer häufiger: [no]”, erklärte Greenfield.
„Ich würde mich freuen, wenn wir mit Content Credentials diesen Punkt erreichen würden, aber von hier aus ist es definitiv noch ein weiter Weg.“
Ist generative KI schlecht für Künstler?
Das bedeutet nicht, dass Adobe gegen generative KI ist. Sie müssen nur fünf Minuten in Adobe Firefly verbringen, um zu erkennen, dass Adobe einer der Spitzenreiter in diesem Rennen ist.
„Ich glaube eigentlich nicht, dass Manipulation grundsätzlich eine schlechte Sache ist, und KI ist nicht grundsätzlich eine schlechte Sache“, sagte Greenfield, als wir ihn fragten, ob Adobes Vision für die Zukunft ein Internet sei, in dem jedes Bild markiert wird, wenn es mithilfe von KI manipuliert wurde.
„Wenn wir jedes Bild, bei dessen Erstellung KI verwendet wurde, mit einem großen Warnhinweis kennzeichnen wollten, würde jedes Foto, das mit einem iPhone erstellt wurde, gekennzeichnet werden, weil KI beim Rendern, bei der Aufnahme des Bildes verwendet wird. Es sind nicht die Rohwerte der Helligkeit, die der Sensor sieht. Apple hat tatsächlich KI, und zwar wunderbar. Sie erkennt beispielsweise Gesichter und hellt sie auf, weil die Leute das auf ihren Fotos sehen wollen. 99,999 % der Anwendungsfälle, in denen Leute generative KI in Photoshop verwenden, sind vollkommen legitime Gründe … sie nehmen entweder Änderungen vor, die die Wahrheit nicht verzerren, oder sie versuchen nicht, die Wahrheit darzustellen.“
„Ich glaube nicht, dass wir in einer Welt landen, in der wir ständig Warnsignale erhalten, wie es hier mit KI der Fall war. Ich glaube, wir landen in einer Welt, in der ein Verbraucher sagt: ‚Oh, diese Person vertritt die Wahrheit‘, oder wir könnten Situationen haben, in denen die KI dabei helfen kann, zu erkennen, ob dies eine redaktionelle Geschichte ist, ob dies die Wahrheit darstellen soll, und diese Informationen in solchen Situationen an die Oberfläche kommen, damit der Verbraucher sich entscheiden kann, eine Wahl zu treffen.“
Was ist Adobes Endziel mit Content Credentials?
„Unsere Aufgabe ist es, erstens die Öffentlichkeit darüber aufzuklären, dass wir alle darauf achten sollten, wenn es darauf ankommt, und zweitens, es den Menschen kinderleicht zu machen, sich die Informationen zu besorgen, die sie brauchen, und zu verstehen, wie sie diese Informationen nutzen können, wenn sie entscheiden, dass es für sie wichtig ist. Das ist die Vision der Zukunft.“
