Mastodawn

Jasmin Neitzel Oct 29

Leider muss ich zu einem unangenehmen Anlass posten. Dieser Tage startet bei Mannifest Games "Meine fürchterlich besten Freunde" im Crowdfunding. Die verwendeten Bilder sehen stark KI generiert aus, was von Manni selbst verneint wurde.
Ich sehe allerdings seht deutlich Anzeichen für die Verwendung von generativer KI in den Bildern, die ich im Folgenden darlegen möchte. Entweder Mannis Stil ist sehr von KI inspiriert oder es wurde doch welche verwendet.

https://www.mannifest-games.de/meine-fuerchterlich-besten-freunde/

1/

Jasmin Neitzel Oct 29

Auf der Produktseite finden wir die Illustration eines Schulgebäudes. Schon auf den ersten Blick ist sichtbar, dass mit der Architektur etwas seltsam ist.
Vorne verschwinden Säulen einfach in anderen Elementen, wie dem Fenster oder dem Nachbargebäude. Typische Fehler generativer KI, die Menschen so nicht als Entscheidung treffen.
Das ungelenke Logo bei sonst realistischem Bild, die unebenen Solarpanels oder die verschwindende Ballustrade auf dem Dach sind weitere Hinweise auf KI.

2/

Die gameontabletop Seite des Spiels hat eine Illustration als Rahmen.
https://www.gameontabletop.com/cf5481/meine-furchterlich-besten-freunde-das-rollenspiel.html

Auffällig ist hier auch der ungewöhnliche sehr realistische Stil mit digitalen Aquarellen und die Unterschiede im Detail von Gesichtern und den Textilien der Kleidung.
Die Übergänge von Haaren zu Kleidung bei den beiden Mädchen lassen das eine mit dem anderen verwachsen.
Die Gürtel der Jeans und wo Hose und Gürtel beginnen und aufhören sind auf eine menschlich schwer erklärbare Weise unklar.
3/

Jasmin Neitzel Oct 29

Bei den Jung sind es auch wieder die Unterschiede in der Umsetzung der Kleidung, die auffallen, warum die unterschiedlichen Detailgrade?

Dann sehen wir beim Brillenträger den Bügel der Brille hinter den Haaren verschwinden und viel weniger Augen und einen seltsamen Sitz der Brille im Gesicht.
Beim anderen finden wir am Haaransatz eine Verwachsung, die deutlich wie ein typisches Artefakt generativer KI aussieht.

4/

Jasmin Neitzel Oct 29

Auf den Seiten finden wir verschiedene Ausschnitte des Titelbildes.
Nehmen wir das aus dem Shop.

Bei den Schuhen ist es teils kaum zu erkennen in welche Richtung sie zeigen. Der Arm und die Hand zwischen den mittleren Jugendlichen stehen in einem seltsamen Verhältnis zueinander. Was ist vor was?
Warum hier Perspektivenfehler, wenn es sonst realistisch ist?
Die tropfende Farbe vom Arm macht generative KI auch gerne.

https://www.mannifest-games.de/shop/produkt/meine-fuerchterlich-besten-freunde/

5/

Jasmin Neitzel Oct 29

Zum Vergleich möchte ich hier KI generierte Stockfotos zeigen, damit Muster klarer werden.

Das Motiv der von hinten aufgenommenen Leute findet sich auch hier und die von Händen heruntertropfende Aquarellfarbe.

https://de.123rf.com/photo_205260034_freundschaftsillustration-aquarell-und-skizze-bunt-ki-generiert.html

Eine Suche der Bilder aus Meine fürchterlich besten Freunde führt auch schnell zu vielen ähnlichen KI generierten Bildern, die mehr Ähnlichkeiten aufzeigen.

Also wieder KI oder ein Stil wie Ki.

6/

Jasmin Neitzel Oct 29

Diese drei Kinder aus dem Crowdfundingvideo haben alle "KI-Face". Also Gesichtsproportionen mit leicht zu großen Augen und überhöhten Gesichtszügen, die wir in vielen KI generierten Bildern wieder finden. Außerdem ist der Übergang von langen Haaren zu Shirt wieder auf eine von Menschenhand schwer zu erklärende Weise falsch. Dazu kommen auch anatomisch fragwürdige Ohren.

https://youtu.be/uyzEJU0Eb3I?si=iL3j3jJVoaUbmJhn

Schaut im Video auch darauf was bei den jeweiligen Bildern mit Effekten überdeckt wird.

7/

Jasmin Neitzel Oct 29

Da Manni für sich in Anspruch nimmt die Bilder gezeichnet zu haben, lohnt sich auch ein Blick auf sein Instagramm.

https://www.instagram.com/mannifestgames/

Dort finden wir Bilder in seinem bisherigen Stil, bei dem sich durchaus Unterschiede zum Hyperrealismus von "Meine fürchterlich besten Freunde" zeigen, ohne dass ein erproben des Stils dokumentiert ist. Was natürlich erstmal nur ein Datenpunkt ist.

Hier sehen wir eine Collage seiner Werke von vor zwei Jahren.

https://www.instagram.com/p/C16sGwQocOC/

8/

Login • Instagram

Welcome back to Instagram. Sign in to check out what your friends, family & interests have been capturing & sharing around the world.

Jasmin Neitzel Oct 29

Hier ein neueres Bild, das zum einen einen Stilwandel darstellt und zum anderen deutliche Auffälligkeiten in Richtung generative KI aufweist.

https://www.instagram.com/p/DHF_ht7syQQ/

Abgesehen davon, dass sich wenig Elemente von 1733 und viele aus der Gegenwart im Bild finden.
Was ist los mit dem Gürtel, der in der Kleidung verschwindenden Flasche, der Schnall? Was sollen die Küchenmesser? Was ist mit dem Rucksack los?
Es mangelt nie an Detail aber an Gedanken und der Unterscheidung von Material.

9/

Jasmin Neitzel Oct 29

Ich hoffe ja, dass "Meine ziemlich besten Freunde" kein KI-Scam ist, wo einem generative KI als menschliche Arbeit untergejubelt werden soll. Aber der Stil, die Art der Fehler und die Muster darin lassen mich wirklich stark an die Nutzung generative KI glauben. Wenn Manni nicht absichtlich KI imitiert und mich getäuscht hat, habe ich keine andere Erklärung.
Generative KI hat einen Look und er überschneidet sich mit "Meine fürchterlich besten Freunde".

10/

Jasmin Neitzel Oct 29

Es ist mir etwas unangenehm einen derartigen Call Out zu posten mit der damit verbundenen Arbeit. Aber ich finde es auch notwendig, weil ich nicht möchte, dass KI generierte Bilder als etwas eigenes Ausgegeben werden. Ein Crowdfunding mit generative KI hätte ich nicht unterstützt, aber wenn man versucht uns übers Ohr zu hauen, möchte ich das anmerken und meine Eindrücke teilen.

11/11

Jasmin Neitzel Oct 29

PS.: Es gab Zeiten, da wusste Manni wie ein Gürtel funktioniert und wo ein Material anfängt und das andere aufhört.

https://www.instagram.com/p/Czle-lIsD8e/

Nicky Taran on Instagram: "Introducing Reagan Rox: Raegen Rox, Tochter eines geheimnisvollen Zeneritonen und einer menschlichen Frau. [...] Mit ihrem Erfolg zog sie Gleichgesinnte an, die ihr bei ihren waghalsigen Raubzügen halfen. Reagan war keine Revolutionsführerin, doch sie hatte ein klares Ziel: Sie wollte den Ausgestoßenen und Verfolgten aus dem Überfluss des Zentrums so viel Nutzen wie möglich verschaffen. Im Laufe der Zeit entwickelte sie sich zur Meisterin der Verhandlung und zu einer ausgezeichneten Schützin. Ihre Legende wuchs, und ihr Name wurde zur Hoffnung für diejenigen, die im Schatten des Zentrums lebten. Ich freue mich schon riesig auf den NoReturn Twoshot mit dem wunderbaren @mannifestgames am 17.12.22. Vielen Dank für das geile Artwork und die Möglichkeit beim Ausbau und Entdecken deiner NoReturn Welt dabei sein zu dürfen! #endzeit #rollenspiel #penandpaper #noreturn #colab #mannifestgames #kamikazedungeonshow"

78 likes, 1 comments - nitsise on November 13, 2023: "Introducing Reagan Rox: Raegen Rox, Tochter eines geheimnisvollen Zeneritonen und einer menschlichen Frau. [...] Mit ihrem Erfolg zog sie Gleichgesinnte an, die ihr bei ihren waghalsigen Raubzügen halfen. Reagan war keine Revolutionsführerin, doch sie hatte ein klares Ziel: Sie wollte den Ausgestoßenen und Verfolgten aus dem Überfluss des Zentrums so viel Nutzen wie möglich verschaffen. Im Laufe der Zeit entwickelte sie sich zur Meisterin der Verhandlung und zu einer ausgezeichneten Schützin. Ihre Legende wuchs, und ihr Name wurde zur Hoffnung für diejenigen, die im Schatten des Zentrums lebten. Ich freue mich schon riesig auf den NoReturn Twoshot mit dem wunderbaren @mannifestgames am 17.12.22. Vielen Dank für das geile Artwork und die Möglichkeit beim Ausbau und Entdecken deiner NoReturn Welt dabei sein zu dürfen! #endzeit #rollenspiel #penandpaper #noreturn #colab #mannifestgames #kamikazedungeonshow".

Instagram

Amalia Zeichnerin Oct 29

@BratApfel
Danke, das du darauf aufmerksam machst.

Jasmin Neitzel Oct 29

Manni hat nun auf Youtube die Vorwürfe adressiert und live ein Bild gemalt.
Ich hatte bisher nicht die Zeit es anzusehen, möchte die Reaktion aber diesem Thread nicht vorenthalten. Den Vergleich der Stile können wir dann auch anstellen.

https://youtu.be/wa71igoQB_4?si=W4LeoCZTjCm-m4Z_

Co Working - Meine fürchterlich besten Freunde (RPG Entwicklung Artstream)

YouTube

Jasmin Neitzel Oct 29

Offiziell handelt es sich nun um Platzhalter, ohne konkret zu benennen welche Bilder KI sind oder anzuerkennen, dass mit ihnen geworben wurde.
Aber es gibt hier ein Commitment keine generative KI im Buch zu haben und das ist immerhin etwas, das sich beim Release überprüfen lässt.

https://www.gameontabletop.com/cf5481/meine-furchterlich-besten-freunde-das-rollenspiel.html

Alexander 😷Oct 30

@BratApfel Roll for Slop...

Selbst als "Platzhalter" möchte ich persönlich solchen Müll nicht. Und den potentiellen Kund*innen gegenüber hier nicht vollständig transparent zu sein, finde ich maximal respektlos.

Jasmin Neitzel Oct 30

@alxndr Ja, da gehe ich mit.

Pete (Mit Vorteil)Oct 30

@BratApfel Das Artwork im YouTube Video ist stilistisch super weit von den "Platzhaltern" entfernt. Auch von dem Cover. Keine Ahnung, warum man so damit umgehen muss, anstatt das direkt offenzulegen.

@mitvorteil @BratApfel Danke dir für den Kommentar bei Youtube habe das gerade gesehen.

@BratApfel Der Stil, den er da wirklich zeichnet, passt zu seinem, der auch bei Instagram zu sehen ist.

Aber halt 0 zu dem, der in den ganzen Bildern aus deinem Thread hier zu sehen ist.

Er zeigt zwar noch zwei traditionell auf Papier erstellte Aquarelle in die Kamera, aber die passen vom Stil her auch nicht zu den Veröffentlichungen.

Ich konnte keinen Ton anmachen, als ich das Video durchgescrollt bin. Bin aber nicht überzeugt...

@Sumire @BratApfel same here

Eatsbluecrayon Oct 29

@BratApfel Der Unterschied in der Anatomie und Koloration ist zu frappierend, um es mit etwas anderem als KI erklären zu können. Weder die Farbigkeit noch der Strich passen zueinander. Auch auf der Insta-Page ist auf den ersten Blick zu erkennen, was KI ist und was handgemacht.

Ich kann verstehen, dass man da als Supporter Bauchschmerzen hat. Denn, wenn die Illus KI sind, was ist mit dem Text?

Ganz davon ab, dass das Zeug nicht copyrightfähig ist und moralisch mehr als fragwürdig.

Irgendwie sollte Sorry oder Ja stimmt anders klingen für mich.

@BratApfel Artstream mir angeschaut den Anfang wo er lacht bis dann zum zeichnen colorieren. Was ganz klar auch NoReturn Stil (Manni Stil) hat.
Es hat keinerlei Ähnlichkeit mit den Promobildern oder dem Promobild ala HeXXen.

@BratApfel Finde deine Bedenken sehr berechtigt. Hier wurde meiner Meinung nach generative AI benutzt.

Am klarsten bei dem Schulgebäude, aber auch sonst recht offensichtlich. Manchmal vielleicht "nur" als Tool, aber wirklich retuschiert wurde es in der Nachbearbeitung nicht. :(

Da zu behaupten man wäre selbst der Artist ist schon ne Nummer.

@BratApfel Was ich nicht verstehe - er ist ja digital Artist. Sieht man ja auf IG.

Fallen ihm selber die Fehler nicht auf? Vor allem bei dem vermurksten Schullogo, das so wobbly ist und hinten und vorne nicht stimmt, würden sich mir die Zehennägel aufstellen... 😬

Man könnte ihn nach work in progress fragen, nach Screenshots wo man den Arbeitsprozess und die Layer des verwendeten Programms sieht. Man baut ja auch als digital Artist seine Bilder entsprechend auf.

Lena Richter Oct 29

@Sumire @BratApfel

Ich hab neulich auf Insta ein Video gesehen, wo gezeigt wurde, wie KI-Scammer auch diese Making-of/Work-in-progress-Videos inzwischen fälschen ... es ist einfach nur noch übel.

@catrinity Jap, wobei man denen auch ihre KI momentan noch ansehen kann. Seit ich in dem subreddit r/RealOrAI beigetreten bin, was schon arg sensibilisiert. 😬
@BratApfel

Carolin (Kamera-)Kram Oct 29

@BratApfel Ich kann Deine Bedenken gut verstehen. Habe andernorts vor ein paar Monaten schon die selben geäußert und zitiere mich mal:

„Ich hab mir jetzt mal den Spaß gemacht und die Bilder, bei denen ich meinte, dass mir typische KI-Probleme aufgefallen sind (seltsame Linienführung, komische Schatten, verzerrte Geometrie usw.) durch einen KI-Detektor gejagt ...
Das ist das Ergebnis beim ersten ...“

PhantaNews ✅Oct 29

@carolin @BratApfel Ich wäre (abgesehen vom konkreten Fall) mit diesen Schlangenölverkäufern, die angeblich KI-Bilder erkennen können, sehr vorsichtig. Die sind auch KI-basiert und können halluzinieren wie jede KI. Sich darauf zu verlassen geht ins Auge. Das angehängte Bild ist in Blender entstanden (inktober, onion) und danach habe ich den Render durch herkömmliche, nicht KI-basierte Filter gejagt. So ziemlich alle "KI-Erkenner" behaupten, das sei mit 97%iger Wahrscheinlichkeit KI.

Carolin (Kamera-)Kram Oct 29

@phantanews @BratApfel Ich find 87 % bei der Modellerkennung schon ein Ansage. Bei Deinem Bild sind's ja nur knapp 39 %, zumindest auf dem Teil, den man sehen kann.
Aber ja, ich würde immer nach konkreten Modellen schauen und nicht generell.

PhantaNews ✅Oct 29

@carolin
97% steht oben deutlich zu sehen. KI-Analysen die KI-basiert sind zu vertrauen ist auch nicht viel cleverer, als Bilder damit zu generieren. Ich bin ebenfalls gegen KI-"Kunst", aber man sollte schon sehr vorsichtig sein, wem man was auf welcher Basis vorwirft. Falschanschuldigungen sind meiner Ansicht nach noch schädlicher als Nutzung von KI, weil das den Künstler°Innen schwer zu schaffen macht und erheblich Respekt vor Künstlöer°In und Werk mangeln lässt.
@BratApfel

Carolin (Kamera-)Kram Oct 29

@phantanews @BratApfel Die 97 % sind die allgemeine Einschätzung. Ich spreche davon, dass die Tools die Wahrscheinlichkeit der Nutzung _konkreter Modelle_ anzeigen, zu sehen in dem Bereich darunter.

Da kommst Du normalerweise nicht auf einen so hohen Wert wie 87 %, wenn Du das Modell nicht verwendet oder seine Ergebnisse nicht bewusst nachgeahmt hast. (In Mannis Fall war's zum Beispiel Stable Diffusion, das Modell hatten einige von uns auch direkt in Verdacht, als wir die Bilder sahen.)

PhantaNews ✅Oct 29

@carolin
Und was genau lässt Dich annehmen, dass die Treffergenauigkeit bei konkreten Modellen höher ist und das Halluzinieren geringer?

Carolin (Kamera-)Kram Oct 29

@phantanews @BratApfel
Solche Modelle halluzinieren bei der Generierung von Daten, nicht beim Pattern Matching. Was bei der Generierung von Daten eine Schwäche ist, nämlich, dass es den Modellen relativ schwer fällt, von Mustern abzuweichen, ist hier ihre Stärke.
Es gibt vieles, das Computer und KI nicht gut können, aber beim Pattern Matching sind sie uns dann doch weit voraus.
Dass sich beim Schulbild diverse unabhängige menschliche Intelligenzen und KIs einig waren, ist schon deutlich.

Carolin (Kamera-)Kram Oct 29

@phantanews @BratApfel (Fun fact zur Mustererkennung: Die Fähigkeiten ist bei neurodivergenten Menschen sehr ausgeprägt und alle Leute in meinem Netzwerk, die direkt „Stable Diffusion“ sagten, sind auch neurodivergent. 😄)

waytooshiny Oct 29

@BratApfel ich kann dein Unbehagen nachvollziehen, aber wie viel unbehaglicher sollte es sein sowas als eigene Kunst zu verkaufen?
Danke für dein drauf aufmerksam machen. ❤️

OlleKnolle Oct 31

@waytooshiny @BratApfel das war auch mein gedanke. ich finde es sehr traurig und schade, dass er sich für diesen umgang entschieden hat (es ist einfach vorsätzliche Täuschung) Vor allem weil ich kunst liebe, und mich traurig macht, wenn künstler ihr eigenes werk „zu schlecht“ finden, und dann lieber sowas hier machen, statt ein blatt papier zu nehmen und fleißig zu üben.

Pete (Mit Vorteil)Oct 30

@BratApfel Der Schattenwurf ist auch all over the place. Ich traue bei sowas wirklich nur noch Leuten, die ihre Arbeit streamen.

@BratApfel Eine Sache muss ich hier - als "Eigentümerin" des Charakters klarstellen. Die Küchenmesser waren ein Wunsch von mir, dass man erkennt, dass es sich um Kochmesser handelt, da ich eine Höllenköchin spiele. Und ja vielleicht sind sie aus der Zeit gefallen, aber das war mein Wunsch und sind definitiv nicht KI.

Jasmin Neitzel Nov 1

@Tatilein Wenn du mit dem Bild zufrieden bist habe ich keinen Grund es dir schlecht zu reden.

@BratApfel So hatte ich das ja auch nicht aufgefasst. Wolte nur klarstellen, dass ein Indiz keines ist. :D

dereisenhofer Oct 29

@BratApfel Die Zähne der linken Person. Eieiei.