Es gibt keine garantierte Möglichkeit, immer auf einen Blick festzustellen, ob ein Bild von KI generiert wurde. Bestimmte Anomalien können große Werbegeschenke sein, aber sie sind nicht narrensicher. Das Bild eines menschlichen Künstlers kann genauso asymmetrisch und unlogisch sein – und genauso fragwürdig aussehende Hände haben – wie eines, das von KI generiert wurde.
Das soll jedoch nicht heißen, dass nicht auch Technologien entwickelt wurden, um diese Frage zu beantworten. KI-Bilder werden mittels Generative Adversarial Networks (GANs) erstellt. In seinem Universität Montréal Paper “Generative Adversarial Nets” führte Ian J. Goodfellow den Begriff ein und erklärte ihn. „Das generative Modell kann als Analogie zu einem Team von Fälschern angesehen werden, die versuchen, gefälschte Währungen herzustellen und sie unbemerkt zu verwenden, während das diskriminierende Modell der Polizei entspricht, die versucht, die gefälschte Währung zu erkennen“, schrieb Goodfellow. “Beide Teams [attempt] ihre Methoden zu verbessern, bis die Fälschungen nicht mehr von den echten Artikeln zu unterscheiden sind.”
Ein GAN-Detektor ist also ein Mittel, um festzustellen, ob ein solches Modell (und damit eine KI-Erzeugung) zur Erstellung eines Bildes verwendet wurde. Mayachitra bietet eine Demoversion eines solchen Detektors an, dessen Ergebnisse jedoch nicht schlüssig sind. Benutzer können den Ursprung einer kleinen Auswahl bereitgestellter Bilder abfragen oder ihre eigenen hochladen, aber die Ergebnisse scheinen auf „vielleicht GAN-generiert“, „wahrscheinlich GAN-generiert“ und „wahrscheinlich nicht GAN-generiert“ beschränkt zu sein. Eine weitere Option kommt von Bienenstockdas ebenfalls eine Demo seines Tools anbietet.