
Zwischen Realität und Täuschung: Die unheimliche Macht der KI in unserer Welt
Inhaltsverzeichnis
- Eine kuriose Geschichte aus Hongkong und London: Der mysteriöse Vorfall mit der gefälschten Transaktion
- Virtuelle Influencer und echte Verwirrung: Die faszinierende Welt der künstlichen Stars
- Von Algorithmen geprägte Kulturen: Wie das Internet unsere Vorstellungen formt
- Träume auf Bestellung: Die Verlockung der maßgeschneiderten Wohnideale
- Der Mythos der perfekten Bilder: Die Versuchung hinter der Nikon Z9 und ihren Versprechen
- Die dunkle Seite der KI-Autoren: Die Flut von generierten Büchern und ihre Auswirkungen
- Zwischen Technologie und Menschlichkeit: Die Debatte um den Einsatz von KI
Eine kuriose Geschichte aus Hongkong und London: Der mysteriöse Vorfall mit der gefälschten Transaktion
Vor kurzem habe ich eine skurrile Geschichte im Internet gelesen: Ein Mitarbeiter eines Hongkonger Unternehmens erhielt eine Nachricht vom CFO der Londoner Firmenzentrale, in der er um eine ‚geheime Transaktion‘ bat. Zunächst hielt er diese mysteriöse Nachricht für einen Phishing-Angriff, stimmte jedoch zu, alles in einem Video-Call zu klären. Sowohl der britische CFO als auch viele seiner Kollegen waren in der Videokonferenz zu sehen und zu hören. Alle Teilnehmer bestätigten die notwendige Transaktion. Dass es sich bei allen Anwesenden um Komplizen handelte, die in Echtzeit mit Deepfakes ausgestattet wurden, bemerkte er nicht. Die Informationen, wie Aussehen und Stimme der Mitarbeiter, stammten aus öffentlichen Profilen und diversen Videos. Der Betrug dauerte eine Woche. Die Betrüger kontaktierten den Mitarbeiter immer wieder über Chats, E-Mails und Videocalls. In dieser Zeit seien insgesamt 15 Überweisungen auf fünf verschiedene Bankkonten erfolgt, insgesamt 25 Millionen Dollar. Aufgeflogen ist das Ganze erst, als er die Firmenzentrale kontaktierte.
Virtuelle Influencer und echte Verwirrung: Die faszinierende Welt der künstlichen Stars
Wie ein Lauffeuer verbreitet sich diese Geschichte im Internet. Viele werden sich fragen, wie der Mitarbeiter sich dermaßen täuschen lassen konnte. Mittlerweile denke ich jedoch, dass jeder von uns auf diese Art von Betrug hereinfallen könnte. Wir werden täglich von KI-generierten Bildern überschwemmt, ohne es zu bemerken. Ich wurde aufmerksam auf das Thema, als ich einen Artikel darüber las, dass Influencer zu gierig geworden sind und Unternehmen die hohen Marketingkosten nicht mehr zahlen können oder wollen. Als Reaktion darauf wurden künstliche Influencerinnen mithilfe von KI entwickelt. Einige dieser KI-Influencerinnen sind auf Instagram sehr erfolgreich und haben viele Tausend Follower, zum Beispiel @Aitana oder @Miquela, die von zahlreichen Menschen als real angesehen werden, obwohl es sich um generierte Bilder handelt. Die Art der Fotos von realen Influencern haben mich noch wirklich angesprochen, sodass ich diesen Menschen nicht folgen würde. Doch die generierten Bilder digitaler Influencer sind noch schlimmer. Selten wurden meine Augen auf so plumpe Art und Weise ästhetisch beleidigt.
Von Algorithmen geprägte Kulturen: Wie das Internet unsere Vorstellungen formt
Wir leben in einer Welt, die mittlerweile von Algorithmen beherrscht wird. Es ist unbestreitbar, dass diese auch weltweit die Kulturen verändert haben. Der Wandel begann schleichend. In der Naturfotografie war es beispielsweise das immer wiederkehrende Bild einer Frau in einer einfarbigen Jacke, die in eine spektakuläre Landschaft blickt. Dieses sich immer ähnelnde Bild im typischen melancholischen Moodylook, dass Sehnsucht nach dem Unbekannten suggeriert, findet man von Kanada über die Alpen bis hin zu ostasiatischen Accounts.
Ein weiteres Beispiel sind Aufnahmen von Internetcafés. Diese zeigen typische Leuchtreklamen auf unverputzten Ziegelwänden. Wir finden solche Bilder von Nairobi über Berlin bis nach Tokyo. Diese maschinengesteuerte Kuration hat nicht nur zunehmend Einfluss auf die Art und Weise, wie wir Kultur weltweit konsumieren, sondern auch auf die Art und Weise, wie Kultur produziert wird.

Träume auf Bestellung: Die Verlockung der maßgeschneiderten Wohnideale
Doch es geht noch weiter. Stell dir vor, dass Bilder mithilfe von KI in Echtzeit generiert werden, basierend auf deinen Vorlieben, die aus deinem Nutzerverhalten abgeleitet werden. In der New York Times ist kürzlich ein Artikel zu diesem Thema erschienen, der sich speziell mit unseren Wohn- und Einrichtungsträumen beschäftigt.
Amanda Hess schreibt: „In den letzten Jahren ist eine ganze KI-Traumhauswirtschaft entstanden.“ Wenn Sie auf Pinterest nach Deko-Inspirationen suchen, werden Sie feststellen, dass es voll ist mit künstlichen Schlafzimmern. Diese führen zu Websites, auf denen billige Wohnaccessoires angeboten werden. Auf TikTok und X gibt es ‚House Porn‘-Konten, die antiseptische Loft-Renderings und unmögliche Ansichten aus nicht existierenden Pariser Wohnungen produzieren. Die Website ‚This House Does Not Exist‘ generiert auf Befehl zufällig neue Häuser. Dutzende von KI-gestützten Designdiensten und Apps produzieren raffinierte Bilder, die auf Ihre Spezifikationen abgestimmt sind.“
Instagram ist ebenfalls voll von KI-generierten Wohnträumen. Ein Beispiel hierfür ist der Account @tinyhouseperfect. Ich muss gestehen, dass ich auch auf diese Bilder hereingefallen bin. Ich habe mich tatsächlich des Öfteren gefragt, ob diese Häuser in diesem Land keiner Bauordnung unterliegen oder warum es anderswo so einfach ist, sein Tinyhouse einfach so in die Landschaft zu stellen. Das diese Bilder gar nicht echt sind, darauf bin ich gar nicht gekommen. Später ist mir aufgefallen, dass diese Bilder ohne Leben sind. Es fehlen nicht nur Menschen oder Tiere, sondern auch alltägliche Dinge. Die Bilder wurden einzig und allein generiert, um Menschen in eine unwirkliche Welt zu entführen und ihnen das Gefühl zu geben, dass ihnen etwas zum perfekten Leben fehlt. Wie viele Blogs und Youtuber beschäftigen sich mit dem Thema nach einem glücklichen Leben?

Der Mythos der perfekten Bilder: Die Versuchung hinter der Nikon Z9 und ihren Versprechen
Dabei wäre es doch so einfach, das perfekte Leben, das immerwährende Glück zu finden. Vor allem in der Fotografie. Wie konnte es mir nur passieren, dass ich in den letzten Monaten nicht kreativ fotografieren gehen konnte um dabei das unglaubliche Glück eines perfekten Fotos zu erleben? Dabei wäre alles so einfach gewesen. Nur fast 6000 € fehlten mir zu meinem immerwährenden Glück, eine Nikon Z9 mit Deep Learning KI Funktion zu besitzen. Unglaublich was die Kamera – ein „Inbegriff von Hartnäckigkeit und Leistungsstärke“ (ist aus dem Werbetext übernommen) – mit ihrer gesteigerten AF-Geschwindigkeit, der Burst Rate, der Pufferkapazität, dem 3D-Trackingsystem, Aufnahmeserien bis zu 1000 Bildern in voller Auflösung in Folge, mit den schnellsten Sensor Abtastraten usw. alles leistet und kann. Und wie heißt es so schön in der Nikon Z9 Beschreibung:
„Durch die hochmoderne Technologie überlässt man ein gutes Bild somit nicht mehr dem Zufall.“
Es ist schade, dass ich nicht wusste, dass ich mit der Kamera tausend perfekte Bilder in Folge machen könnte. Ich hätte so glücklich sein können.
Die dunkle Seite der KI-Autoren: Die Flut von generierten Büchern und ihre Auswirkungen
Doch es geht bei weitem nicht nur um perfekte Bilder. Hast du den Wunsch, Autorin zu werden und Bücher zu veröffentlichen, ohne das du schreiben kannst? Dann hast du jetzt die Möglichkeit dazu. Es gibt eine KI, bei der du nur das Thema eingeben musst und innerhalb weniger Minuten schreibt sie dir ein ganzes Buch. Ich habe sie selbst ausprobiert und mir verschiedene Varianten zum Thema Naturfotografie schreiben lassen. Das Inhaltsverzeichnis und die Texte basieren auf bereits publizierter Bücher zum Thema. Mit nur einem Unterschied: Diese KI-Generierten Texte sind nicht lesbar. Die Satzanfänge sind fast in jedem Abschnitt gleich und die Texte wirken beliebig und leblos, als wären sie in einer KI-Mikrowelle abgetötet worden. Das diese Bücher einen Aufschrei in der Autorenwelt verursachen ist verständlich: aktuell werden sie massenhaft bei Amazon Kindle eingestellt und zum Verkauf angeboten.
Als ich meine Blogartikel, die die nötigen Zählpixel erreicht hatten, bei der VG-Wort Anfang des Jahres gemeldet habe, musste ich daran denken. Denn ich musste abschließend bestätigen, dass meine Texte nicht von einer KI generiert wurden. Der Witz daran ist, dass es momentan kein KI gibt, die zuverlässig KI generierte Texte erkennen kann.
Mittlerweile gibt es zu fast jedem Thema eine KI: Du brauchst SEO-optimierte Texte? Du möchtest eine komplette Webseite mit KI erstellen? Du möchtest Fantasie-Geschichten à la Harry Potter oder Herr der Ringe schreiben? Auch hierfür gibt es KI-Modelle. Das Verlage nun Sturm laufen und verhindern wollen, das Suchmaschinen mit neuster KI-Funktion wie Google vorhandene Webseiten und Bücher durchsuchen, um daraus neue Texte zu generieren, ist verständlich. Ähnlich wie bei KI generierten Bildern geht es bei den verwendeten Texten vor allem um Urheberrechte und wie diese vergütet werden könnten.
Zwischen Technologie und Menschlichkeit: Die Debatte um den Einsatz von KI
Die Welt, in der wir leben, schmerzt mich teilweise sehr. Vor allem wenn ich sehe, wie viel Energie in eine digitale Welt gesteckt wird, während die analoge Welt mit Verbundenheit, gegenseitiger Hilfe immer mehr schrumpft und die Menschen trotz massenhafter digitaler Kontakte in der realen Welt vereinsamen.
Grundsätzlich stehe ich neuen Technologien aufgeschlossen gegenüber und sehe viele Vorteile darin, KI in verschiedenen Bereichen einzusetzen. Ich nutze Chat GPT zur Recherche und arbeite gerne mit deepl write, um meine Texte zu verbessern.
Derzeit teste ich die KI-Funktionen in Photoshop, auch wenn mich die Ergebnisse bisher nicht begeistern. Für diesen Blogartikel habe ich für die drei KI-erstellten Abbildungen gefühlt länger gebraucht, als wenn ich sie selbst fotografiert hätte. Es ist sehr mühsam der KI textliche Anweisungen zu geben und oft habe ich das Gefühl, sie versteht gar nichts. Und wenn man sich die generierten Abbildungen im Detail anschaut, sieht man viel Artefakte und verschwommene Elemente. Das tut schon weh hinzuschauen.
Jedenfalls benutze ich all diese Funktionen, um meine eigenen Texte und Bilder zu bearbeiten und meinen eigenen Stil zu optimieren. Das KI-Funktionen hilfreich sein können, ist unbestreitbar. Die Frage ist wie immer, was wir Menschen daraus machen. Es ist für mich erschreckend zu sehen, mit welcher kriminellen Energie diese Funktionen eingesetzt werden, um uns, unsere Gefühle, unsere Gedanken und unsere Wünsche zu manipulieren. Freude oder Mangel zu generieren, um noch mehr zu konsumieren.
Was kann man dagegen tun? Ich glaube, die einzige Möglichkeit ist, diese Medien nicht mehr zu konsumieren, sie zu ignorieren. Instagram ist noch die einzige Plattform, auf der ich ab und zu unterwegs bin. Da dort aber Werbung und gefälschte Bilder überhandnehmen, ziehe ich mich immer mehr zurück. Es tut mir leid für die vielen Künstler, die massiv unter dieser Entwicklung leiden, weil die Algorithmen ihre Werke nicht mehr anzeigen und man stattdessen mit gesponserten Posts überflutet wird.
Irgendwann werden sich die meisten besinnen und vielleicht wieder eigene Webseiten, Blogs oder vor Ort reale Ausstellungsmöglichkeiten etc. betreiben, wo sie selbstbestimmt agieren können. Ich fühle mich heute in meiner Entscheidung vor einigen Jahren bestärkt, meinem Blog mehr Aufmerksamkeit zu schenken und meine Aktivitäten auf Instagram einzuschränken. Ich werde weiterhin echte handgebundene Bücher veröffentlichen. Alle Bilder und Texte sind echt auf meiner Webseite. Vielleicht nicht perfekt, aber authentisch!
Zuletzt kommentiert
Roland
KI ist ein spannendes Thema. Ich nutze gerne als Ideengeber Text-KIs. Meine Erfahrung ist, das sämtliche KI-Tools mit der Zeit immer dümmer und qualitativ schlechter werden. Ich hab mich neulich mit einem Freund darüber unterhalten, der diese Erfahrung auch schon beobachtet hat. Es ist nicht nur die Qualität der Texte die nachlässt, die KI-Tools sind mit der Zeit heillos mit den einfachsten Aufgaben überfordert.
Grafik-KI teste ich derzeit als Recherche für einen eigenen Blogartikel und habe damit auch schon Buya Personas visualisiert. Freepik AI generiert hierbei meiner Meinung nach mitunter täuschend echte Fotos. Das ist zwar einerseits extrem spannend, gleichzeitig aber besorgniserregend. Und das ist ein kostenloses Tool, es gibt professionelle Tools, die weitaus leistungsstärker sind. Deepfakes gibt es in der öffentlichen Wahrnehmung schon seit 6 oder 7 Jahren, also lange bevor all die heutigen KI-Tools der breiten Masse zur Verfügung standen. „Dank“ KI können auch mittlerweile Stimmen imitiert werden! Wo soll die Entwicklung noch hinführen?
Bei Instagram sehe ich auch manchmal Fotos, bei denen ich mir sicher bin KI-generiert zu sein. Die Kennzeichnungspflicht ist ja gut und nett, aber was ist, wenn ich das nicht mache und es als mein Eigentum ausgebe? Vom moralischen Standpunkt mal abgesehen. Ich bin gespannt, wie sich die Technik noch entwickeln wird und beobachte es gleichzeitig mit Sorge. Sowohl was die Gefahren in Hinblick auf Missbrauch angeht, aber auch in Punkto Entwicklung der Menschen. Viele, die jetzt schon Probleme mit Nachdenken und Logik haben, werden durch KI noch dämlicher und sinken tiefer ab. Wenn der Verstand abgegeben wird, um eine KI das Denken zu überlassen, geht es bergab.
Tom
Ich bin bezüglich KI wirklich hin- und hergerissen.
Gerade dein Beispiel aus Hongkong/London zeigt, wie gefährlich das Ganze werden kann. Ich kann mich noch gut an den Roman 1984 erinnern – im Jahr 1983 war das eine nahe, pessimistische Sicht der Welt. Heute, 2024 sind die Möglicheiten der KI denen des big brother von Orwell um Welten überlegen.
Andererseits – im Bereich der Fotografie wird dadurch auch vieles einfacher, was früher nur technisch aufwendig realisierbar war. Zum Beispiel Langzeitbelichtung für Effekte wie „seidiges Wasser“ oder menschenleere Plätze.
Im Bereich der Bildung ist es beides – eine riesengroße Chance für individuelles Lernen, aber ebenso auch zum Schummeln.
Pessimistisch würde ich im Hinblick auf PISA sogar fast sagen: KI ist unsere letzte Chance…
Aber wie dem auch sei: KI ist in der Welt und wird es, solange wir Technik nutzen, auch bleiben. Also können wir nur versuchen, das Beste daraus zu machen. Und wachsam zu bleiben.
Pflästerer, Gerhard
Hallo Frau Jana,
Sie haben einen sehr informativen Artikel geschrieben, aus dem ersichtlich ist,
dass der Ki Hype seine Vor = und Nachteile hat.
Die Betrügereien können wir nicht verhindern, sondern nur selbst aufpassen,
soweit es möglich ist, dass wir nicht über den Tisch gezogen werden.
Wir haben gestern Abend bei unserem Ladenburger Fototreff auch über die Möglichkeiten der Bildbearbeitung im Fotoshop/Lightroom gesprochen bzw. diskutiert, die Meinungen sind da sehr unterschiedlich. Ich finde es s sehr angenehm die KI für das von mir gemachte/fotografierte Bild zur Optimierung
einzusetzen.
Mit den besten Fotogrüssen
Gerhard Pflästerer
Jana Mänz
Pflästerer, GerhardLieber Gerhard,
die KI in Lightroom ist teilweise wirklich gut, an anderer Stelle gar nicht… Ich bin selber noch am ausprobieren und denke es liegt an der Art des Bildes. Das wird sich aber sicherlich in den nächsten Jahren sehr verbessern und da ist KI wirklich eine Bereicherung.