2024 war und ist ein Jahr der Wahlen \u2013 mit Wahlveranstaltungen in mehr als 60 L\u00e4ndern<\/a> und gesch\u00e4tzt rund 2 Milliarden potenziellen W\u00e4hlern. Ein gefundenes Fressen f\u00fcr politische motivierte Kampagnen, die im gro\u00dfen Stil Fehlinformationen verbreiten wollen und in der digital vernetzten Welt immer raffinierter aufgesetzt sind. Die Cybersecurity-Experten von Sophos X-Ops wollten es genau wissen und haben in einer Machbarkeitsstudie<\/a> dokumentiert, welche zunehmend wichtige Rolle generative KI-Technologien spielt, wenn es darum geht, mit Desinformationen wirkungsvolle Ver\u00e4nderungen im politischen Bereich herbeif\u00fchren.<\/p>\n Gro\u00dfe Sprach- und Bildmodelle bieten Cyberkriminellen, die auf politische Einflussnahme abzielen, effektive Werkzeuge f\u00fcr die Erstellung anspruchsvoller, individualisierter Inhalte in gro\u00dfem Ma\u00dfstab. Diese Projekte waren bislang schwierig zu realisieren und sehr arbeitsintensiv, die neuen Technologien sorgen aber daf\u00fcr, dass das von b\u00f6swilligen Akteuren ausgehende Risiko neue Dimensionen erreicht.<\/p>\n In letzter Zeit tauchen immer h\u00e4ufiger F\u00e4lle auf, in denen Kriminelle K\u00fcnstliche Intelligenz missbrauchen, wie zum Beispiel die Verwendung generativer Texte beim Versenden von Nachrichten an Betrugsopfer<\/a>, die Nutzung generativer Bilder zur Erstellung irref\u00fchrender Social-Media-Beitr\u00e4ge oder der Einsatz von \u201eDeepfake\u201c-Videos und -Stimmen f\u00fcr Social Engineering. Dieselben Instrumente kommen zunehmend im Rahmen politischer Fehlinformations- und T\u00e4uschungskampagnen zum Einsatz.<\/p>\n \u201eAngesichts der Relevanz dieser Thematik auch auf politischer Ebene ist es besonders wichtig, die Auswirkungen neuer Technologien auf gezielte Fehlinformationen zu verstehen\u201c, so Ben Gelman, Senior Data Scientist bei Sophos. \u201eIn unserer Analyse untersuchen wir eine der gr\u00f6\u00dften neuen Bedrohungen durch den b\u00f6swilligen Einsatz generativer KI: ma\u00dfgeschneiderte Fehlinformationen. W\u00e4hrend ein Gro\u00dfteil der Empf\u00e4nger einer unpers\u00f6nlichen Massen-E-Mail mit Fehlinformationen, die mit dem Inhalt nicht einverstanden sind, aus einer Kampagne aussteigen, werden im Micro Targeting Desinformationen nur an solche Personen versandt, die h\u00f6chstwahrscheinlich damit einverstanden sind. Dadurch entsteht eine erschreckende, neue Effizienz solcher Kampagnen.\u201c<\/p>\n Der aktuelle Report basiert auf bereits von Sophos X-Ops durchgef\u00fchrten Untersuchungen<\/a>, bei denen ein speziell f\u00fcr diese Zweck entwickeltes Tool zum Einsatz kam. Dieses startet automatisch eine E-Commerce-Betrugskampagne auf der Grundlage KI-generierter Texte, Bilder und Audiodateien, in deren Rahmen in hoher Anzahl \u00fcberzeugende, betr\u00fcgerische Webshops erstellt werden k\u00f6nnen. Nach einer Neukonfiguration konnten mit dem Tool Websites f\u00fcr politische Kampagnen mit beliebigen Merkmalen erstellt werden. Durch die Kombination gef\u00e4lschter Social-Media-Profile mit mehreren Kampagnen-Webseiten waren die Forscher in der Lage, \u00fcberzeugende, personalisierte E-Mails zu erstellen, die individuelle Argumente verwenden, um Menschen bestm\u00f6glich davon zu \u00fcberzeugen, an eine Kampagne zu glauben \u2013 auch wenn die Menschen diesen Ideen im Allgemeinen nicht zustimmen. Das genaue Vorgehen dieses gro\u00df angelegten Micro Targetings kann im englischen Blogbeitrag<\/a> anhand verschiedener Beispiele nachgelesen werden.<\/p>\n \u201eDie F\u00e4higkeit, personalisierte, fein abgestimmte politische Inhalte zu produzieren, birgt ein erhebliches Risiko f\u00fcr verst\u00e4rkte Fehlinformation, Finanzbetrug und die Vertiefung der ideologischen Polarisierung. Um diesen Trend zu begegnen, ist ein vielschichtiger Ansatz, der technologische, p\u00e4dagogische und gesetzgeberische Anstrengungen vereint, unerl\u00e4sslich\u201c, so Gelman. \u201eAus technischer Sicht kann die kontinuierliche Verbesserung von KI-generierten Inhaltsklassifizierern und Faktenpr\u00fcfern bei der Identifizierung von Bedrohungen helfen. Im Bildungsbereich kann die St\u00e4rkung des \u00f6ffentlichen Bewusstseins f\u00fcr KI-generierte Inhalte in Verbindung mit illegal erworbenen, personenbezogenen Daten die Zahl der Opfer, die auf Betr\u00fcgereien hereinfallen, verringern \u2013 und nat\u00fcrlich wird auch der Umgang des Gesetzgebers mit dem Thema K\u00fcnstliche Intelligenz eine entscheidende Rolle spielen.\u201c<\/p>\n<\/p><\/div>\n
![](\"https:\/\/news.sophos.com\/wp-content\/uploads\/2024\/09\/shutterstock_2307688421.jpg\"\/)
<\/p>\n