Insulin ist nicht kostenlos. Doch ein einziger Tweet, in dem dies behauptet wurde, könnte die Aktionäre Milliarden Dollar gekostet haben.
Als im vergangenen November eine Parodie auf den Twitter-Account von Eli Lilly für kostenloses Insulin warb, verbreitete sich diese faszinierende Fiktion wie ein Lauffeuer und ließ den Aktienkurs des Arzneimittelherstellers um fast 5 Prozent einbrechen, w e auch die Aktienkurse der anderen Insulinhersteller Novo Nordisk und Sanofi beeinträchtigte.
Die Person hinter dem Tweet tat dies, um auf die Gier von Unternehmen und die möglichen Folgen des damals neuen Programms von Twitter hinzuweisen, bei dem jeder, der bereit war, 8 Dollar pro Monat zu zahlen, ein blaues „Verifizierungs“-Häkchen erhielt. Er hat jedoch unbeabsichtigt noch einen weiteren Punkt angesprochen: die zunehmende Fähigkeit von Fehlinformationen (unrichtige Aussagen, die versehentlich oder aus Unachtsamkeit getätigt werden) und Desinformation (absichtlich verbreitete Lügen), Unternehmen zu Fall zu bringen und ganze Branchen zu beeinträchtigen.
Wenn Falschinformationen sich viral verbreiten, kann dies schwerwiegende finanzielle und rufschädigende Folgen haben, und viele Organisationen stehen erst am Anfang, sich mit dieser neuen Realität auseinanderzusetzen.
„Unternehmen müssen sich bewusst sein, dass sich ihr Ruf von einem Moment auf den anderen ändern kann“, sagt Alan Jagolinzer, Professor für Finanzbuchhaltung an der Cambridge Judge Business School und Direktor des Centre for Financial Reporting and Accountability. „Das gilt insbesondere im Umgang mit einem aggressiven Akteur, der über eine starke Anhängerschaft verfügt.“
Zu den Verbreitern von Falschinformationen und Desinformation zählen Leerverkäufer, die darauf hoffen, den Aktienkurs eines Unternehmens zu manipulieren, oder Unternehmen, die versuchen, Zweifel an den Produkten eines Mitbewerbers zu säen. Dabei kann es sich um Einzelpersonen handeln, die persönliche Rachefeldzüge verfolgen, um Opportunisten, die Krisen ausnutzen, um ihre Followerzahlen zu steigern, oder um Nationalstaaten, die versuchen, Chaos und Verwirrung zu schüren.
Marken können Schaden nehmen und Führungskräfte können sich aufgrund falscher Gerüchte oder durch KI erzeugter Deepfakes in eine persönliche Gefahrensituation begeben – zu den jüngsten prominenten Opfern zählen unter anderem „ “ (Tesla), der Online-Händler „ “ (Wayfair) sowie der mexikanische Zementhersteller „ “ (Cemex) .
Und kein Unternehmen ist davon ausgenommen. Während Angriffe auf multinationale Konzerne die meisten Schlagzeilen machen, haben Falschinformationen auch kleine und mittlere Unternehmen betroffen – von Klempnern aus bis hin zu plastischen Chirurgen aus –, häufig in Form negativer „Rache“-Bewertungen auf Plattformen wie Yelp und Google Reviews. Eine Studie des National Bureau of Economic Research mit dem Titel „A 2022 -“ ( ) ergab, dass gefälschte negative Bewertungen dazu führen können, dass kleine Unternehmen ihre Preise um 12 Prozent erhöhen, um Umsatzverluste auszugleichen.
Fehlinformationen (und Desinformation) leicht gemacht
Einen Informationsangriff auf ein Unternehmen zu starten, sei wesentlich einfacher als Phishing oder der Versuch, sich in ein Computernetzwerk zu hacken, um dort Ransomware zu platzieren, betont Lisa Kaplan, Geschäftsführerin und Gründerin der Plattform „Alethea“ zur Bekämpfung von Falschinformationen.
„Man muss technisch versiert sein, um eine Desinformationskampagne zu starten, [und] Personen, die finanziell oder ideologisch motiviert sind, nehmen zunehmend Unternehmen ins Visier.“Lisa Kaplan, Geschäftsführerin und Gründerin von Alethea
„Man muss technisch versiert sein, um eine Desinformationskampagne zu starten – genauso wie man es sein muss, um erfolgreich auf die Systeme großer Bank en zuzugreifen“, sagt sie. „Und während staatliche Akteure ihre besten neuen Tricks in der Regel für geopolitisch bedeutsame Momente aufheben, nehmen Personen, die finanziell oder ideologisch motiviert sind, zunehmend Unternehmen ins Visier.“
Die KI-basierte Artemis-Plattform von Alethea ist Teil eines aufstrebenden Bereichs technologischer Lösungen, die darauf ausgelegt sind, Informationsangriffe zu erkennen und abzuwehren. Es fungiert als virtueller Analyst – es sammelt Informationen im Internet und in sozialen Medien, identifiziert bekannte Akteure und gängige Narrative und sucht nach koordinierten Angriffen. Indem sie frühzeitig darauf hinweisen, dass möglicherweise ein Angriff im Gange ist, verschaffen solche Plattformen Unternehmen Zeit, zu reagieren, bevor sich dieser ausbreitet.
Angriffe können zeitlich auf wichtige Ereignisse abgestimmt sein, wie beispielsweise einen bevorstehenden Börsengang. Es ist entscheidend, einer potenziell schädlichen Meldung zuvorzukommen und die Deutungshoheit zu übernehmen, so Kaplan. Das Unternehmen kann seine Kunden und andere Interessengruppen darüber aufklären, wie sie die bevorstehenden Falschinformationen erkennen können – eine Technik, die als „-Prebunking“ bekannt ist. Studien zeigen, dass „Prebunking“ wirksamer ist als „Debunking“ oder die Überprüfung falscher Informationen, nachdem diese sich bereits verbreitet haben.
„Wenn Sie die ersten Anzeichen dafür wahrnehmen, dass etwas bevorsteht, können Sie die Darstellung ändern, indem Sie sagen: ‚Hier sind die korrekten Informationen‘“, so Kaplan. „Sie können Ihre Interessengruppen als Erster erreichen, und manchmal verschafft Ihnen diese Vorreiterrolle einen Vorteil.“
Deepfakes nehmen zu
Dank generativer KI wird sich das Problem der Falschinformationen bald erheblich verschärfen, so Jevin West, außerordentlicher Professor an der University of Washington und Direktor des dortigen „Center for an Informed Public“.
„Gerüchte verbreiten sich sehr schnell, insbesondere durch Deepfakes und synthetische Medien. Sollten sich Unternehmen darüber noch keine Sorgen machen, sollten sie es tun.”Jevin West, Direktor des „Center for an Informed Public“ der University of Washington
„Die Fähigkeit großer Sprachmodelle wie , sehr schnell qualitativ hochwertige Nachrichten zu generieren, erschwert es Unternehmen erheblich, auf falsche Gerüchte zu reagieren“, sagt West. „Gerüchte verbreiten sich sehr schnell, insbesondere durch Deepfakes und synthetische Medien.“ „Falls sich Unternehmen darüber noch keine Sorgen machen, sollten sie es tun.“
Der Schaden, der durch von KI generierte Falschinformationen entsteht, kann einen Dominoeffekt auslösen. Als Anfang dieses Jahres eine Online-Anzeige für Zahnversicherungen erschien, in der eine Deepfake-Version von Tom Hanks aus dem Film „ “ zu sehen war, hat dies nicht nur dem Ansehen von Tom Hanks geschadet, sondern auch seriösen Versicherern, die ähnliche Produkte anbieten, sowie Unternehmen, mit denen der Oscar-Preisträger tatsächlich geschäftlich verbunden sein könnte.
„Dies untergräbt das Vertrauen der Öffentlichkeit in die gesamte Branche“, sagt West.
Die Fähigkeit, Deepfakes zu erzeugen, habe sich in nur wenigen Jahren dramatisch verbessert, sagt Rijul Gupta, Gründer und Geschäftsführer von DeepMedia, einem Unternehmen, das eine Plattform vermarktet, mit der sich synthetische Medien (durch KI erzeugte Fälschungen) erkennen lassen.
„Vor achtzehn Monaten hätte man möglicherweise 10 Minuten mit dem tatsächlichen Gesicht und der Stimme einer Person benötigt, um eine Fälschung zu erstellen“, sagt er. „Nun benötigen Sie deutlich weniger. „Ich kann Ihnen fast garantieren, dass es öffentlich zugängliche Anwendungen geben wird, die anhand von fünf Minuten Gesichts- und Sprachaufnahmen eine Person dazu bringen können, alles Mögliche zu sagen.“
Die DeepIdentify-Plattform von DeepMedia unterzieht Audio- und Videodateien einer Rückentwicklung, um festzustellen, ob sie mithilfe generativer KI erstellt wurden. Das Unternehmen arbeitet mit dem US-Verteidigungsministerium und großen Social-Media-Plattformen zusammen, um synthetische Medien zu identifizieren, und plant, noch in diesem Jahr eine Unternehmensversion seiner Plattform auf den Markt zu bringen.
„Sollte ein Deepfake des Vorstandsvorsitzenden eines Fortune- 500 -Unternehmens auf TikTok veröffentlicht werden, werden unsere KI-basierten Lösungen danach suchen und feststellen, ob es sich um eine Fälschung handelt“, sagt Gupta. „Sollte es sich um eine Manipulation durch künstliche Intelligenz handeln, werden wir uns an die Plattform wenden und darum bitten, dass der Beitrag entfernt wird.“
Das Problem der Deepfakes dürfte sich noch erheblich verschärfen. Nina Schick, Autorin von „Deep Fakes: The Coming Infocalypse“, hat prognostiziert, dass bis zum Jahr 2026 bis zu 90 Prozent der Inhalte im Internet synthetisch erzeugt sein könnten..
Sich gegen das Unvermeidliche wappnen
Experten sind sich einig, dass sich Organisationen nicht darauf verlassen können, dass Dritte oder Justizbehörden eingreifen und das Problem der Falschinformationen für sie lösen.
Kaplan weist unter anderem darauf hin, dass die jüngsten Kürzungen bei den „Trust and Safety“-Teams durch „ “ bei den großen sozialen Plattformen dazu führen, dass nun die Unternehmen selbst die Verantwortung dafür übernehmen müssen, ihren eigenen Ruf zu schützen. „Ein frühzeitiger Einblick in die Meinungen der Öffentlichkeit führt zu fundierteren Geschäftsentscheidungen“, sagt sie.
Das soll nicht heißen, dass die Technologiebranche völlig aus dem Schneider ist (oder sein sollte). Technologieunternehmen müssen ihren Beitrag leisten, um das Vertrauen der Verbraucher aufzubauen und es wiederherzustellen, wenn es verloren gegangen ist. Die Schaffung ethischer Rahmenbedingungen für die Entwicklung und den Einsatz neuer Technologien ist ein wichtiger erster Schritt, den alle Technologieunternehmen – von Start-ups bis hin zu Großkonzernen – bereits jetzt unternehmen müssen. Das bedeutet, Transparenz und Rechenschaftspflicht von Anfang an in die Entwürfe zu integrieren.
[Lesen Sie auch: Was die Tech-Branche von TikTok lernen kann – Vertrauen ist alles]
Und wie sieht es mit denjenigen außerhalb der Technologiebranche aus? Jagolinzer fordert mehr Maßnahmen, um die Plattformen zur Rechenschaft zu ziehen. Er sagt, große Unternehmen sollten sich hinter Gesetzesinitiativen wie das EU-Gesetz über digitale Dienste „ “ () stellen, und Führungskräfte aus der Wirtschaft müssten ihre Bedenken deutlicher zum Ausdruck bringen und diese direkt an die Medienunternehmen herantragen.
„Wenn ich ein großes Unternehmen leiten würde, würde ich mich intensiv an die Medienunternehmen wenden und sagen: ‚Wenn Sie den Informationsfluss durch Ihre Infrastruktur nicht in den Griff bekommen, bringen Sie uns alle in Gefahr‘“, sagt er.
„Fehlinformationen sind kein Problem, das Organisationen ignorieren dürfen“, fügt West von der UW hinzu. Es bedarf einer koordinierten Zusammenarbeit zwischen Cybersicherheitsteams, Rechtsberatern und Mitarbeitern der Medienarbeit, um Angriffe auf den Ruf eines Unternehmens durch Social-Media-Monitoring, Erkennungstechnologien und Pläne zur Reaktion auf Vorfälle genau im Auge zu behalten..
„Sie müssen in ein Team investieren, das sich mit diesen Dingen befasst“, sagt er. „Denn die Lage wird sich erst noch erheblich verschlechtern, bevor sie sich wieder verbessert.“
