Insulin ist nicht kostenlos. Aber ein einziger Tweet, der behauptet, dass er Aktionäre Milliarden von Dollar gekostet hätte.
Als eine Parody des Twitter-Kontos von Eli Lilly letzten November kostenloses Insulin förderte, wurde die faszinierende Fiktion viral und ließ den Aktienkurs des Arzneimittelherstellers um fast 5 Prozent stürzen, sogar die Aktien anderer Insulinhersteller Novo Nordisk und Sanofi.
Die Person hinter dem Tweet hat es getan, um einen Punkt über die Unternehmensgier und die potenziellen Folgen des damals neuen Twitter-Programms zu machen , das jedem, der bereit ist, 8 US-Dollar pro Monat auszugeben, einen blauen „verifizierten“ Scheck gibt. Aber er hat auch unbeabsichtigt einen zusätzlichen Punkt gemacht: die zunehmende Fähigkeit von Fehlinformationen (ungenaue Aussagen, die versehentlich oder durch Nachlässigkeit gemacht werden) und Desinformationen (beabsichtigt gesagt), Unternehmen zu täuschen und ganze Branchen zu beeinflussen.
Wenn falsche Informationen viral werden, kann dies schwerwiegende finanzielle und Reputationsschäden verursachen, und viele Organisationen beginnen gerade erst herauszufinden, wie sie mit dieser neuen Realität umgehen können.
„Unternehmen müssen erkennen, dass sich ihr Ruf auf einem Dime verändern kann“, sagt Alan Jagolinzer, Professor für Finanzbuchhaltung an der Cambridge Judge Business School und Direktor des Centre for Financial Reporting and Accountability. „Das trifft besonders auf einen belligeren Schauspieler mit starker Anhängerschaft zu.“
Verbreiter von Fehlinformationen und Desinformationen können die Form von Leerverkäufern annehmen, die den Aktienkurs eines Unternehmens manipulieren möchten, oder Unternehmen, die versuchen, Zweifel an den Produkten eines Wettbewerbers auszuräumen. Es kann sich um Personen handeln, die persönliche Vendettas verfolgen, Opportunisten, die Krisen nutzen, um ihr Publikum aufzubauen, oder Länderstaaten, die versuchen, Chaos und Verwirrung zu erschüttern.
Marken können beschädigt werden und Führungskräfte können sich aufgrund falscher Gerüchte oder KI-generierter Deepfakes einem persönlichen Risiko aussetzen – mit Tesla, dem Online-Einzelhändler Wayfair und dem mexikanischen Zementanbieter Cemex unter den jüngsten hochkarätigen Opfern.
Und kein Geschäft ist immun. Während Angriffe auf multinationale Konzerne die meisten Schlagzeilen erfassen, haben falsche Informationen kleine und mittlere Unternehmen von Klempnern bis hin zu plastischen Chirurgen betroffen, oft in Form negativer „Rache“-Bewertungen auf Websites wie Yelp und Google Reviews. Eine 2022 -Studie des National Bureau of Economic Research ergab, dass gefälschte negative Bewertungen dazu führen können, dass kleine Unternehmen ihre Preise um 12 Prozent erhöhen, um Umsatzverluste auszugleichen.
Fehlinformation (und Desinformation) leicht gemacht
Der Start eines Informationsangriffs auf ein Unternehmen ist viel einfacher als Phishing oder der Versuch, sich in ein Computernetzwerk einzuhacken, um Ransomware zu pflanzen, betont Lisa Kaplan, CEO und Gründerin der Plattform zur Verhinderung von Fehlinformationen Alethea.
„Sie müssen nicht technisch versiert sein, um eine Desinformationskampagne zu starten, [und] Menschen, die finanziell oder ideologisch motiviert sind, zielen zunehmend auf Unternehmen ab.“Lisa Kaplan, CEO und Gründerin von Alethea
„Sie müssen nicht technisch versiert sein, eine Desinformationskampagne auf die gleiche Weise zu starten, wie Sie es tun, um erfolgreich auf große Banksysteme zuzugreifen “, sagt sie. „Und während Staatsakteure dazu neigen, ihre besten neuen Tricks für geopolitische Momente zu speichern, zielen Menschen, die finanziell oder ideologisch motiviert sind, zunehmend auf Unternehmen ab.“
Die KI-basierte Artemis-Plattform von Alethea ist Teil eines aufstrebenden Bereichs technologischer Lösungen, die darauf ausgelegt sind, Informationsangriffe zu erkennen und zu bekämpfen. Sie fungiert als virtueller Analyst und sammelt Informationen über das Internet und soziale Medien, identifiziert bekannte Schauspieler und gemeinsame Erzählungen und sucht nach koordinierten Angriffen. Durch die Bereitstellung eines Frühwarnsignals, dass ein Angriff durchgeführt werden kann, geben solche Plattformen Unternehmen Zeit, zu reagieren, bevor sie sich ausbreiten.
Angriffe können um kritische Ereignisse, wie z. B. einen bevorstehenden Börsengang, zeitlich begrenzt werden. Der Schlüssel ist, sich einer potenziell schädlichen Geschichte zu stellen und die Kontrolle über die Geschichte zu übernehmen, sagt Kaplan. Das Unternehmen kann seine Kunden und andere Stakeholder warnen, wie sie die Fehlinformationen identifizieren können, die sich auf dem Weg befinden – eine Technik, die als „Prebunking“ bekannt ist. Studien zeigen, dass Prebunking wirksamer ist als das Debunking oder die Tatsachenüberprüfung falscher Informationen, nachdem es sich ausgebreitet hat.
„Wenn Sie die frühen Warnsignale erkennen, dass etwas passieren wird, können Sie die Geschichte ändern, indem Sie sagen: „Hier sind die genauen Informationen“, sagt Kaplan. „Sie sind in der Lage, zuerst zu Ihren Stakeholdern zu gelangen, und manchmal hilft Ihnen das erste zu gewinnen.“
Deepfakes sind auf dem Vormarsch
Dank generativer KI werden Fehlinformationen viel schlimmer, sagt Jevin West, außerordentlicher Professor an der University of Washington und Direktor des Center for a Informed Public der Universität.
„Gerüchte verbreiten sich sehr schnell, insbesondere mit Deepfakes und synthetischen Medien. Wenn Unternehmen sich darüber nicht bereits Sorgen machen, sollten sie das tun.“Jevin West, Direktor des Center for a Informed Public der University of Washington
„Die Fähigkeit großer Sprachmodelle , sehr schnell qualitativ hochwertige Nachrichten zu generieren, erschwert es Unternehmen, auf falsche Gerüchte zu reagieren“, sagt West. „Gerüchte verbreiten sich sehr schnell, insbesondere mit Deepfakes und synthetischen Medien. Wenn Unternehmen sich nicht schon Sorgen machen, sollten sie das tun.“
Der Schaden durch AI-generierte Fehlinformationen kann eine Ripple-Wirkung haben. Als Anfang des Jahres eine Online-Werbung für Zahnversicherungspläne mit einer Deepfake-Version von Tom Hanks erschien, schmälerte dies nicht nur den Ruf von Hanks, sondern schadete auch legitimen Versicherern, die ähnliche Produkte anbieten, sowie Unternehmen, mit denen der Oscar-gewinnende Schauspieler möglicherweise tatsächlich Geschäfte tätigt.
„Dies reduziert das Vertrauen der Öffentlichkeit in die gesamte Branche“, sagt West.
Die Fähigkeit, Deepfakes zu generieren, hat sich in nur wenigen Jahren dramatisch verbessert, sagt Rijul Gupta, Gründer und CEO von DeepMedia, der eine Plattform vermarktet, die synthetische Medien (von KI produzierte Fälschungen) erkennen kann.
„Vor achtzehn Monaten haben Sie vielleicht 10 Minuten des tatsächlichen Gesichts und der Stimme einer Person benötigt, um eine Fälschung zu generieren“, sagt er. „Jetzt brauchen Sie viel weniger. Ich kann Ihnen fast garantieren, dass es öffentlich verfügbare Anwendungen gibt, die fünf Minuten von Gesicht und Stimme einer Person dauern und sie dazu bringen, alles zu sagen.“
DeepIdentify-Plattform von DeepMedia entwickelt Audio- und Video-Reverse-Engineering, um festzustellen, ob sie durch generative KI zusammengesetzt wurden. Das Unternehmen arbeitet mit dem US-Verteidigungsministerium und den wichtigsten Social-Media-Plattformen zusammen, um synthetische Medien zu identifizieren, und plant, eine Unternehmensversion seiner Plattform später in diesem Jahr herauszugeben.
„Wenn ein Deepfake des CEO eines Fortune- 500 -Unternehmens auf TikTok veröffentlicht wird, suchen unsere KI-Containment-Lösungen danach und bestimmen, ob es gefälscht ist“, sagt Gupta. „Wenn es sich um eine KI-Manipulation handelt, werden wir uns an die Plattform wenden und sie bitten, sie herunterzunehmen.“
Das Deepfakes-Problem wird wahrscheinlich viel schlimmer. Nina Schick, Autorin von Deep Fakes: The Coming Infocalypse, hat vorhergesagt, dass bis 2026 bis zu 90 Prozent der Inhalte im Internet synthetisch generiert werden könnten.
Verteidigung gegen das Unvermeidliche
Experten sind sich einig, dass Organisationen sich nicht auf Dritte oder Rechtsbehörden verlassen können, um das Fehlinformationsproblem für sie zu beheben.
Kaplan stellt zum einen fest, wie die jüngsten Kürzungen für Vertrauens- und Sicherheitsteams auf wichtigen sozialen Plattformen Organisationen dazu anregen, die Führung bei der Sicherung ihres eigenen Rufs zu übernehmen. „Ein früher Einblick in das, was da draußen gesagt wird, führt zu intelligenteren Geschäftsentscheidungen“, sagt sie.
Nicht, dass der Technologiesektor vollständig vom Haken ist (oder sein sollte). Technologieunternehmen müssen ihren Teil dazu beitragen, das Vertrauen der Verbraucher aufzubauen und es bei Verlust wiederherzustellen. Die Etablierung ethischer Rahmenbedingungen, die die Schaffung und Nutzung neuer Technologien regeln, ist ein wichtiger erster Schritt, den alle Technologieunternehmen, von Start-ups bis zu Megamarken, sofort ergreifen müssen. Das bedeutet, von Anfang an Transparenz und Rechenschaftspflicht in Designs zu integrieren.
[Lesen Sie auch: Was der Technologiesektor von TikTok lernen kann – Vertrauen ist alles]
Was diejenigen außerhalb des Technologiesektors angeht? Jagolinzer drängt auf weitere Maßnahmen, um die Plattformen zur Rechenschaft zu ziehen. Er sagt, große Unternehmen sollten hinter Gesetzen wie dem Digital Services Act der EU zurückbleiben, und Führungskräfte müssen ihre Bedenken deutlicher gegenüber Medienorganisationen äußern.
„Wenn ich ein großes Unternehmen führen würde, würde ich überall in den Medienunternehmen sein und sagen: „Wenn Sie die Informationen, die durch Ihre Infrastruktur fließen, nicht im Griff haben, setzen Sie uns alle einem Risiko aus“, sagt er.
Fehlinformationen sind kein Problem, das sich Unternehmen leisten können, zu ignorieren, fügt UW West hinzu. Es wird eine koordinierte Anstrengung zwischen Cybersicherheitsteams, Rechtsberatern und Medienbeziehungen-Personal erfordern, um Angriffe auf den Ruf eines Unternehmens durch Social Media Listening, Erkennungstechnologie und Vorfallreaktionspläne genau zu überwachen.
„Du musst in ein Team investieren, das auf dieses Zeug achtet“, sagt er. „Weil die Dinge viel schlechter werden, bevor sie besser werden.“
