In letzter Zeit lief es für den Social-Media-Riesen TikTok nicht gerade rosig. Zunächst befragte der Kongress eingehend zu dessen Datenschutzpraktiken. Daraufhin verhängte die britische Regierungsbehörde „ “ gegen eine Geldstrafe in Höhe von £12,7 Millionen (etwa 15,8 Millionen US-Dollar) wegen der Verwendung personenbezogener Daten von Kindern ohne elterliche Einwilligung. Die Liste „ “ mit Regierungen – darunter die USA, die EU, Kanada, Neuseeland und Australien –, die die Nutzung durch ihre Mitarbeiter verbieten, wird immer länger. Und in den USA überwiegen die Nutzer, die ein TikTok-Verbot befürworten , gegenüber denjenigen, die dies nicht tun , im Verhältnis 2-to-1 zu 1.
TikTok ist kein Einzelfall. Die Aufmerksamkeit, die dem Technologiesektor zuteilwird, ist so groß wie nie zuvor. Und der Groll gegen die großen Technologiekonzerne ist wohl das Einzige, worüber sich Republikaner und Demokraten derzeit einig sind. „Es ist Zeit für 2023“, sagte Senatorin Amy Klobuchar (D-MN) bei NBC News im Zusammenhang mit den jüngsten parteiübergreifenden Gesetzesinitiativen zur Eindämmung der „Big Tech“-Konzerne. „Lassen Sie es unser Vorsatz sein, dass wir endlich einen dieser Gesetzentwürfe verabschieden.“
Kurz gesagt: Es kommt auf das Vertrauen an. Für Technologieunternehmen ist diese Ressource knapp. Dies wiederzuerlangen, ist nun von entscheidender Bedeutung.
Das Problem: Vertrauen setzt ethisches Bewusstsein voraus, und den meisten Unternehmen – sowohl aus dem Technologiebereich als auch aus anderen Branchen – fehlt es an einem ethischen Rahmenwerk im Zusammenhang mit Technologie. Dies geht aus dem ersten Bericht von Deloitte mit dem Titel „ : State of Ethics and Trust in Technology“ mit dem Titel „“ hervor, der im Dezember veröffentlicht wurde.
Im Rahmen der Umfrage wurden fast 1 800 Fachleute aus acht Branchen (darunter Technologie, Finanzdienstleistungen,, Gesundheitswesen,, sowie öffentlicher Sektor,) zu ethischen Ansätzen im Zusammenhang mit neuen Technologien wie autonomen Fahrzeugen,, Quantencomputern sowie Augmented Reality oder Virtual Reality,, befragt. Die Untersuchung ergab, dass 87 % der Befragten keine ethischen Grundsätze kannten oder sich dieser nicht bewusst waren, die die Entwicklung und den Einsatz neuer Technologien in ihren Organisationen regeln.
Diese Erkenntnis gilt zwar für Unternehmen aller Branchen, ist jedoch für Technologieunternehmen von entscheidender Bedeutung, die derzeit in einem schwierigen wirtschaftlichen Umfeld unter verstärkter Beobachtung stehen.
Vertrauen ist die neue Währung in einem zunehmend wettbewerbsorientierten Umfeld, sagt Rozita Dara, außerordentliche Professorin für Informatik an der University of Guelph in Ontario, Kanada. „Vertrauen verschafft Unternehmen einen Wettbewerbsvorteil“, sagt sie.
Zeit für ethische Rahmenbedingungen
Ethische Lücken zeigen sich auf unterschiedliche Weise. Dies zeigt sich bei TikTok in dem mutmaßlichen Missbrauch von Daten sowie in den suchterzeugenden Eigenschaften der App, von denen Kritiker befürchten, dass sie die Nutzer in ihren Bann ziehen. Eine Studie des „ “ der Harvard-Universität ( ) deckte rassistische Verzerrungen bei der von IBM und Microsoft entwickelten Gesichtserkennungstechnologie auf. Beobachter haben zudem geschlechtsspezifische Verzerrungen bei „ “, bei Google Translate sowie bei einem KI-gestützten Einstellungssystem von Amazon festgestellt (das das Unternehmen schließlich wieder eingestellt hat).
“„Vertrauen verschafft Unternehmen einen Wettbewerbsvorteil.“Rozita Dara, außerordentliche Professorin für Informatik an der Universität Guelph
Das Vertrauen in ein Unternehmen hängt von dessen Engagement für den ethischen Einsatz von Technologie ab. Und das gilt umso mehr für Unternehmen, die diese Technologie tatsächlich entwickeln .
„Wir wecken Erwartungen daran, wie diese Technologie aussehen und was sie leisten wird“, sagt Yasemin J. Erden, Assistenzprofessorin am Digital Society Institute der Universität Twente in Enschede, Niederlande. Bei der Vermarktung der Technologie gegenüber den Nutzern besteht die Gefahr, dass der Hersteller oder Anbieter deren Auswirkungen nicht vollständig erfasst. „All dies wirkt sich auf das Vertrauen aus, das die Menschen in die Technologie haben.“
Wir beobachten dies derzeit im Zusammenhang mit kognitiver (KI-)Technologie. Im März unterzeichneten mehr als 1 100 Informatiker und andere Koryphäen der Technologiebranche, darunter Elon Musk, einen offenen Brief unter , der von der Organisation „“ initiiert wurde. Darin wurden alle Forschungslabore aufgefordert, die Arbeit an Trainingsmodellen auszusetzen, die leistungsfähiger sind als GPT-4 – ein großes Sprachmodell des Forschungsunternehmens OpenAI, das dessen umstrittenen Dienst ChatGPT unterstützt.
Herr Erden zögert, auf die Einzelheiten der neuesten Version von GPT einzugehen, da die Entwickler nicht transparent genug waren. „Wir wissen nicht genau, wie es das tut, was es tut“, warnt sie und schließt sich damit den Beschwerden anderer KI-Experten an. „Wie können wir also die Behauptungen, die darüber aufgestellt werden, wirklich beurteilen?“ (Die Tatsache, dass dieser kaum bekannte Chatbot von Cyberkriminellen rasch für missbraucht wurde, um Malware und andere gefährliche Inhalte zu erstellen, trägt ebenfalls nicht zur Verbesserung der Lage bei.)
Bewährte Verfahren der „Big Tech“-Unternehmen
Es stehen Standards und Richtlinien für die Technologiebranche bevor – daran besteht kein Zweifel. Bis diese jedoch in Kraft treten, ist es von entscheidender Bedeutung, dass Technologieunternehmen eigene ethische Grundsätze festlegen, die sowohl intern (als Leitlinien für die Entwicklung neuer vertrauenswürdiger Technologien) als auch extern (zur Gewinnung von Verbrauchern) angewendet werden können.
„“[Mozilla ist] wirklich transparent – sie machen deutlich, welche Ziele sie verfolgen, wo ihre Grenzen liegen, was sie tun und was sie ändern.“Yasemin J. Erden, Assistenzprofessorin am Digital Society Institute der Universität Twente
Der Bericht von Deloitte dient als nützliche Einführung. Darin wird empfohlen, dass sich die Führungskräfte des Unternehmens mit den Teams treffen, die die Arbeit tatsächlich ausführen. Und um den Dialog anzuregen, bietet es ein siebenteiliges Rahmenkonzept an, das dabei helfen soll, den „ethischen Zustand“ der Produkte und Dienstleistungen eines Technologieunternehmens zu beurteilen. Gemäß dem Ethik-Rahmenwerk von Deloitte zum Thema „Vertrauen in Technologie“ sollten alle neuen Technologien, die von einem Technologieunternehmen eingesetzt werden, folgende Kriterien erfüllen:
- Transparenz: Die Nutzer sollten verstehen und nachvollziehen können, wie die Technologie zur Entscheidungsfindung beiträgt.
- Sicher und geschützt: Die Nutzer sollten vor Schaden geschützt werden, und ihre Daten sollten nicht über den angegebenen und beabsichtigten Zweck hinaus und ohne die ausdrückliche Zustimmung des Nutzers verwendet oder gespeichert werden.
- Privat: Die Technologie sollte die Privatsphäre der Nutzer und den Datenschutz wahren.
- Verantwortlich: Die Technologie sollte nachhaltig und menschenfreundlich sein und dem Gemeinwohl sowie sozialen Zielen dienen.
- Robust und zuverlässig: Die Technologie sollte genaue und konsistente Ergebnisse liefern.
- Verantwortlich: Es sollte klar sein, wer für den Einsatz der Technologie verantwortlich ist.
- Fair und unparteiisch: Die Technologie sollte so konzipiert sein, dass sie alle Menschen fair behandelt.
Die Festlegung der Grundsätze ist nur ein Teil der Herausforderung. „Der andere Aspekt ist die Umsetzung dieser Prinzipien“, betont Brian Green, Leiter des Bereichs Technologieethik am Markkula Center for Applied Ethics der Santa Clara University. „Wie setzen Sie diese Dinge im Unternehmenskontext tatsächlich um, wenn Sie neue Produkte entwickeln?“ fragt er.
Das Markkula Center verfügt über ein Toolkit, das sich an Ingenieure und Technologiedesigner richtet und ihnen bei der Bewältigung dieses Prozesses helfen soll. In Kürze wird ein Handbuch zur Anwendung der Technologieethik veröffentlicht.
Dara nennt „Ethics by Design“ als grundlegende bewährte Vorgehensweise. Es integriert ethische Grundsätze von Anfang an in die Entwicklung eines Produkts oder einer Dienstleistung und berücksichtigt dabei das gesamte Ökosystem, einschließlich der Rechte und Interessen der Nutzer. Das ist so, als würde man dem „ “-DevSecOps- -Team das Wort „Eth“ hinzufügen. Entwickler müssen ethische Aspekte berücksichtigen, wenn sie die Funktionalität eines Tools testen und dessen Zuverlässigkeit und Eignung bewerten.
Wer macht es richtig?
Wie der Bericht von Deloitte hervorhebt, kann die Anwendung bestimmter ethischer Grundsätze je nach Technologie variieren. Künstliche Intelligenz weist andere Auswirkungen, Anwendergruppen und technische Merkmale auf als beispielsweise Quantencomputing, Blockchain oder virtuelle Realität.
Ethiker sollten die Einzelheiten anhand der individuellen Rahmenbedingungen eines Unternehmens genauer unter die Lupe nehmen – was die Frage aufwirft: Gibt es unter den Unternehmen, die sich mit diesem neuen ethischen Umfeld auseinandersetzen, welche, die es richtig machen?
Erden nominiert Mozilla, den in Kalifornien ansässigen Softwarehersteller, der teils Stiftung, teils Unternehmen ist.
„Sie sind wirklich transparent – sie machen deutlich, welche Ziele sie verfolgen, wo ihre Grenzen liegen, was sie tun und was sie ändern“, sagt sie. „Ich glaube, man hat großen Respekt vor ihren Plattformen, wie beispielsweise Firefox, und vor ihren Zielen.“
Mozilla investiert zudem in großem Umfang in die Einbindung der Nutzer, wie Erden anmerkt. Das Unternehmen hat sein Engagement für ethische Technologie in seinem Manifest „ “ () unter Beweis gestellt, mit Initiativen wie der „ Responsible Computing Challenge“ (), den „ “-Lehrmaterialien ( ) zum Umgang mit ethischen Fragen in der Technologiebranche sowie nun der „Responsible AI Challenge“ (). Dies sind nur einige Beispiele.
Green war Mitautor einer Fallstudie des Weltwirtschaftsforums im Rahmen der Reihe „ “ ( ) zum Thema Ethik bei IBM und bezeichnet „Big Blue“ in diesem Bereich als Vorreiter. Das Unternehmen richtete im Jahr 2018 einen Ethikrat für künstliche Intelligenz ein, veröffentlichte eigene Grundsätze für Vertrauen und Transparenz und untermauerte diese mit fünf Säulen des Vertrauens, wobei es Werte wie Datenschutz und Fairness in den Vordergrund stellte. Zudem hat das Unternehmen der Open-Source-Community Werkzeuge zur Verfügung gestellt, um die „Robustheit gegenüber feindlichen Angriffen“ zu verbessern – das heißt, um KI vor Missbrauch durch Angreifer zu schützen.
Er verfasste eine ähnliche Analyse unter dem Titel „ “ ( ) über Salesforce, das im Jahr 2018 sein „Office of Ethical and Humane Use of Technology“ ins Leben rief, sowie eine weitere über Microsoft.
Natürlich ist kein Unternehmen perfekt, weshalb viele Experten auf dem heiklen Gebiet der Ethik versuchen, pauschale Billigungen zu vermeiden.
„Wir können lediglich einzelne Vorgehensweisen, einzelne Technologien und einzelne Schritte bewerten“, fasst Erden zusammen. Es handelt sich um einen wiederkehrenden Prozess, bei dem Handlungen anhand ihrer ethischen Qualität bewertet werden und der Unternehmen theoretisch dazu anregen sollte, sich kontinuierlich um Verbesserungen zu bemühen – Produkt für Produkt, neuer technischer Dienst für neuen technischen Dienst. „Das nimmt kein Ende.“
