Stellen Sie sich vor, Sie suchen neue Mitarbeiter – Sie haben die Stellenanzeigen geschaltet und mit der Vorauswahl der Bewerber mithilfe von KI begonnen, doch Ihnen ist aufgefallen, dass es im Bewerberpool an Vielfalt mangelt. Fragen Sie sich, warum? , Chief AI Officer bei „ “, kann Ihnen versichern: Die Wahrscheinlichkeit ist groß, dass die KI voreingenommen ist.
Beispiele für voreingenommene KI tauchen bereits seit Jahren auf, wie beispielsweise das von Amazon entwickelte Einstellungs-Tool, das im Jahr 2018 wieder eingestellt wurde, nachdem festgestellt wurde, dass es Frauen diskriminierte. Das Tool zur Lebenslaufprüfung eines anderen Unternehmens zeigte eine Vorliebe für den Namen Jared und für Lacrosse-Spieler an High-School-Schulen – zwei zufällige Faktoren, die es als Indikatoren für die Arbeitsleistung ansah. In dem Artikel „ “ wurde ein weiterer aktueller Fall von Voreingenommenheit bei KI beschrieben: Informatikforscher baten ChatGPT , Empfehlungsschreiben für hypothetische Mitarbeiter zu verfassen. Dabei beschrieb das System männliche Kandidaten als „respektvoll“, „seriös“ und „authentisch“, weibliche hingegen als „atemberaubend“, „herzlich“ und „emotional“.
In einer Zeit, in der 70 % der Unternehmen angeben, automatisierte und KI-gestützte Tools für ihre Einstellungsverfahren zu nutzen, ist es für KI-Teams von entscheidender Bedeutung, Vorurteile – nicht nur geschlechtsspezifische, sondern alle Arten von Vorurteilen – in ihren KI-Tools und Algorithmen zu erkennen und zu korrigieren, um nicht nur den Ruf des Unternehmens, sondern auch dessen Geschäftsergebnis zu schützen. Die Vielfalt in den Teams spielt dabei eine entscheidende Rolle, und immer mehr Unternehmen erkennen den Wert von Frauen in Führungspositionen im Bereich der KI.
Eine aktuelle Umfrage von IBM „ “ ( ) ergab, dass in 33 % der Unternehmen eine Frau für die Entscheidungsfindung im Bereich der KI-Strategie verantwortlich ist. Dennoch gibt mehr als die Hälfte (56 %) der Führungskräfte und mittleren Führungskräfte an, dass es „nicht genügend Frauen gibt, die die Debatte über generative KI anführen“, und 73 % der Führungskräfte betonen, dass weibliche Führungskräfte im KI-Bereich entscheidend für den Abbau geschlechtsspezifischer Vorurteile sind.
„Wir müssen das Defizit eindämmen und dafür sorgen, dass mehr als eine qualifizierte Frau mit am Tisch sitzt“, erklärt Janet George, Corporate Vice President der Abteilung für Rechenzentren und künstliche Intelligenz bei der Intel Corporation. „Oft gibt es nur einen.“
Für Frauen im Bereich der KI war dies ein schwieriges Jahr. Im März veröffentlichte die UNESCO eine Studie mit dem Titel „Generative AI “ ( ), in der geschlechtsspezifische Vorurteile und rassistische Stereotypen in großen Sprachmodellen (LLM) aufgedeckt wurden. Im April schloss die seit 13 Jahren bestehende gemeinnützige Organisation „Women Who Code“ die Website. Im Mai geriet die Frage nach den Vorschriften von AI zum Identitätsschutz in den Fokus, als Scarlett Johansson behauptete , OpenAI habe ihre Stimme ohne ihre Zustimmung für sein ChatGPT-Modell „Sky“ verwendet. Trotz dieser Herausforderungen zeichnen sich neue Chancen für KI-Unternehmen unter weiblicher Führung ab. Google und „The Female Foundry“ bieten ausgewählten, von Frauen gegründeten Unternehmen Zugang zum „ Visionaries AI Incubator“ unter .
Angesichts des Aufstiegs der KI, der einen entscheidenden Bedarf an Vielfalt in Bezug auf Denkweisen und Perspektiven in den Führungsetagen mit sich bringt, wandte sich Focal Point an drei weibliche Chief-AI-Officer, um deren Sicht auf die vor ihnen liegenden Hürden und Perspektiven einzuholen. Sie erörterten die Bedeutung von „ “ zur Verringerung von Vorurteilen, zur Einbeziehung weiterer Stimmen und zur Steigerung des Unternehmensgewinns, wobei – wie sie betonten – all diese Aspekte miteinander zusammenhängen.
Vielfalt als Faktor für den Geschäftserfolg
In einigen Branchen und Unternehmen gab es zwar Gegenreaktionen auf Diversitätsbemühungen, doch die wirtschaftlichen Argumente sprechen eine klare Sprache: Laut dem McKinsey-Bericht „ 2023 “ ( ) mit dem Titel „: Diversity Matters Even More“ () weisen Unternehmen, die „im obersten Quartil der ethnischen Vertretung“ liegen, eine um 39 % höhere Wahrscheinlichkeit auf, eine überdurchschnittliche Performance zu erzielen.
„. Wir müssen [dafür sorgen, dass] mehr als eine qualifizierte Frau mit am Tisch sitzt.“ Oft gibt es nur einen.“Janet George, Corporate Vice President der Data Center and AI Group bei der Intel Corporation
Katia Walsh ist der Ansicht, dass dies insbesondere für Führungsaufgaben gilt. „Die Welt muss sich ändern … die Chancen für unterrepräsentierte Führungskräfte müssen sich ändern“, bemerkt Walsh, Chief Digital Officer an der Harvard Business School und ehemaliger Chief AI Officer bei Levi Strauss & Co. sowie bei der Vodafone Group. Diese „gewaltige“ Aufgabe, so merkt sie an, erfordert, dass Führungskräfte in allen Branchen auf mehr Vielfalt hinarbeiten. „Wir verfügen über die Daten, müssen aber entsprechend handeln“, sagt sie. „Je vielfältiger die Führungsriege ist, desto besser werden die unternehmerischen Entscheidungen sein, die die Realität besser widerspiegeln.“
Bei Michelin, dem führenden französischen Reifenhersteller, nennt Ambica Rajagopal, Group Chief Data and AI Officer, kollektive Intelligenz als entscheidenden Faktor für ein leistungsstarkes Team und betont, dass Gleichberechtigung und Vielfalt in allen Bereichen ( er Hintergrund, Persönlichkeitstyp, Geschlecht und darüber hinaus) gleichermaßen wichtig sind. Rajagopal ist für den Aufbau von KI-Technologieteams sowie für die Ermittlung von KI-Anwendungsfällen verantwortlich, die einen Mehrwert für das Unternehmen schaffen. Neben Reifen entwickelt Michelin KI-gestützte Technologien für eine Vielzahl von „Mobilitätslösungen“ – von Mikrochips, die den Reifenverschleiß vorhersagen können, bis hin zu Tools zur Vorhersage kultureller Vorlieben, um die weltberühmten „ “-Hotels und Restaurantführer von Michelin noch persönlicher und individueller zu gestalten.
„Wenn man darüber nachdenkt, kundenorientierte Lösungen zu entwickeln, die wirklich auf die Bedürfnisse der Kunden eingehen, trägt die Vielfalt des Teams, die die Gesellschaft als Ganzes widerspiegelt, ebenfalls dazu bei, dies zu erreichen“, sagt Rajagopal.
Unterrepräsentierten Stimmen Gehör verschaffen
Zukunftsorientierte Führungskräfte in Unternehmen können eine Reihe von Maßnahmen ergreifen, um unterrepräsentierten Stimmen mehr Gehör zu verschaffen, was dazu beitragen kann, einen weniger voreingenommenen Einsatz von KI zu gewährleisten. Eine umstrittene Maßnahme, von der viele glauben, dass sie sich auszahlen wird: die Einführung von Vorschriften, die die Vielfalt in Führungspositionen in Ihrem Unternehmen fördern. Beispielsweise : Die Nasdaq-Notierungsvorschrift schreibt vor, dass Unternehmen eine Mindestanzahl an Vorstandsmitgliedern aus unterschiedlichen Bevölkerungsgruppen aufweisen müssen. Das Urteil wurde nicht ohne Weiteres akzeptiert, und Experten gehen davon aus, dass das Gesetz von einem Berufungsgericht aufgehoben wird, das im Mai die mündlichen Ausführungen in der Rechtssache „ “ angehört hat.
„“ Wir verfügen über die Daten, müssen aber entsprechend handeln. Je vielfältiger die Führungsriege ist, desto besser werden die unternehmerischen Entscheidungen sein.”Katia Walsh, Chief Digital Officer an der Harvard Business School und ehemalige Chief AI Officer bei Levi Strauss & Co.
Dennoch sind Experten wie George von Intel der Ansicht, dass Unternehmen damit beginnen sollten, diese Regel zu befolgen, unabhängig davon, ob sie weiterhin gesetzlich vorgeschrieben ist oder nicht. „Wir müssen uns für Gesetze einsetzen“, sagt sie. „Wir benötigen deutliche Fortschritte bei der Zusammensetzung der Führungsspitze.“ „Wenn ein Gesetz in Kraft ist, werden sich die Menschen daran halten.“ George empfiehlt, dass jedes Führungsteam seine eigene Zusammensetzung unter die Lupe nehmen und sich fragen sollte: Entspricht die Zusammensetzung unseres Führungsteams dem Verhältnis 50-50 [Männer-Frauen]? „Gerechtigkeit beginnt an der Spitze der Führungskette“, sagt George.
Eine weitere Möglichkeit, mehr Menschen einzubeziehen, besteht darin, Stellenausschreibungen auf mögliche Hindernisse zu überprüfen, um sicherzustellen, dass Sie Bewerber nicht ungewollt ausschließen. Beim Aufbau ihres Teams hob Frau Walsh die Bildungsvoraussetzung auf.
„Beurteilen Sie [die Stellenbeschreibungen] wirklich mit objektivem Blick“, rät Walsh. „In manchen Fällen können Sie generative KI bei Stellenbeschreibungen einsetzen und bestimmte Anforderungen kennzeichnen, die ein Hindernis darstellen.“
Es kann ebenfalls hilfreich sein, Programme einzurichten, die unterrepräsentierte Gruppen dazu ermutigen, in diesen Bereich einzusteigen. Walshs ehemaliger Arbeitgeber führte ein Umschulungsprogramm ein, eine achtwöchige Intensivschulung in den Bereichen „ “ und „Machine Learning“. Im Rahmen des Programms fand ein Auswahlverfahren statt, bei dem die Bewerber auf ihre Fähigkeiten zur Problemlösung, ihre analytischen Fähigkeiten und ihre Ausdauer – Eigenschaften, die für das Programm erforderlich sind – geprüft wurden; Programmierkenntnisse waren jedoch nicht erforderlich.
„Es geht darum, den Menschen die Möglichkeit zu geben, [etwas zu lernen], und man sieht die geschäftlichen Ergebnisse“, sagt Walsh. „Einige haben den Arbeitsplatz gewechselt, doch die meisten der von uns geschulten Personen kehrten in ihre bisherigen Positionen zurück und konnten ihre Aufgaben nun, anstatt Excel zu verwenden, mithilfe von Python-Code automatisieren.“ „Nun verfügen sie über die erforderlichen technischen Fähigkeiten, haben ihre Aufgaben angepasst und bessere Geschäftsergebnisse erzielt.“
Möchten Sie Chief AI Officer werden? Suchen Sie sich zunächst einen Mentor
Während Führungskräfte in Unternehmen solche systemischen Ansätze zur Verbesserung der Vielfalt im Bereich der KI prüfen, können auch diejenigen, die in der Welt der KI Karriere machen möchten, ihren Beitrag leisten. Ein Mentoring unter Gleichgesinnten kann Ihnen dabei helfen, Ihre Nische im Bereich der KI zu festigen. Rajagopal empfiehlt, Kontakte zu Fachleuten aus der Branche zu knüpfen, die Ihre spezifischen Interessen teilen.
„Machen Sie sich mit den Aspekten der KI vertraut, die für Sie wirklich von Bedeutung sind, und finden Sie in der Community, auf Konferenzen und auf LinkedIn diejenigen Menschen, die Ihre Bedenken teilen.“Ambica Rajagopal, Chief Data and AI Officer der Michelin-Gruppe
„Machen Sie sich mit den Aspekten der KI vertraut, die für Sie wirklich von Bedeutung sind, und suchen Sie auf Konferenzen und auf LinkedIn nach Menschen in der Community, die Ihre Bedenken und Denkweisen teilen“, sagt Rajagopal. „Für mich waren es sowohl die Auswirkungen der KI auf den Menschen – sowohl aus ethischer Sicht als auch im Hinblick auf das Veränderungsmanagement – als auch die tiefgreifenden technischen Aspekte sowie die Menschen, die über herausragende technische Fähigkeiten im Bereich der KI verfügten.“
Sie weist zudem auf das weit verbreitete Phänomen der „Leaky Pipeline“ hin, von dem Frauen in der Tech-Branche betroffen sind: . „In der Mitte der beruflichen Laufbahn beobachten wir, dass der Anteil der Frauen sinkt … Wenn es darum geht, Frauen für den Bereich der KI zu gewinnen, geht es darum, Vorbilder zu schaffen und über unsere Erfahrungen und unseren Werdegang zu sprechen.“
Wie Chief AI Officers Vorurteile abmildern
Bei der Implementierung von KI sind die Vielfalt der Daten, die Vielfalt der Teams und die Vielfalt der Werkzeuge entscheidend, um Verzerrungen zu minimieren.
Es sollte beispielsweise in der Verantwortung aller liegen, auf mögliche Verzerrungen in den vorhandenen Daten zu achten – von der Führungsetage, die die KI-Implementierung genehmigt und letztendlich dafür verantwortlich ist, bis hin zu den Mitarbeitern in den Abteilungen, die mit diesen Algorithmen arbeiten. Wenn sich alle als Teil des Cybersicherheitsteams fühlen, sind die Chancen größer, Voreingenommenheit zu erkennen. Dies zu unterlassen, kann kostspielig sein. Im vergangenen August schloss die EEOC ihre erste Klage wegen Diskriminierung im Zusammenhang mit KI ab, in der sich ein Nachhilfekonsortium bereit erklärte, 365 000 US-Dollar zu zahlen, nachdem sein KI-basiertes Einstellungsinstrument weibliche Bewerberinnen über 55 und männliche Bewerber über 60 automatisch abgelehnt hatte..
Die Wahl der richtigen Instrumente kann ebenfalls dazu beitragen, Verzerrungen zu verringern. Walsh empfiehlt den Einsatz von Instrumenten, die repräsentative Daten berücksichtigen. „Ich bevorzuge Open-Source-Tools, da per Definition Menschen aus aller Welt daran mitarbeiten – mit unterschiedlichen Hintergründen, Bildungswegen und Standorten –, und das bietet größere Chancen [für Vielfalt]“, sagt sie. „Es geht nicht darum, [Stimmen] auszuschließen, sondern darum, die Chance zu maximieren, dass es weniger Voreingenommenheit gibt.“
Rajagopal betont, wie wichtig es ist, unternehmensweite KI-Richtlinien festzulegen, und schätzt Tools, die Datenwissenschaftler für potenzielle Verzerrungen sensibilisieren. Ihr Team prüft derzeit Angebote von Unternehmen wie Holistic AI und Fiddler AI, die Tool-Lösungen anbieten, welche die Überwachung von Machine-Learning- und LLM-Modellen sowie KI-Sicherheitsvorkehrungen ermöglichen. Mit Fiddler können Nutzer beispielsweise intersektionale Ungerechtigkeiten bewerten, indem sie die Metriken des Datensatzes überprüfen.
„Das Ziel besteht darin, die Bandbreite menschlicher Erfahrungen und Perspektiven widerzuspiegeln, wobei die KI als ‚Spiegel dient, den wir dem Leben vorhalten‘“, so Walsh. „Der Spiegel spiegelt wider, was da ist. „Solange wir das, was da ist, nicht ändern, wird der Spiegel weiterhin eine sehr unvollkommene Welt widerspiegeln.“
WEITERE INFORMATIONEN
Wenn Sie Ihr Netzwerk ausbauen und Ihr Wissen erweitern möchten, sollten Sie folgende Ressourcen in Betracht ziehen:
- Chief AI Officer Summit – Der zweite jährliche CAIO-Gipfel des CDO Clubs findet 2. Oktober (einen Tag nach dem CDAO-Gipfel „ “) in Washington, D.C., statt. Zu den Referenten zählen unter anderem der stellvertretende CAIO des US-Finanzministeriums, Brian Peretti; Angela Cough, Senior Advisor für digitale Talente im Chief Digital and Artificial Intelligence Office des US-Verteidigungsministeriums; sowie Chief AI Officers von Avanade, Fox Rothschild und dem US-Ministerium für Wohnungsbau und Stadtentwicklung.
- Talentkarte für Chief AI Officers (CAIO) – Der erste Bericht seiner Art, erstellt vom CDO Club, der wichtige demografische Daten zu Chief AI Officers, Vergütung, Region, Karriereweg, Berichtsstrukturen sowie offene CAIO-Stellen umfasst. Erscheint voraussichtlich Mitte Juli.
