Stellen Sie sich vor, Sie stellen sich vor, dass Sie die Stellenausschreibungen erstellt und mit der Überprüfung von Kandidaten mithilfe von KI begonnen haben, aber Sie haben festgestellt, dass es im Kandidatenpool eine mangelnde Vielfalt gibt. Sie fragen sich, warum? Ein Chief AI Officer kann Ihnen sagen: Wahrscheinlich ist die KI voreingenommen.
Beispiele für voreingenommene KI tauchen seit Jahren auf, wie das Einstellungstool, das Amazon entwickelte und dann im Jahr 2018 verschrottete, nachdem festgestellt wurde, dass es Frauen diskriminiert. Das Lebenslauf-Screening-Tool eines anderen Unternehmens war sehr freundlich für den Namen Jared und die Akteure von High-School-Lacrosse, zwei zufällige Faktoren, die es für die Arbeitsleistung fand. In einem weiteren kürzlichen Fall von KI-Voreingenommenheit, in dem computerwissenschaftliche Forscher ChatGPT baten, Empfehlungsschreiben für hypothetische Mitarbeiter zu schreiben, bezeichnete sie männliche Kandidaten als „spektakulär“, „seriös“ und „authentisch“ und weibliche als „beeindruckend“, „warm“ und „emotional“.
Zu einer Zeit, in der 70 % der Unternehmen über automatisierte und KI-fähige Tools für ihre Einstellungsprozesse berichten, ist es wichtig, dass KI-Teams in ihren KI-Tools und Algorithmen Vorurteile identifizieren und korrigieren können – nicht nur Geschlechtervorurteile, sondern alle Arten –, um nicht nur den Ruf des Unternehmens, sondern auch seinen Gewinn zu schützen. Vielfalt in den menschlichen Teams spielt dabei eine Schlüsselrolle, und mehr Unternehmen erkennen den Wert von Frauen in KI-Führungspositionen an.
Eine kürzlich durchgeführte IBM- Umfrage ergab, dass 33 % der Unternehmen eine Frau haben, die für die Entscheidungsfindung über die KI-Strategie verantwortlich ist. Dennoch berichten mehr als die Hälfte (56 %) der Führungskräfte und mittleren Führungskräfte, dass es „nicht genug Frauen gibt, die das Gespräch über generative KI führen“, und 73 % der Führungskräfte geben an, dass weibliche Führungskräfte im Bereich KI entscheidend für die Reduzierung von Geschlechtervorurteilen sind.
„Wir müssen das Defizit reduzieren und [sicherstellen, dass] mehr als eine qualifizierte Frau am Tisch sitzt“, bemerkt Janet George, Corporate vp, Rechenzentrum und KI-Gruppe bei Intel Corporation. „Es gibt oft nur einen.“
Das war ein schwieriges Jahr für Frauen in der KI. Im März veröffentlichte die UNESCO eine Generative KI- Studie , die Geschlechtervorurteile und rassistische Stereotypisierung in großen Sprachmodellen (LLM) aufzeigte. Im April wurde die 13-jährige gemeinnützige Organisation Women Who Code geschlossen. Im Mai wurde die Frage nach KI-Vorschriften zum Identitätsschutz untersucht, als Scarlett Johansson behauptete , dass OpenAI ihre Stimme ohne Zustimmung für sein „Sky“-ChatGPT verwendete. Trotz solcher Herausforderungen gibt es neue Möglichkeiten für KI-Unternehmen im Besitz von Frauen. Google und die Female Foundry bieten Zugang zu einem Visionaries AI Incubator für ausgewählte Unternehmen mit Frauenbegründung.
Mit dem Aufstieg von KI, der einen kritischen Bedarf an Gedanken- und Perspektivenvielfalt in der Executive Suite antreibt, wandte sich Focal Point an drei weibliche Chief AI Officer, um ihre Wahrnehmung der Hürden und des Horizonts vor ihnen zu erhalten. Sie diskutierten, wie wichtig es ist, Voreingenommenheit zu mindern, mehr Stimmen an den Tisch zu bringen und das Geschäftsergebnis zu steigern, was – wie sie betont haben – alle miteinander zusammenhängt.
Vielfalt für das Endergebnis
Einige Sektoren und Unternehmen haben ein Gegenspiel zu den Bemühungen um Vielfalt erlebt, aber der Geschäftsfall ist klar: Laut McKinseys 2023 -Bericht mit dem Titel Diversity Matters Even More weisen Unternehmen „im obersten Quartil der ethnischen Repräsentation“ eine um 39 % erhöhte Wahrscheinlichkeit einer Outperformance auf.
„Wir müssen [sicherstellen, dass] mehr als eine qualifizierte Frau am Tisch sitzt. Oft gibt es nur einen.“Janet George, Corporate VP, Rechenzentrum und AI Group, Intel Corporation
Katia Walsh denkt, dass dies besonders für Führungskräfte gilt. „Die Welt muss sich verändern ... Möglichkeiten für unterrepräsentierte Führungskräfte müssen sich ändern“, bemerkt Walsh, Chief Digital Officer der Harvard Business School und ehemaliger Chief AI Officer bei Levi Strauss & Co. und Vodafone Group. Diese „monumentale“ Aufgabe verlangt, wie sie bemerkt, von Führungskräften in allen Branchen, auf eine größere Vielfalt hinzuarbeiten. „Wir haben die Daten, aber wir müssen darauf reagieren“, sagt sie. „Je vielfältiger das Führungsteam ist, desto besser werden die Geschäftsentscheidungen sein, das wird die reale Welt besser darstellen.“
Bei Michelin nennt der französische Reifenhersteller Ambica Rajagopal, Konzernchefdaten und KI-Beauftragte, kollektive Intelligenz als entscheidenden Wegbereiter für ein leistungsstarkes Team und stellt fest, dass Gleichberechtigung und Vielfalt in allen Facetten (von Hintergrund, Persönlichkeitstyp, Geschlecht und darüber hinaus) alle gleich wichtig sind. Rajagopal ist verantwortlich für den Aufbau von KI-Technologieteams und für die Identifizierung der KI-Anwendungsfälle, um dem Unternehmen einen Mehrwert zu bieten. Neben Reifen entwickelt Michelin KI-basierte Technologie für eine Vielzahl von „Mobilitätslösungen“, von Mikrochips, die Reifenverschleiß und -risse vorhersagen können, bis hin zu kulturellen Geschmacksvorhersagetools, um ihre weltbekannten Michelin-Hotel- und Restaurantführer persönlicher und individueller zu gestalten.
„Wenn man darüber nachdenkt, kundenorientierte Lösungen zu entwickeln, die wirklich Empathie mit dem Kundenstamm haben, hilft ein Spiegelbild der breiteren Gesellschaft im Team auch dabei, dies aufzubauen“, sagt Rajagopal.
Heben unterrepräsentierter Stimmen
Zukunftsorientierte Unternehmensleiter können eine Reihe von Maßnahmen ergreifen, um unterrepräsentierte Stimmen zu fördern, was dazu beitragen kann, eine weniger voreingenommene KI-Bereitstellung zu gewährleisten. Eine umstrittene Option, von der viele glauben, dass sie sich auszahlen wird: die Einführung von Vorschriften, die Vielfalt in Führungsrollen in Ihrem Unternehmen fördern. Zum Beispiel erfordert die Listungsregel von Nasdaq , dass Unternehmen eine Mindestanzahl verschiedener Vorstandsmitglieder haben. Die Entscheidung wurde nicht leicht akzeptiert, und Experten glauben, dass das Gesetz von einem Berufungsgericht aufgehoben wird, das im Mai mündliche Argumente gehört hat.
„Wir haben die Daten, müssen aber darauf reagieren. Je vielfältiger das Führungsteam ist, desto besser werden die Geschäftsentscheidungen sein.“Katia Walsh, Chief Digital Officer, Harvard Business School; und ehemalige Chief AI Officer, Levi Strauss & Co.
Dennoch sind Experten wie Intel George der Meinung, dass Unternehmen diese Regel befolgen sollten, unabhängig davon, ob sie gesetzlich vorgeschrieben ist oder nicht. „Wir müssen uns für Gesetze einsetzen“, sagt sie. „Wir brauchen dramatische Meilensteine in der Zusammensetzung der C-Suite. Wenn ein Gesetz vorhanden ist, werden die Menschen es befolgen.“ George empfiehlt, dass jedes C-Suite-Team sein eigenes Make-up betrachten und fragen sollte: Ist unsere C-Team-Zusammensetzung 50-50 [Männer-Frauen]? „Gleichheit beginnt an der Spitze der führenden Lebensmittelkette“, sagt George.
Eine weitere Möglichkeit, mehr Stimmen an den Tisch zu bringen, ist die Überprüfung von Hindernissen in Stellenbeschreibungen, um sicherzustellen, dass Sie Bewerber nicht behindern. Beim Aufbau ihres Teams hat Walsh die Schulungsanforderung entfernt.
„Beurteilen Sie [Stellenbeschreibungen] wirklich mit einem objektiven Auge“, rät Walsh. „In einigen Fällen können Sie generative KI in Stellenbeschreibungen verwenden und bestimmte Anforderungen markieren, die behindern.“
Es kann auch hilfreich sein, Programme einzurichten, die unterrepräsentierte Stimmen dazu ermutigen, das Feld zu betreten. Walshs ehemaliger Arbeitgeber führte ein Umschulungsprogramm ein, ein achtwöchiges intensives Training im Bereich maschinelles Lernen. Das Programm verfügte über einen Screening-Prozess, um Bewerber auf Problemlösungsfähigkeiten, analytische Fähigkeiten und Ausdauer zu testen – Qualitäten, die für das Programm erforderlich sind –, erforderte jedoch keinen Programmierhintergrund.
„Es geht darum, Menschen die Möglichkeit zu geben [zu lernen] und man sieht Geschäftsergebnisse“, sagt Walsh. „Einige haben ihre Jobs geändert, aber die meisten Menschen, die wir geschult haben, haben ihre alten Rollen wieder in Anspruch genommen, und anstatt Excel zu verwenden, konnten sie ihre Aufgaben mit Code in Python automatisieren. Jetzt verfügen sie über die technischen Fähigkeiten, aktualisierten ihre Jobs und lieferten bessere Geschäftsergebnisse.“
Sie möchten Chief AI Officer sein? Finden Sie zuerst einen Mentor
Während Unternehmensleiter solche systemischen Wege untersuchen, um die KI-Diversität zu verbessern, können diejenigen, die in der KI-Welt aufsteigen möchten, auch ihren Teil dazu beitragen. Peer-to-Peer-Mentorship kann hilfreich sein, um Ihre Nische im Bereich KI zu festigen. Rajagopal fördert die Verbindung mit Fachleuten in der Branche, die Ihre spezifischen Interessen teilen.
„Verstehen Sie die Aspekte der KI, die Ihnen wirklich wichtig sind, und finden Sie die Personen in der Community auf Konferenzen und LinkedIn, die Ihre gleichen Bedenken teilen.“Ambica Rajagopal, Konzernchef Data und AI Officer, Michelin
„Verstehen Sie die Aspekte der KI, die Ihnen wirklich wichtig sind, und finden Sie die Menschen in der Community auf Konferenzen und LinkedIn, die Ihre gleichen Bedenken und Denkprozesse teilen“, sagt Rajagopal. „Für mich waren es die menschlichen Auswirkungen von KI sowohl aus ethischer als auch aus Change Management-Perspektive und die tiefen technischen Aspekte, Menschen, die technisch in KI verschenkt wurden.“
Sie stellt auch die Prävalenz des Effekts der „leaky Pipeline“ fest, der Frauen in der Technologie betrifft. „Mid-Career sehen wir, dass der Prozentsatz der Frauen sinkt ... Im Falle der Einführung von Frauen in die KI geht es darum, Vorbilder zu erstellen und über unsere Erfahrungen und unseren Weg zu sprechen.“
Wie Chief AI Officer Voreingenommenheit mindern
Wenn es um die Implementierung von KI geht, sind die Vielfalt von Daten, die Vielfalt von Teams und die Vielfalt von Tools der Schlüssel zur Minderung von Voreingenommenheit.
Die Wachsamkeit gegenüber potenziellen Verzerrungen in den vorhandenen Daten sollte beispielsweise in der Verantwortung aller liegen, von der C-Suite, die die KI-Implementierung genehmigt und letztendlich für diese verantwortlich ist, bis hin zu den Abteilungsmitarbeitern, die mit diesen Algorithmen arbeiten. Wenn sich jeder Teil des Cybersicherheitsteams fühlt, sind die Chancen, Voreingenommenheit zu erkennen, größer. Dies zu unterlassen kann kostspielig sein. Letzten August hat das EEOC seine erste KI-bezogene Diskriminierungsklage beigelegt, in der ein Nachhilfekonsortium zugestimmt hat, 365 000 US-Dollar zu zahlen, nachdem sein KI-Einstellungstool weibliche Bewerber über 55 und Männer über 60 automatisch abgelehnt hatte.
Die Auswahl der richtigen Tools kann auch dazu beitragen, Vorurteile zu reduzieren. Walsh empfiehlt die Verwendung von Tools, die repräsentative Daten enthalten. „Ich bevorzuge Open-Source-Tools, weil Sie per Definition die ganze Welt daran arbeiten lassen, von verschiedenen Hintergründen, Ausbildungen, Standorten und das gibt Ihnen größere Chancen [für Vielfalt], sagt sie. „Es eliminiert nicht [Stimmen]; es maximiert die Chance, weniger Voreingenommenheit zu haben.“
Rajagopal betont die Bedeutung der Erstellung unternehmensweiter KI-Richtlinien und schätzt Tools, die Datenwissenschaftler über potenzielle Vorurteile aufklären. Ihr Team untersucht derzeit Optionen von Unternehmen wie Holistic AI und Fiddler AI, die Tooling-Lösungen anbieten, die maschinelles Lernen und LLM-Modellüberwachung und KI-Schutz bieten. Fiddler ermöglicht es Benutzern beispielsweise, die intersektionale Ungerechtigkeit durch die Überprüfung von Datensatzmetriken zu bewerten.
Ziel ist es, die Bandbreite der menschlichen Erfahrung und Perspektive widerzuspiegeln, wobei KI „ein Spiegel ist, den wir am Leben halten“, sagt Walsh. „Der Spiegel spiegelt wider, was da ist. Bis wir ändern, was da ist, wird der Spiegel weiterhin eine sehr fehlerhafte Welt widerspiegeln.“
WEITERE INFORMATIONEN
Für diejenigen, die ihr Netzwerk und Wissen aufbauen möchten, sollten Sie diese Ressourcen in Betracht ziehen:
- Chief AI Officer Summit – Der zweite jährliche CAIO-Gipfel des CDO Clubs wird 2. Oktober (ein Tag nach seinem CDAO-Gipfel) in Washington, D.C. abgehalten. Zu den Referenten gehören unter anderem der stellvertretende CAIO des US-Finanzministeriums, Brian Peretti; Senior Advisor of Digital Talent beim Chief Digital and Artificial Intelligence Office des DoD, Angela Cough; und Chief AI Officers von Avanade, Fox Rothschild und dem US-amerikanischen Department of Housing and Urban Development.
- Chief AI Officer (CAIO) Talent Map – Der erste Bericht seiner Art, der vom CDO Club erstellt wurde und wichtige demografische Daten, Vergütung, Region, Karriereweg, Berichtsstrukturen und offene CAIO-Jobs des Chief AI Officer abdeckt. Mitte Juli fällig.
