Inmitten der Flut von Entwicklungen im Bereich der künstlichen Intelligenz (KI) in der vergangenen Woche könnte die weitreichende Verordnung von Präsident Joe Biden „ “ ( ) ein entscheidender Fahrplan – oder aber ein Hindernis – für Unternehmen sein, die darum wetteifern, von dieser revolutionären Technologie zu profitieren.
Die Verordnung von Präsident Biden, die kurz vor dem ersten weltweiten „ “-Gipfel zum Thema KI-Sicherheit in London erlassen wurde, legt Standards für die Sicherheit und den Schutz im Bereich der künstlichen Intelligenz, neue Schutzmaßnahmen für Verbraucher und Arbeitnehmer sowie Vorkehrungen gegen Voreingenommenheit fest, die von der Industrie und den Bundesbehörden entwickelt werden sollen. Betrachten Sie dies als eine Reihe von Leitplanken, mit denen sich die Vorteile der KI nutzen und maximieren lassen, während gleichzeitig die Risiken gemindert werden – ein mutiger (wenn auch etwas verspäteter) Schritt vorwärts bei der Regulierung der KI in den USA.
„Diese Durchführungsverordnung könnte Führungskräften und Vorstandsmitgliedern dabei helfen, zu verlangsamen, bevor sie voll und ganz auf KI setzen“, sagt Safia Kazi, Leiterin des Bereichs Datenschutz bei ISACA, einer internationalen Berufsorganisation mit Schwerpunkt auf IT-Governance. „Dies wird Unternehmen dazu veranlassen, sich mit den Risiken auseinanderzusetzen, die mit dem Einsatz von KI verbunden sind.“
Langsam vorzugehen bedeutet nicht, anzuhalten. Im Gegenteil: Die Verordnung zielt darauf ab, die KI-Analysen in den Bundesbehörden voranzutreiben und damit den staatlichen Institutionen, die bei Hightech-Entwicklungen in der Regel hinterherhinken, neuen Schwung zu verleihen. So weist es beispielsweise das Ministerium für Gesundheit und Soziales an, innerhalb eines Jahres einen „strategischen Plan“ für künstliche Intelligenz zu erarbeiten. Wird diese „ “ tatsächlich stattfinden? Schwer zu sagen, aber es ist ein dringend benötigter Anstoß.
Unterdessen stehen Führungskräfte aus der Wirtschaft, die ihren Wettbewerbern einen Schritt voraus sein wollen, vor dem gegenteiligen Problem: Viele setzen KI in rasendem Tempo ein, ohne sich der möglichen scharfen Kurven bewusst zu sein, die vor ihnen liegen könnten.
Der ChatGPT- , der erst vor 11 Monaten eingeführt wurde, sowie weitere, auf generativer KI basierende Chatbots folgten bald darauf, was einen regelrechten Hype bei den Verbrauchern auslöste und die Arbeitswelt grundlegend veränderte. Während Unternehmen darum wetteifern, die noch junge Technologie einzuführen, erliegen Führungskräfte in immer stärkerem Maße dem FOMO-Syndrom (Fear of Missing Out). Dies ist besonders besorgniserregend in Bereichen wie dem Gesundheitswesen, wo Ärzte und Krankenhausverwalter sich beeilen, KI-gestützte medizinische Geräte zu erwerben – die zur Auswertung von Untersuchungen, zur Diagnose von Krankheiten und zur Durchführung von Therapien eingesetzt werden –, die nicht den wiederholten Tests unterzogen wurden, die die Regierung üblicherweise für solche Geräte vorschreibt, wie ein neuer Bericht von „ “ auf Politico unter hervorhebt.
Die Auswirkungen des Einsatzes künstlicher Intelligenz lassen sich nur schwer vorhersagen, da die Unternehmen, die diese Produkte entwickeln, die Algorithmen, die ihre Geräte steuern, streng geheim halten, heißt es in dem Bericht. Diese proprietäre „Black Box“ schützt zwar geistiges Eigentum, führt jedoch dazu, dass Führungskräfte aus den Bereichen Wirtschaft und Sicherheit, die diese Tools einsetzen, nicht einschätzen können, wie sicher oder effektiv diese tatsächlich sind (oder auch nicht).
An dieser Stelle könnte Bidens neue Verordnung für etwas Klarheit sorgen. Darin werden eine Vielzahl potenzieller Probleme und dringender Bedenken dargelegt, die wir alle berücksichtigen müssen, wenn wir neue KI-Technologien einführen und uns daran anpassen.
Wir empfehlen, sich – vorerst – auf diese drei Schritte zu konzentrieren, die Unternehmen ergreifen können, um verantwortungsbewusst in der KI-Revolution voranzuschreiten.
1. Nehmen Sie den Datenschutz ernst
Das Problem: Im Gegensatz zu anderen Ländern fehlt es in den Vereinigten Staaten an einem umfassenden nationalen Gesetz zum Schutz des Datenschutzes.
Was in der Durchführungsverordnung steht: Bidens neue Verordnung fordert den Kongress auf, Gesetze zum Datenschutz zu verabschieden und Technologien zum Schutz der Privatsphäre zu fördern.
„. Diese Durchführungsverordnung könnte Führungskräften und Vorstandsmitgliedern helfen, einen Gang zurückzuschalten, bevor sie voll und ganz auf KI setzen.“Safia Kazi, Leiterin des Bereichs Datenschutzpraxis bei ISACA
„Bei der Entwicklung und dem Einsatz von KI-Tools ist es von entscheidender Bedeutung, den Datenschutz zu berücksichtigen, doch einige Unternehmen vernachlässigen diesen Aspekt in Diskussionen über neue Technologien“, sagt Kazi in einem Exklusivinterview mit dem „ -Focal-Point“. „Für Unternehmen kann es aufgrund fehlender Datenschutzgesetze allzu leicht sein, sich an ausbeuterischen Praktiken bei der Datenverarbeitung zu beteiligen“, sagt sie.
Was Führungskräfte aus Wirtschaft und Sicherheitsbereich jetzt tun können: Hören Sie auf Datenschutzexperten. Fachkräfte mit Kenntnissen in den Bereichen Informationssicherheit und Datenschutz sind wichtiger denn je.
„Datenschutzexperten, denen es schwerfällt, ihren Führungskräften die Bedeutung des Datenschutzes zu vermitteln, können diese Verordnung nutzen, um aufzuzeigen, dass der Datenschutz eine nationale (und internationale) Priorität darstellt“, sagt Kazi.
2. Stellen Sie Mitarbeiter ein, entlassen Sie sie nicht (zumindest vorerst)
Das Problem: Der Verlust von Arbeitsplätzen – ein Thema, das nach wie vor heiß diskutiert wird.
„Ich habe kürzlich von einem Ingenieurprofessor gehört, der an der Entwicklung von GPT4 selbst beteiligt war“, erinnert sich Larry Godec, ehemaliger Chief Information Officer (CIO) bei First American Financial und vertrauenswürdiger KI-Berater einiger der weltweit größten Unternehmen. „Er argumentierte, dass dies keine Arbeitsplätze ersetzen werde, sondern den Menschen lediglich besser machen werde.“
„In den nächsten ein oder zwei Jahren werden wir wahrscheinlich eine echte [KI]-Revolution erleben, wie es sie seit den Anfängen des Internets nicht mehr gegeben hat.“Larry Godec, anerkannter KI-Berater und ehemaliger CIO bei First American Financial
Godec ist anderer Meinung. In einem exklusiven Interview mit „ “ , das Tanium – einem führenden Unternehmen für Cybersicherheit und Geschäftstransformation (dem dieses Magazin gehört) – geführt wurde, erklärte Godec, dass die Einführung von KI unweigerlich zum Verlust von Arbeitsplätzen und zu Umbrüchen in verschiedenen Branchen führen werde.
„In den nächsten ein oder zwei Jahren werden wir wahrscheinlich eine echte Revolution erleben, wie es sie seit den Anfängen des Internets nicht mehr gegeben hat“, sagt er. „Man geht davon aus, dass es genauso groß, wenn nicht sogar größer als das Internet sein wird.“ „Menschen werden ihre Arbeitsplätze verlieren und müssen sich – sehr schnell – nach anderen Berufen oder Karrierewegen umsehen.“
Inwieweit dieser Übergang schmerzhaft sein wird, bleibt abzuwarten. Eines wissen wir mit Sicherheit: Entlassungen stellen eine Bedrohung für die Cybersicherheit dar und können zu einem Anstieg der Insiderrisiken führen.
Inhalt der Durchführungsverordnung: Die Verordnung zielt darauf ab, eine Reihe von bewährten Verfahren zu entwickeln, um „die Nachteile der KI zu mindern und ihre Vorteile zu maximieren“, sowie einen Bericht über die zu erwartenden Auswirkungen der KI auf den Arbeitsmarkt zu erstellen, in dem aufgezeigt wird, wie die Regierung Arbeitnehmer unterstützen kann, die von Umbrüchen auf dem Arbeitsmarkt betroffen sind.
Was Führungskräfte aus Wirtschaft und Sicherheitsbereich jetzt tun können: Konzentrieren Sie sich darauf, neue Sicherheitsmitarbeiter mit KI-Erfahrung einzustellen (und Ihre bestehenden Mitarbeiter weiterzubilden), damit Sie KI-Strategien umsetzen können, die kosteneffizient, präzise und sicher sind.
Jetzt ist nicht der richtige Zeitpunkt, Ihr Sicherheitsteam zu straffen oder zu verkleinern.
„Sie müssen herausfinden, was Sie mit all den unterschiedlichen Daten, über die Sie verfügen, anfangen sollen und ob Sie ein [Großsprachen-]Modell entwickeln können, um damit umzugehen“, erklärt Godec. „Um dies zu ergänzen, müssen Unternehmen und ihre Mitarbeiter weitere Kompetenzen im Unterrichten oder Anleiten der Modelle erwerben.“
3. Überprüfen Sie Ihre KI-Tools auf Voreingenommenheit.
Das Problem: KI-Tools sind nur so gut wie die Daten, mit denen sie trainiert werden, und wenn voreingenommene Personen (und das sind wir alle) diese Tools entwickeln und die entsprechenden Daten bereitstellen, werden die Tools unwissentlich Diskriminierung, Voreingenommenheit und andere Ungleichheiten reproduzieren und verstärken.
Inhalt der Durchführungsverordnung: In Ergänzung zu den Strategien, die in Bidens „ “ („Ein Plan für eine Charta der Rechte im Bereich der künstlichen Intelligenz“) und einer früheren Durchführungsverordnung dargelegt wurden, in der die Behörden angewiesen wurden, algorithmische Diskriminierung zu bekämpfen, fordert die neue Verordnung die Bundesbehörden auf, Vorurteile im Zusammenhang mit künstlicher Intelligenz durch Schulungen und technische Unterstützung sowie durch die strafrechtliche Verfolgung von Verstößen gegen die Bürgerrechte im Zusammenhang mit künstlicher Intelligenz zu bekämpfen. (Was den letzten Punkt betrifft, haben sie bereits ernsthafte Maßnahmen ergriffen.) (Siehe unten.)
Was Führungskräfte aus Wirtschaft und Sicherheitsbereich jetzt tun können: Testen, testen und erneut testen Sie Ihre KI-Tools und -Modelle. „Es wird ganz klar ein Bedarf an mehr Strenge bestehen, wenn es um Aspekte wie Sicherheitsprotokolle geht, denen jeder Code unterzogen werden muss, [und] die KI wird eigene Qualitätskontrollen benötigen“, sagt Godec.
Führungskräfte, die KI eifrig einsetzen, ohne deren Schwachstellen zu verstehen (und auf diese zu prüfen), werden den Preis dafür zahlen. Bundesbehörden haben unmissverständlich erklärt, dass Unternehmen aus dem Bereich „ “ für diskriminierende und sonstige Schäden haftbar gemacht werden können, die durch von ihnen eingesetzte KI-Tools verursacht werden, selbst wenn sie diese Tools nicht selbst entwickelt haben. Ein typisches Beispiel hierfür ist die iTutorGroup, die im August einen Rechtsstreit beigelegt hat, den die Equal Employment Opportunity Commission (EEOC) im Namen von mehr als 200 Bewerbern angestrengt hatte. Das Nachhilfekonsortium bestritt zwar jegliches Fehlverhalten, erklärte sich jedoch bereit, 365 000 Dollar zu zahlen, um die Vorwürfe beizulegen, wonach sein KI-gestütztes Auswahlverfahren bei der Personalbeschaffung weibliche Bewerberinnen über 55 Jahren und männliche Bewerber über 60 Jahren automatisch abgelehnt habe. Es handelt sich um die erste Klage der Kommission wegen Voreingenommenheit im Zusammenhang mit KI, und es sieht nicht so aus, als wäre es die letzte.
„Arbeitnehmer, die durch den Einsatz von Technologie durch ihren Arbeitgeber diskriminiert werden, können sich darauf verlassen, dass die EEOC Abhilfe schafft“, erklärte die EEOC-Vorsitzende Charlotte A. Burrows in einer Pressemitteilung unter .
Der Einsatz von IT- und Sicherheitsmitarbeitern mit KI-Kenntnissen – also Personen, die vielfältige Tests von KI-Tools sowie Bias-Prüfungen durchführen können (die seit diesem Sommer gemäß dem „ “ für Arbeitgeber in New York City vorgeschrieben sind) – schützt Unternehmen vor ähnlichen Klagen gemäß dem „ “ und vor PR-Katastrophen. Das bedeutet: Was auch immer Sie diesen mit KI geschulten Mitarbeitern letztendlich zahlen, es ist gut angelegtes Geld.
