Leo glaubte, er hätte eine großartige Abkürzung für die Softwareentwicklung gefunden.
Anfang dieses Jahres brachte Leonel Acevedo, Gründer eines Start-ups für Marketing-Software zur Lead-Generierung und Programmieranfänger, eine SaaS-Anwendung (Software-as-a-Service) auf den Markt, die vollständig mit der KI-Plattform „ “ geschrieben wurde. Er hat den Code selbst nie direkt bearbeitet. Stattdessen gab er einfach Eingabeaufforderungen oder Anweisungen in ein KI-Tool ein und überließ die Arbeit dem System. Anschließend berichtete er der Welt voller Stolz von seiner Leistung in einem „ “-Beitrag auf X.
Ein großer Fehler.
Zwei Tage später wurde sein Werk angegriffen. Hacker haben seine API-Schlüssel (Application Programming Interface) bis zum Limit ausgereizt und damit im Grunde das System überlastet, das die Kommunikation zwischen den Apps steuert. Sie haben seine Abonnementsysteme umgangen, die dazu dienen, alle Personen zu sperren, die keine zahlenden Nutzer sind. Dann begannen sie, willkürliche Einträge in seiner Datenbank anzulegen, um zu zeigen, dass sie die Daten nach Belieben manipulieren konnten.
„Das halbe Internet versucht, meine App lahmzulegen, nur weil ich einen Fehler, den ich gemacht habe, öffentlich geteilt habe“, schrieb Acevedo, der die App daraufhin umgehend abschaltete. „Wissen Sie, was das Schlimmste ist? „Sie tun das aus Spaß.“
Die Implosion verlief schnell und war aufschlussreich.
Vibe-Coding – also die Praxis, mithilfe von KI-Modellen vollständige Anwendungen auf der Grundlage von natürlichen Sprachbefehlen zu erstellen – hat sich zu einer gängigen Methode der Softwareentwicklung entwickelt. „Die Hürde für das Programmieren ist heute niedriger als je zuvor“, sagte Andrew Ng, Gründer von Google Brain, am Montag in einem Vortrag mit dem Titel „ “ ( ) auf der Build-Konferenz von Snowflake. Doch die kurzen Entwicklungszeiten und niedrigen Kosten, die das „Vibe-Coding“ so attraktiv machen, bergen auch Risiken, da dadurch ungeprüfter, automatisch generierter Code in Pipelines gelangt, ohne dass eine IT-Sicherheitsprüfung stattfindet oder diese nur in geringem Umfang erfolgt. Infolgedessen werden immer mehr Einzelpersonen und Organisationen zwangsläufig Software nutzen, die eine Rekordzahl an Fehlern enthält, welche den Betrieb lahmlegen könnten, sowie Sicherheitslücken, die Hacker leicht aufdecken und ausnutzen können.
„Wenn Sie ein guter Programmierer sind, kann Ihnen die KI sehr helfen, da Sie wissen, wonach Sie suchen und wie Sie sie in die richtige Richtung lenken können“, sagte Erlend Oftedal, Senior Technical Director bei RSA Conference (RSAC) Research im Bereich AppSec. „Wenn Sie jedoch ein schlechter Programmierer sind, wird dies die Situation nur noch verschlimmern, da Sie nicht verstehen, wie Sie das, was Sie entwickeln, überprüfen können.“ „Sie produzieren einfach nur massenhaft Zeug.“
Vibe-Codierung: die guten Vibes, die schlechten und all das mit dem Risikokapital
Zwar ist der Begriff „Vibe-Coding“ neu – er wurde erst kürzlich vom KI-Forscher Andrej Karpathy geprägt und erst letzte Woche von „ “ zum Wort des Jahres gekürt („ “) –, doch die Praxis, KI zur Steuerung der Code-Erstellung einzusetzen, ist es nicht.
„“Die Hürde für den Einstieg in die Programmierung ist heute niedriger als je zuvor.“Andrew Ng, Gründer von Google Brain
Tatsächlich reicht dies bis in die frühen 2010ser Jahre zurück, als Forscher begannen, neuronale Netze des maschinellen Lernens – Software, die lose an die Lernweise des Gehirns angelehnt ist – für die Code-Vervollständigung und die Programmsynthese einzusetzen. Dies ebnete den Weg für Tools wie DeepCoder im Jahr 2016 und Googles frühe Sequenz-zu-Sequenz-Modelle, und zu Beginn des Jahres 2020s sorgten Systeme wie Codex von OpenAI und GitHub Copilot dafür, dass KI-gestütztes Programmieren zum Mainstream wurde.
Nun folgt der jüngste Schritt in dieser langjährigen Entwicklung: Generative Tools wie ChatGPT, GitHub Copilot, „Claude“ von Anthropic und Cursor (das Acevedo verwendet hat) machen das Programmieren noch schneller und einfacher – und damit für Unternehmen attraktiver. Im vergangenen Jahr gaben mehr als 90 % der Entwickler in mittleren und großen Unternehmen an, KI zur Codegenerierung zu nutzen. Dies geht aus einer Umfrage von Checkmarx/Censuswide im Rahmen des „ “ hervor:. Und laut einer GitHub-Umfrage vom 2024 . fördern mittlerweile 30 % bis 40 % der Unternehmen aktiv das „Vibe-Coding“, vermutlich um Kosten zu senken und die Lebenszyklen der Softwareentwicklung (SDLs) zu beschleunigen.
[Lesen Sie auch: Was ist „Vibe Coding“? [Die Vor- und Nachteile sowie die Kontroversen]
Um fair zu sein: Softwareunternehmen haben schon immer Code ausgeliefert, bevor er fertig war, um der Konkurrenz beim Markteintritt zuvorzukommen. Neue Betriebssysteme und Anwendungen enthalten bekanntermaßen zahlreiche Funktions- und Sicherheitsfehler, deren Behebung und Korrektur Unternehmen unter Umständen Monate in Anspruch nehmen kann. t die riskante Praxis des „Slow Patching“ mittlerweile weit verbreitet. Was Sicherheitsexperten derzeit jedoch beunruhigt, ist die Tatsache, dass KI-gestütztes Programmieren Sicherheitslücken in einem solchen Ausmaß erzeugen könnte, dass viele davon niemals identifiziert oder behoben werden können.
Tatsächlich ist dies bereits der Fall. In einer kürzlich von Veracode durchgeführten Studie mit dem Titel „ “ () fielen 45 % der mehr als 100 getesteten, durch KI generierten Code-Beispiele bei den Sicherheitstests durch und stellten kritische Sicherheitsrisiken für Webanwendungen dar.
Solche Bedenken halten Anbieter und Investoren jedoch nicht davon ab, auf den Zug des „Vibe Coding“ aufzuspringen. Tatsächlich haben Start-ups im Bereich der Vibe-Coding-Tools in jüngster Zeit beträchtliche Risikokapitalfinanzierungen erhalten, darunter der Cursor-Entwickler Anysphere, der 900 Millionen US-Dollar einwarb; Replit, das sich 250 Millionen US-Dollar sicherte; sowie Lovable, das 200 Millionen US-Dollar einwarb.
Auch wenn sie nicht ausschließlich auf Sicherheit ausgerichtet sind, verfügen viele dieser Tools über Funktionen wie Sicherheitsscans, die den Code auf ausnutzbare Schwachstellen überprüfen, sowie einen automatischen API-Schlüssel-Schutz, der offengelegte Anmeldedaten erkennt und blockiert, bevor diese missbraucht werden können. Allerdings beschränken sie sich in der Regel darauf, Probleme zu erkennen, anstatt zu überprüfen, ob die zugrunde liegenden Schutzmaßnahmen tatsächlich funktionieren.
Die größten Risikoträger bei Vibe Coding
Die Flut neuer Tools prägt zudem, wer beim „Vibe-Coding“ die größten Risiken eingeht. Pieter Danhieux, Mitbegründer und CEO von Secure Code Warrior, erklärte, dass Start-ups diese Technologie tendenziell offensiver einsetzen, während Großunternehmen weiterhin auf unterstützte Programmierung setzen, bei der ein Mensch die Ergebnisse nach wie vor überprüft.
„“Die Entwicklung einer Anwendung, die sensible Daten enthält, ohne über die erforderlichen Kenntnisse zu ihrer Absicherung zu verfügen, ist ein Rezept für eine Katastrophe.“Pieter Danhieux, Mitbegründer und Geschäftsführer von Secure Code Warrior
„Ich glaube, dass ‚Vibe Coding‘ vor allem in kleineren Start-ups weit verbreitet ist, in denen es einen brillanten technischen Gründer gibt, der schnell vorankommen möchte, und die im Grunde damit beginnen, Anwendungen zu entwickeln und bereitzustellen, ohne sich diese tatsächlich genauer anzusehen“, sagte Danhieux.
Größere Unternehmen, so erklärte er, seien vorsichtiger. Ihre Entwickler nutzen zwar möglicherweise KI, um kleine, wiederverwendbare Code-Schnipsel zu erstellen, überprüfen die Ergebnisse jedoch weiterhin vor der Bereitstellung.
[Lesen Sie auch: Mitarbeiter nutzen „Schatten-KI“ – und gefährden damit Unternehmensdaten]
Auch wenn diese Kontrollen auf den ersten Blick sicherer erscheinen, warnte Danhieux, dass sie möglicherweise nichts weiter als ein trügerisches Sicherheitsgefühl vermitteln.
Die Studie „Secure Code Warrior“ von Research ergab, dass 86 % der Entwickler der sicheren Programmierung keine Priorität einräumen, und mehrere beliebte LLM-Tools haben Schwierigkeiten , Herausforderungen im Bereich der sicheren Programmierung zu bewältigen, insbesondere solche in eher subjektiven Kategorien wie Authentifizierung und Fehlkonfigurationen im Sicherheitsbereich, so Danhieux.
Blinde Flecken bei der Vibe-Codierung und sensible Daten
„Sprache und Arten von Verletzlichkeit spielen eine Rolle“, stellte Danhieux fest. Modelle erkennen in der Regel einfache Fehler wie Rechtschreibfehler im Code oder offensichtliche Probleme, die einem klaren Muster folgen. Sie haben jedoch mit tiefergreifenden Problemen zu kämpfen, die die Gestaltung eines Systems betreffen, darunter auch die Frage, ob eine App ordnungsgemäß überprüft, wer welche Aktionen ausführen darf. Dies führt zu einer blinden Stelle, da von KI generierter Code oberflächlich betrachtet einwandfrei aussehen kann, aber dennoch Schwachstellen enthalten kann, die ein Risiko für die Nutzer darstellen.
“Das ist die Gefahr. Sie erhalten Code, der überzeugend aussieht, in der Produktion läuft und noch nie einer ordnungsgemäßen Überprüfung unterzogen wurde. Die Fehler liegen auf der Hand.”Erlend Oftedal, Leitender Technischer Direktor, RSA Conference (RSAC) Research
Dieselbe Dynamik zeigt sich nun auch außerhalb der Anwendungsentwicklung, und zwar in Betrugsmustern wie VibeScamming, bei denen KI-Tools für natürliche Sprache gezielt eingesetzt werden, um Phishing-Seiten und Betrugsinfrastrukturen zu generieren und rasch weiterzuentwickeln, die zwar legitim erscheinen, jedoch herkömmliche Vertrauenssignale umgehen.
Erfahrene Entwickler könnten solche versteckten Schwachstellen vielleicht entdecken, doch Anfänger verfügten wahrscheinlich nicht über die dafür erforderliche Erfahrung oder Intuition, so Danhieux. Er verweist auf einen aktuellen Fall, der dieses Risiko verdeutlicht. Im vergangenen Frühjahr ergab eine umfassende „ “-Prüfung von 1 645 Projekten, die auf der Programmierplattform „Lovable AI“ erstellt worden waren, 303 anfällige Endpunkte in 170 mit diesem Tool erstellten Anwendungen, was etwa 10 % der analysierten Projekte entspricht.
„Eine Anwendung zu programmieren, die sensible Daten enthält , ohne über die erforderlichen Kenntnisse zu verfügen, um diese zu schützen, ist ein Rezept für eine Katastrophe“, sagte er.
Die derzeit verfügbare Technologie verkompliziert die Situation nur noch weiter, da sie noch nicht in der Lage ist, Sicherheitsprobleme aufzudecken – insbesondere dann, wenn Code in großem Umfang generiert wird. KI-gestützte Tools könnten bald bei der Erkennung helfen, doch das werde immer noch nicht ausreichen, sagte Oftedal von der RSAC.
„Die meisten Unternehmen glauben, dass ihre Open-Source- -Governance- en auch den Bereich der KI abdecken – das ist jedoch nicht der Fall“, sagte er. „Das ist die Gefahr. Sie erhalten Code, der überzeugend aussieht, in der Produktion läuft und noch nie einer ordnungsgemäßen Überprüfung unterzogen wurde. „Die Fehler liegen auf der Hand.“
Oftedal wies darauf hin, dass Entwickler selbst einen Beitrag leisten können, indem sie die KI dazu anleiten, Code sicherer zu schreiben oder die Sicherheitsansätze anderer angesehener Entwickler nachzuahmen. Sie können die KI zudem anweisen, bestimmte Tools auszuführen, um ihre Arbeit zu überprüfen, bevor sie diese weiterleiten, sagte er.
Lagebeurteilung: Welche Schritte müssen CEOs und Sicherheitsverantwortliche jetzt unternehmen?
Für Experten wie Danhieux und Oftedal beginnt der Weg in die Zukunft damit, dass „ “ für Transparenz und Kontrolle sorgt.
“„Eine funktionierende ‚Secure-by-Design‘-Initiative … ist das Gegenmittel gegen außer Kontrolle geratene technische Schulden und kostspielige Sicherheitsmaßnahmen in späten Entwicklungsphasen.“Danhieux
Genauso wie Führungskräfte in Unternehmen die Vielzahl der Computer, Tablets und anderer Endgeräte in ihrem Computernetzwerk kennen müssen – einschließlich Echtzeitdaten zu Betriebssystemen und den Anforderungen an das Patch-Management –, müssen Chief Information Security Officers wissen, welche KI-Modellierungsansätze ihre Entwickler verwenden, und entsprechende Grenzen festlegen, so die Aussage. Günstigere, ältere Modelle könnten weniger sicheren Code erzeugen, und ohne Überwachung – beispielsweise eine Software-Stückliste ( , SBOM), um zunächst einmal die Komponenten einer Anwendung und deren Abhängigkeiten von Drittanbietern aufzulisten – haben Unternehmen oft keine Ahnung, was in ihren Umgebungen tatsächlich läuft.
„Möglicherweise werden wir bald eine Situation erreichen, in der es für Entwickler bestimmte Vorgaben geben wird, die besagen: Sie dürfen Claude ab Version drei und höher sowie ChatGPT-4 und höher verwenden, jedoch keine früheren Versionen, da wir wissen, dass der daraus resultierende Code unsicher sein wird“, sagte Danhieux.
Die Schulung von Entwicklern ist die andere Seite der Medaille. Sie müssen sich mit Prompt-Engineering vertraut machen und lernen, wie man Modelle zu sichereren Ergebnissen hinführt – genauso wie Autoren lernen, mit Hilfe der KI bessere Prosa zu verfassen. Solange unternehmensweite Tools die Richtlinien nicht in jeder integrierten Entwicklungsumgebung durchsetzen können, sind Sensibilisierung und Schulungen die vorübergehenden Lösungen.
[Lesen Sie auch: Warum die besten KI-Richtlinien mit der Schulung der Mitarbeiter beginnen]
Für Danhieux gilt jedoch das Leitprinzip „Secure by Design“, was bedeutet, dass Sicherheit bereits von Anfang an in die Software integriert wird.
„Eine funktionierende ‚Secure-by-Design‘-Initiative, die von sicherheitsbewussten Entwicklern getragen wird, ist das Gegenmittel gegen außer Kontrolle geratene technische Schulden und kostspielige Sicherheitsmaßnahmen in späten Entwicklungsphasen“, sagte er. „Angreifer sind den Sicherheitsteams in Unternehmen bereits einen Schritt voraus, doch wenn wir der Sicherheit bereits in der frühesten Phase des SDL Priorität einräumen, können wir das Blatt wieder zu unseren Gunsten wenden.“
Danhieux warnte, dass die längerfristige Sorge darin bestehe, dass das „Vibe-Coding“ die Softwareentwicklung weiterhin aus den Entwicklungsprozessen der Unternehmen hinaus und in die Wohnzimmer verlagern werde, was zu mehr Sicherheitslücken führe, die die Bedrohungslandschaft erweitern könnten. Professionelle Entwickler mögen zwar nicht perfekt sein, doch sie durchlaufen dennoch die erforderlichen Prüfungen. Anfänger in der Programmierung tun dies nicht, und je weiter sich ihre Software verbreitet, desto größer wird die Angriffsfläche und desto geringer wird das Vertrauen in das System.
Danhieux argumentiert, dass es von entscheidender Bedeutung ist, diese Lücke zu schließen, bevor sich das Problem noch weiter ausweitet.“„Wenn wir dieses Sicherheitsproblem nicht lösen, werden wir meiner Meinung nach in einigen Jahren schlechter dastehen“, sagte er.
Auch Oftedal betonte die Dringlichkeit.
„Die Fehler sind bereits im Umlauf“, sagte er. „Wenn Sie sich jetzt nicht damit befassen, sind Sie bereits im Rückstand.“
