Google: Neue KI erkennt und prüft Sicherheitslücken

Rubrik: Technologie & KI
Format: Analyse
Autor: Sinisa Brkic (sb)

Google hat mit Gemini 4 Carbon ein KI-Modell vorgestellt, das Sicherheitslücken in Software selbstständig erkennen, ihre Ausnutzbarkeit überprüfen und entsprechende Reparaturen entwickeln soll. In spezialisierten Sicherheitstests erreicht das System nach Herstellerangaben neue Spitzenwerte und übernimmt zugleich die Führung in einem unabhängigen KI-Leistungsindex. Die Entwicklung könnte die Cyberabwehr erheblich verändern, wirft aber auch neue Fragen über die Kontrolle zunehmend autonomer KI-Systeme auf.

Google verbindet Angriffserkennung und Cyberabwehr

Mit Gemini 4 Carbon hat Google am 28. Oktober 2026 sein bislang leistungsfähigstes KI-Modell vorgestellt. Im Mittelpunkt stehen Fähigkeiten, die weit über die herkömmliche Analyse von Programmcode hinausgehen. Das System soll komplexe Sicherheitslücken selbstständig identifizieren, ihre tatsächliche Ausnutzbarkeit überprüfen und anschließend technische Korrekturen entwickeln können. Damit nähert sich künstliche Intelligenz einem Aufgabenbereich, der bisher spezialisierten Sicherheitsteams vorbehalten war. Die systematische Untersuchung umfangreicher Software, die Bewertung möglicher Angriffspunkte und die Entwicklung zuverlässiger Sicherheitsupdates gehören zu den anspruchsvollsten Tätigkeiten der Cybersicherheit. Google will mehrere dieser Arbeitsschritte durch ein einziges KI-Modell miteinander verbinden. Das Besondere liegt weniger in der Automatisierung einzelner Prüfungen als in der Verbindung bislang getrennter Prozesse. Ein System, das eine Schwachstelle nicht nur erkennt, sondern ihre Bedeutung überprüft und eine mögliche Reparatur entwickelt, könnte Sicherheitsanalysen deutlich beschleunigen. Wie zuverlässig diese Abläufe außerhalb kontrollierter Testumgebungen funktionieren, ist allerdings noch nicht ausreichend untersucht.

Drei Benchmarks dokumentieren erhebliche Fortschritte

Google veröffentlichte zur Vorstellung von Gemini 4 Carbon Ergebnisse aus drei spezialisierten Sicherheitsbenchmarks. Die Tests untersuchen unterschiedliche Fähigkeiten und bilden wesentliche Schritte der technischen Sicherheitsanalyse ab. Im Benchmark SEC-bench Pro erzielt das Modell nach Angaben des Unternehmens 88,2 Prozent. Der Test bewertet, wie erfolgreich ein KI-System komplexe Sicherheitslücken in realer Software identifizieren kann. Die Fähigkeit ist besonders für Unternehmen relevant, deren Anwendungen aus umfangreichen und über Jahre gewachsenen Programmbeständen bestehen. Beim Benchmark ExploitGym erreicht Gemini 4 Carbon 54,8 Prozent. Dabei wird untersucht, ob das Modell vorhandene Schwachstellen unter definierten Testbedingungen tatsächlich ausnutzen kann. Für Sicherheitsexperten ist diese Unterscheidung wesentlich, weil nicht jede theoretisch vorhandene Schwachstelle automatisch ein praktisch ausnutzbares Risiko darstellt. Im dritten Benchmark, CWE-bench, erzielt das System 71 Prozent. Hier steht die Entwicklung funktionsfähiger Softwarekorrekturen im Mittelpunkt. Das Modell soll erkannte Sicherheitsprobleme durch Änderungen am Programmcode beheben und damit einen weiteren zentralen Schritt der Cyberabwehr übernehmen. Zusammengenommen zeigen die Ergebnisse, wie weit sich die Fähigkeiten moderner KI-Systeme inzwischen entwickelt haben. Sie erlauben jedoch keine pauschalen Aussagen über ihre Zuverlässigkeit in realen Netzwerken. Die veröffentlichten Sicherheitswerte stammen von Google, wurden bislang nicht vollständig unabhängig reproduziert und beruhen auf Tests, bei denen die regulären Sicherheitsbeschränkungen des Modells deaktiviert waren. Ein Ergebnis von 88,2 Prozent bedeutet deshalb nicht, dass Gemini 4 Carbon nahezu neun von zehn beliebigen Sicherheitslücken in produktiven IT-Systemen zuverlässig entdecken könnte. Auch die Fähigkeit zur Ausnutzung von Schwachstellen wurde in definierten Testumgebungen bewertet und ist kein Nachweis für eigenständig durchgeführte Angriffe auf reale Netzwerke.

Google übernimmt die Führung im internationalen KI-Vergleich

Neben den Cybersecurity-Ergebnissen erreicht Gemini 4 Carbon auch im allgemeinen internationalen KI-Leistungsvergleich eine neue Spitzenposition. Das Modell belegt im Artificial Analysis Intelligence Index in der Version 5.0 mit 59 Punkten den ersten Platz. Die Bewertung wird unabhängig von Google durchgeführt und umfasst neun unterschiedliche Tests. Untersucht werden unter anderem komplexe Wissensarbeit, Programmierung, wissenschaftliche Aufgaben und die eigenständige Bearbeitung mehrstufiger Arbeitsprozesse. Damit bildet der Index ein breiteres Fähigkeitsspektrum ab als die ausschließlich auf Cybersicherheit ausgerichteten Benchmarks. Der Vorsprung gegenüber der Konkurrenz fällt allerdings gering aus. Das zweitplatzierte Claude Opus 5.5 von Anthropic erreicht in der leistungsfähigsten bewerteten Konfiguration 58 Punkte. In einzelnen Disziplinen liegt Anthropic weiterhin vor Google, weshalb die Spitzenposition nicht mit einer generellen Überlegenheit in sämtlichen Anwendungsbereichen gleichgesetzt werden darf. Trotzdem ist das Ergebnis für den internationalen KI-Wettbewerb bedeutsam. Während sich die führenden amerikanischen Technologieunternehmen lange vor allem über Sprachverständnis, mathematische Fähigkeiten und Programmierleistungen miteinander verglichen, gewinnen inzwischen eigenständig handelnde Systeme zunehmend an Bedeutung.

Wenn KI über mehrere Tage an Sicherheitsproblemen arbeitet

Eine weitere Besonderheit von Gemini 4 Carbon liegt in der Fähigkeit, komplexe technische Aufgaben über längere Zeiträume zu bearbeiten. Google berichtet von internen Anwendungen, bei denen das Modell über mehrere Tage hinweg an umfangreichen Entwicklungsproblemen arbeitete, verschiedene Lösungswege untersuchte und Fehler in großen Softwarebeständen behob. Gerade in der Cybersicherheit ist diese Ausdauer von Bedeutung. Kritische Schwachstellen entstehen häufig durch das Zusammenspiel unterschiedlicher Softwarekomponenten, fehlerhafter Abhängigkeiten oder unzureichend abgesicherter Schnittstellen. Ihre Ursachen lassen sich nicht immer durch die isolierte Untersuchung einzelner Programmabschnitte erkennen. Ein KI-System, das größere technische Zusammenhänge analysieren und seine Arbeit über viele aufeinanderfolgende Schritte fortsetzen kann, könnte Sicherheitsteams bei besonders aufwendigen Untersuchungen unterstützen. Allerdings beruhen die Angaben zu solchen langfristigen Arbeitsabläufen bislang auf Erfahrungen innerhalb von Google. Ob vergleichbare Ergebnisse auch unter den Bedingungen unterschiedlichster Unternehmensnetzwerke erreicht werden, bleibt offen.

Dieselben Fähigkeiten können auch Angreifern dienen

Die technologischen Fortschritte berühren ein grundlegendes Sicherheitsproblem. Fähigkeiten, die für die Verteidigung digitaler Systeme wertvoll sind, können grundsätzlich auch für offensive Zwecke eingesetzt werden. Die automatisierte Suche nach Sicherheitslücken kann Unternehmen helfen, gefährliche Fehler frühzeitig zu entdecken. Dieselbe Fähigkeit könnte jedoch missbraucht werden, um potenzielle Angriffspunkte systematisch zu identifizieren. Noch deutlicher wird dieses Spannungsverhältnis, wenn ein KI-System zusätzlich überprüfen kann, ob sich eine gefundene Schwachstelle tatsächlich ausnutzen lässt. Damit verändert sich auch die Diskussion über den verantwortungsvollen Einsatz künstlicher Intelligenz. Entscheidend ist nicht mehr ausschließlich, wie leistungsfähig ein Modell bei einzelnen technischen Aufgaben ist. Zunehmend kommt es darauf an, welche Handlungen ein System ausführen darf, welchen Zugriff es auf digitale Infrastruktur erhält und wie zuverlässig sich unerwünschte Aktivitäten verhindern lassen. Die veröffentlichten Ergebnisse liefern keinen Beleg dafür, dass Gemini 4 Carbon außerhalb kontrollierter Testumgebungen eigenständig vollständige Cyberangriffe durchführt. Sie zeigen jedoch, dass Fähigkeiten zur Schwachstellenerkennung, technischen Ausnutzung und Fehlerbehebung immer stärker in leistungsfähigen KI-Modellen zusammengeführt werden.

Chinas GLM-5.3 verdeutlicht die internationale Dimension

Wie weit die Entwicklung bereits fortgeschritten ist, zeigen auch neue Untersuchungsergebnisse zum chinesischen KI-Modell GLM-5.3 des Unternehmens Z.AI. Das Sicherheitsforschungsunternehmen Irregular veröffentlichte am 28. Oktober eine Untersuchung, bei der das Modell komplexe, mehrstufige Cyberangriffe in kontrollierten Testumgebungen durchführen sollte. Dabei gelang es GLM-5.3, drei von insgesamt 13 Angriffsszenarien mindestens einmal vollständig abzuschließen. Nach Angaben der Forscher handelt es sich um das bisher stärkste Ergebnis eines offen verfügbaren Modells mit zugänglichen Modellgewichten in dieser Testreihe. Die Untersuchung unterscheidet sich methodisch von den durch Google veröffentlichten Sicherheitsbenchmarks. Während Irregular mehrstufige Angriffssimulationen untersucht, konzentrieren sich die Google-Ergebnisse auf die Erkennung, Überprüfung und Behebung konkreter Software-Schwachstellen. Ein unmittelbarer Leistungsvergleich zwischen beiden Modellen wäre deshalb nicht aussagekräftig. Dennoch verdeutlichen die nahezu zeitgleich veröffentlichten Ergebnisse eine internationale Entwicklung. Leistungsfähige Cyberfähigkeiten entstehen nicht mehr ausschließlich innerhalb weniger amerikanischer Technologiekonzerne. Auch Modelle, die unabhängig von ihren Herstellern betrieben werden können, erreichen inzwischen ein Niveau, das neue Anforderungen an Sicherheitsprüfungen und Missbrauchsschutz stellt.

Warum Google den Zugang zunächst beschränkt

Google reagiert auf die besonderen Fähigkeiten seines neuen Modells mit einer kontrollierten Veröffentlichungsstrategie. Gemini 4 Carbon soll zunächst nur ausgewählten Fachleuten und Unternehmen aus der defensiven Cybersicherheit zur Verfügung stehen. Zusätzliche vertrauenswürdige Partner sollen schrittweise über das Fairwind-Programm Zugang erhalten. Parallel beteiligt sich Google nach eigenen Angaben an einem freiwilligen Verfahren der US-Regierung zur Sicherheitsprüfung leistungsfähiger KI-Modelle vor ihrer breiteren Veröffentlichung. Das Unternehmen will weitere Erfahrungen mit Schutzmechanismen sammeln, bevor Gemini 4 Carbon allgemein für Entwickler, Unternehmen und Verbraucher bereitgestellt wird. Diese Beschränkung ist angesichts der technischen Fähigkeiten des Systems nachvollziehbar. Sie verdeutlicht zugleich, dass die Veröffentlichung besonders leistungsfähiger KI-Modelle zunehmend zu einer eigenständigen Sicherheitsentscheidung wird. Welche Funktionen unter welchen Bedingungen zugänglich gemacht werden, kann ebenso entscheidend sein wie die Leistungsfähigkeit des Modells selbst. Ein verbindlicher Termin für die allgemeine Verfügbarkeit wurde bislang nicht genannt.

Die entscheidende Bewährungsprobe steht noch bevor

Für Unternehmen, öffentliche Einrichtungen und Betreiber kritischer Infrastruktur könnten solche Systeme künftig erhebliche Vorteile bieten. Sicherheitslücken ließen sich möglicherweise schneller erkennen, technische Risiken systematischer bewerten und notwendige Reparaturen mit geringerem Zeitaufwand entwickeln. Gerade dort, wo umfangreiche Softwarebestände auf begrenzte personelle Ressourcen treffen, wäre eine solche Unterstützung von erheblichem Wert. Allerdings können auch automatisierte Sicherheitsanalysen fehlerhafte Ergebnisse liefern. Eine unzutreffend bewertete Schwachstelle oder eine mangelhaft geprüfte Softwarekorrektur kann selbst neue Risiken verursachen. Die Einführung leistungsfähiger KI-Systeme macht menschliche Kontrolle deshalb nicht überflüssig. Vielmehr verschiebt sich ein Teil der Verantwortung auf die Überwachung automatisierter Abläufe, die Überprüfung technischer Entscheidungen und die Festlegung klarer Zugriffsrechte. Mit Gemini 4 Carbon zeigt Google, wie weit künstliche Intelligenz inzwischen in sicherheitskritische Aufgabenbereiche vordringt. Die unabhängig bestätigte Spitzenposition im allgemeinen KI-Leistungsindex unterstreicht den technologischen Fortschritt, während die spezialisierten Sicherheitsbenchmarks das Potenzial für weitreichende Veränderungen erkennen lassen. Noch ist nicht erwiesen, dass diese Leistungen unter realen Einsatzbedingungen in vergleichbarer Zuverlässigkeit erreicht werden. Die langfristige Bedeutung der Entwicklung wird sich deshalb nicht allein an Benchmarkwerten messen lassen. Entscheidend wird sein, ob künstliche Intelligenz Sicherheitslücken künftig schneller schließen hilft, als ihre wachsenden Fähigkeiten neue Möglichkeiten für Angreifer eröffnen.