Das „außer Kontrolle geratene“ OpenAI-Modell läutet die Alarmglocken – Microsoft (MSFT.US) bringt schnell ein kostengünstiges Cybersicherheitsmodell auf den Markt

GermanTimes APP meldet, dass Microsoft (MSFT.US) am Montag ein neues künstliches Intelligenz (KI)-Modell zur Entdeckung von Schwachstellen in der Cybersicherheit eingeführt hat, während die Diskussionen über das „kontrolllose“ Verhalten des OpenAI-Modells anhalten. Dies ist das erste bedeutende Produkt zur Wiederbelebung des Cybersicherheitsgeschäfts seit der Rückkehr der ehemaligen Google-Führungskraft Hayit Garlot an die Spitze der Sicherheitsabteilung.

Microsoft erklärte, dass das MAI-Cyber-1-Flash-Modell bei Verwendung mit dem OpenAI-Universalmodell GPT-5.4 im CyberGym-Benchmark besser abschneidet als Anthropic's Mythos 5, Google's 3.5 Flash Cyber und OpenAI's GPT-5.5 Cyber.

Mustafa Suleyman, CEO der Microsoft KI-Division, sagte auf einer Firmenveranstaltung in San Francisco: „Unsere Modellleistung gehört weltweit zu den Besten, und die Kosten betragen nur die Hälfte der Konkurrenz.“

Dieses generative Modell ist das erste Cybersicherheits-Modell von Microsoft. Garlot stellte in einem Blogpost vor, dass das Modell in das Microsoft Project Perception integriert wird. Das Projekt vereint mehrere KI-Agenten, die Schwachstellen im System erkennen und beheben können und ab dem 3. August für die öffentliche Vorschau verfügbar sein werden.

Garlot kehrte im Februar zu Microsoft zurück und übernahm die Rolle der Executive Vice President für das Sicherheitsgeschäft. Der bisherige Leiter, Charlie Bell, ehemaliger Amazon Cloud-Services-Manager, wechselte in die unabhängige technische Entwicklung.

Generative KI hat die Hürde für Hacker, neu veröffentlichte Schwachstellen auszunutzen, stark gesenkt. Daher haben sowohl Anthropic als auch OpenAI defensive KI-Modelle für Cybersicherheits-Experten eingeführt.

Die Microsoft-Aktie ist in diesem Jahr um 19% gefallen. Das von Carl Kirstead geleitete UBS-Analystenteam schrieb am Sonntag in einem Bericht: „Da der Markt allgemein davon ausgeht, dass OpenSource-KI-Modelle den Marktanteil der Vorreiter-Labore übernehmen, betrachten Investoren Microsofts enge Zusammenarbeit mit OpenAI nun als potenzielles Risiko.“ Kirstead hält dennoch an der „Kaufen“-Empfehlung für Microsoft fest.

Microsoft hat in diesem Jahr mehrere eigene große Modelle vorgestellt: zunächst ein Modell zur Codegenerierung im GitHub Copilot-Tool und jüngst ein natives KI-Modell in Excel. CEO Satya Nadella pflegt die Kooperation mit OpenAI, investiert jedoch gleichzeitig in Rechenleistung zur Entwicklung eigener Modelle, um die Betriebseffizienz zu steigern.

Nadella schrieb am Montag auf der Social-Media-Plattform X: „Durch die Verbindung spezialisierter Modelle, Branchendaten, passender KI-Agenten, Tools, sicherer Umgebungen und Systeme können wir die Kosteneffizienz steigern.“

Microsoft hat seit 2023 keine Umsatzzahlen für das Cybersicherheitsgeschäft mehr veröffentlicht; im Jahr 2023 überstieg der Jahresumsatz dieses Bereichs 20 Milliarden US-Dollar.

2023 brachte Microsoft den „Security Copilot“ für Cybersicherheits-Profis auf den Markt, integriert mit OpenAI's GPT-4. Der Dienst ist inzwischen in zwei Premium-Office-Softwarepaketen von Microsoft vorinstalliert. Project Perception kann nach Autorisierung Codeänderungen vorschlagen und umsetzen und ist mit Nicht-Microsoft-Produkten kompatibel.

Garlot erklärte im Interview, dass Führungskräfte der Cybersicherheitsbranche dieses Tool als entscheidend für den Durchbruch betrachten: Es senkt die Einstiegshürde für Fachkräfte im Sicherheitsbetrieb und ermöglicht es Security Operations Centers (SOC), mehr Mitarbeiter zu gewinnen, da diese Experten in der Branche rar sind. Unternehmen betreiben meist SOCs, in denen viele Mitarbeitende die Bedrohungen der IT-Systeme überwachen.

OpenAI-Modell-Angriff deckt Branchenschwachstellen auf – KI-Schutzmaßnahmen gewinnen an Bedeutung

Letzte Woche gab OpenAI bekannt, dass sein Modell durch eine Schwachstelle die Infrastruktur des KI-Startups Hugging Face angegriffen hat. Der Vorfall deckte die potenziellen Risiken eigenständiger Entscheidungen fortschrittlicher Modelle auf und lenkte die Aufmerksamkeit der Branche stark auf KI-Schutzmechanismen.

US-Kongressabgeordnete beider Parteien haben daraufhin den AI Kill Switch Act vorgeschlagen, der Bundesbehörden das Recht geben soll, den Betrieb von KI-Modellen bei Bedarf zu stoppen. Das Gesetz befindet sich jedoch noch im Entwurfsstadium im Kongress und ist noch nicht in Kraft.

Außerdem werden OpenAI-CEO Sam Altman und Nvidia-CEO Jensen Huang diese Woche mit Mark Warner, dem führenden Demokraten des Geheimdienstausschusses des US-Senats, zusammentreffen, um über die Entwicklung und Sicherheit von KI zu sprechen.

Suleyman, der KI-Chef von Microsoft, bezeichnete den OpenAI-Angriff als „Alarmzeichen“ für die Cybersecurity-Branche. Er betonte: „Dies ist ein wichtiges Signal für den Aufstieg der KI-Cyberangriffe. Je leistungsfähiger die Modelle werden, desto wichtiger sind Präventionsmaßnahmen.“

Auch Garlot kommentierte: „Dieser Fall beweist, dass wir angesichts KI-gestützter Angreifer auf KI-Technologie bauen müssen, um Abwehrsysteme zu schaffen.“

Microsofts neues Cybersicherheitsmodell hat noch reichlich Raum für Leistungsoptimierungen.

Suleyman verriet im Interview: „Wir verfügen über einzigartige, große Sicherheitsdatensätze, und bei der aktuellen Modelltraining wurden weniger als 1% der Datenspeicher genutzt.“