Wie KI für mehr digitale Sicherheit sorgen kann

Zahlreiche erfahrene Sicherheitsexpert*innen berichten heutzutage davon, dass sie einen ständigen Kampf gegen Cyberkriminelle und staatlich unterstützte Angreifer*innen führen. Mehr noch: sie gehen davon aus, dass die meisten Patches, Präventivmaßnahmen und Kampagnen zur Sensibilisierung der Öffentlichkeit nur dazu dienen können, die Bedrohungen von gestern zu entschärfen – und nicht die Bedrohungen, die bevorstehen.

Das könnte sich ändern. Während sich die Welt auf das Potenzial von KI konzentriert – und Regierungen und Industrie an einem Regulierungsansatz arbeiten, um die Sicherheit von KI zu gewährleisten – glauben wir, dass KI einen Wendepunkt für die digitale Sicherheit darstellt. Und damit sind wir nicht allein. Mehr als 40% der Menschen betrachten eine bessere Sicherheit als einen der wichtigsten Anwendungsbereiche für KI – und genau dieses Thema wird an diesem Wochenende im Mittelpunkt der Münchner Sicherheitskonferenz stehen.

KI steht an einem entscheidenden Scheideweg – politische Entscheidungsträger*innen, Sicherheitsexpert*innen und die Zivilgesellschaft haben nun die Chance, das Gleichgewicht im Bereich der Cybersicherheit endlich vom Angreifer zum Verteidiger im Cyberraum zu verschieben. In einer Zeit, in der Kriminelle mit KI experimentieren, brauchen wir mutige und rechtzeitige Maßnahmen, um die weitere Ausrichtung dieser Technologie zu bestimmen. Um diese Arbeit zu unterstützen, starten wir heute die neue AI Cyber Defense Initiative, einschließlich einer vorgeschlagenen politischen und technologischen Agenda, die in unserem neuen Bericht enthalten ist: Sichern, stärken, vorantreiben: Wie KI das Verteidiger-Dilemma umkehren kann.

Wie das Gleichgewicht in der Cybersicherheit von Angreifern zu Verteidigern verschoben werden kann

Heute und seit Jahrzehnten besteht die größte Herausforderung in der Cybersicherheit darin, dass Angreifer nur eine einzige erfolgreiche, neuartige Bedrohung benötigen, um die besten Abwehrmaßnahmen zu durchbrechen. Verteidiger hingegen müssen jederzeit und in einem immer komplexer werdenden digitalen Raum die besten Verteidigungsmaßnahmen einsetzen – und dürfen sich dabei keine Fehler erlauben. Das ist das „Verteidiger-Dilemma“, und es gab noch nie einen zuverlässigen Weg, um dieses Gleichgewicht zu erreichen.

Unsere Erfahrung beim Einsatz von KI in großem Maßstab bestärkt uns in der Überzeugung, dass KI diese Dynamik tatsächlich umkehren kann. KI ermöglicht es Sicherheitsexpert*innen und Verteidigern, ihre Arbeit bei der Erkennung von Bedrohungen, im Bereich der Malware-Analyse, bei der Erkennung und Behebung von Schwachstellen sowie bei der Reaktion auf Vorfälle zu skalieren.

Drei Wege, wie wir KI im Bereich Sicherheit anwenden und gleichzeitig andere unterstützen

Im Rahmen der AI Cyber Defense Initiative investieren wir weiterhin in eine KI-gestützte Infrastruktur, veröffentlichen neue Tools für Verteidiger und starten neue Forschungs- und Schulungsprojekte im Bereich der KI-Sicherheit. Diese Initiativen sollen dazu beitragen, dass KI unsere gemeinsame digitale Zukunft sichert, stärkt und voranbringt.

1. Sichern. Wir glauben, dass KI-Sicherheitstechnologien, genau wie andere Technologien auch, grundsätzlich und standardmäßig sicher sein müssen – sonst könnten sie das Verteidiger-Dilemma noch weiter verschärfen. Aus diesem Grund haben wir das Secure AI Framework ins Leben gerufen, um gemeinsam an Best Practices für die Sicherung von KI-Systemen zu arbeiten. Basierend auf diesem Engagement arbeiten wir an der Förderung eines sicheren KI-Ökosystems:

• Wir investieren weiterhin in unser sicheres, KI-gestütztes Netzwerk globaler Rechenzentren. Um die Wende im Cyberspace herbeizuführen, müssen wir neue KI-Innovationen für Organisationen im öffentlichen Sektor und Unternehmen aller Größen und Branchen verfügbar machen. Von 2019 bis Ende 2024 werden wir über 5 Milliarden US-Dollar in Rechenzentren in Europa investieren, um den sicheren und zuverlässigen Zugang zu einer Reihe digitaler Dienste zu unterstützen, einschließlich umfassender generativer KI-Funktionen wie unserer Vertex AI-Plattform.
• Wir kündigen eine neue „AI for Cybersecurity“-Kohorte bestehend aus 17 Start-ups aus Großbritannien, den USA und der EU (unter anderen auch aus Deutschland) im Rahmen des AI for Cybersecurity-Programms der Google for Startups Growth Academy an. Damit soll das transatlantische Cybersicherheits-Ökosystem durch Internationalisierungsstrategien, KI-Tools und die Kompetenzen zu deren Nutzung gestärkt werden.

2. Befähigen. Die heute getroffenen KI-Governance-Entscheidungen können das Umfeld im Cyberspace unbeabsichtigt verändern. Unsere Gesellschaften brauchen einen ausgewogenen Regulierungsansatz für die Nutzung und Einführung von KI, um eine Zukunft zu verhindern, in der Angreifer innovativ sein können, Verteidiger jedoch nicht. Wir brauchen gezielte Investitionen, Partnerschaften zwischen Industrie und Regierung sowie wirksame Regulierungsansätze, um Organisationen in die Lage zu versetzen, den Nutzen von KI zu maximieren und diesen gleichzeitig für Gegner zu begrenzen. Um den Verteidigern in diesem Kampf die Oberhand zu verschaffen, ergreifen wir folgende Maßnahmen:

• Wir weiten unser 15 Millionen US-Dollar Cybersecurity-Seminare-Programm von Google.org auf ganz Europa aus. Das Programm haben wir letztes Jahr im Rahmen der Eröffnung des GSEC Malaga angekündigt. Es umfasst KI-fokussierte Module und unterstützt Universitäten bei der Ausbildung der nächsten Generation von Cybersicherheitsfachkräften.
• Wir bieten Magika, ein neues, KI-gestütztes Tool, das Verteidigern bei der Identifizierung von Dateitypen hilft, als Open-Source-Lösung an. Es ist ein wesentlicher Bestandteil bei der Erkennung von Malware und wird bereits zum Schutz von Produkten wie Gmail, Drive und Safe Browsing eingesetzt. Außerdem nutzt es unser VirusTotal-Team zur Förderung einer sicheren digitalen Umgebung. Magika übertrifft herkömmliche Dateiidentifizierungsmethoden und bietet insgesamt eine Genauigkeitssteigerung von 30 % und eine bis zu 95 % höhere Präzision bei traditionell schwer zu identifizierenden, aber potenziell problematischen Inhalten wie VBA, JavaScript und Powershell.

3. Vorantreiben. Wir setzen uns dafür ein, die Forschung voranzutreiben, die zu Durchbrüchen im Bereich KI-basierter Sicherheit beiträgt. Um diese Bemühungen zu unterstützen, kündigen wir Forschungsstipendien und strategische Partnerschaften in Höhe von zwei Millionen US-Dollar an, die dazu beitragen werden, Forschungsinitiativen im Bereich Cybersicherheit mithilfe von KI zu stärken. Dazu zählen die Verbesserung der Codeüberprüfung, die Verbesserung des Verständnisses, wie KI bei Cyberangriffen und Gegenmaßnahmen zur Verteidigung helfen kann, und die Entwicklung großer Sprachmodelle, die widerstandsfähiger gegenüber Bedrohungen sind. Mit der Finanzierung werden Forschende an Institutionen wie der University of Chicago, Carnegie Mellon und Stanford unterstützt. Das Programm baut auf unseren laufenden Bemühungen zur Förderung des Cybersicherheits-Ökosystems auf, einschließlich unserer 12-Millionen-US Dollar-Zusage für das New Yorker Forschungssystem im letzten Jahr.

Die KI-Revolution ist im vollen Gange. Während Menschen sich zu Recht auf medizinische und wissenschaftliche Durchbrüche freuen, sind wir begeistert vom Potenzial der KI, generationsübergreifende Sicherheitsherausforderungen zu lösen und uns gleichzeitig der sicheren und vertrauenswürdigen digitalen Welt näher zu bringen.

Hier gibt’s den vollständigen Bericht (auf Englisch).