Katarzyna Petru
Google hat einen neuen Sicherheitsbericht veröffentlicht, in dem die zunehmenden Versuche beschrieben werden, fortschrittliche Modelle der künstlichen Intelligenz zu kopieren. Ziel der Angriffe sei unter anderem Gemini, das Flaggschiff-AI-Modell des Unternehmens. Laut dem Dokument haben die Angreifer über 100.000 Anfragen genutzt, um das Vorgehen des Systems zu analysieren und nachzubilden. Google behauptet, dass diese Aktivitäten Teil einer breiteren Welle von Versuchen zur Diebstahl von geistigem Eigentum im Zusammenhang mit AI sind. Die Angriffe sollen unter anderem aus Ländern wie Nordkorea, Russland oder China stammen. Das Unternehmen betont jedoch, dass die Bedrohung in erster Linie die Schöpfer von Modellen betrifft und nicht die gewöhnlichen Benutzer.
Was ist „Model Extraction”?
Google bezeichnet diese Aktivitäten als sogenannte Extraktionsangriffe, also systematisches Untersuchen von Modellen mit legalem Zugang. In der Praxis bedeutet dies, eine massive Anzahl von Anfragen zu generieren, um die Mechanismen der KI zu verstehen und dieses Wissen zu nutzen, um ein konkurrierendes System zu schaffen. Derartige Operationen können zur Entstehung von Modellen in anderen Sprachen oder zur Replikation von Funktionalitäten ohne Zugriff auf die ursprünglichen Trainingsdaten führen.
Rüstungswettlauf in der Welt der KI
Experten der Google Threat Intelligence Group warnen, dass das Unternehmen nur das erste Beispiel eines größeren Problems sein könnte. In den letzten Jahren hat sich der Wettbewerb im KI-Sektor erheblich beschleunigt, und die Spannungen zwischen den Technologiefirmen nehmen zu. Auf dem Markt sind neue, fortschrittliche Modelle asiatischer Unternehmen aufgetaucht, die zunehmend gewagter mit den Marktführern aus den USA konkurrieren. Im Hintergrund gibt es auch Streitigkeiten über die Nutzung fremder Technologie zum Training eigener Systeme.
Der Google-Bericht zeigt, dass mit der Entwicklung der künstlichen Intelligenz auch das Risiko des Technologie Diebstahls steigt. Angriffe, die auf der massenhaften Analyse von Modellen basieren, könnten zu einer der Hauptbedrohungen für Unternehmen werden, die KI entwickeln. Für die Nutzer bedeutet das eines – das Rennen um die Dominanz in der Welt der KI gewinnt gerade an Fahrt.
Quelle: cnet.com
