Verschlüsselte KI-Denkprotokolle geknackt - Schwachstelle bei OpenAI, Anthropic und Google
Forscher haben eine gravierende Schwachstelle bei der Absicherung sogenannter Reasoning-Logs entdeckt. Verschlüsselte Denkprotokolle moderner KI-Modelle lassen sich demnach unter bestimmten Bedingungen über ein schwächeres Modell desselben Anbieters entschlüsseln. Besonders brisant: In öffentlich zugänglichen Datensätzen fanden die Forscher bereits personenbezogene Daten, Zugangsdaten, API-Schlüssel und Passwörter.
#Anthropic
Cybernews
#Google #KISicherheit #künstlicheIntelligenz #MaxPlanckInstitut #OpenAI #Reasoning #UniversitätTübingen #Verschlüsselung