Verschlüsselte KI-Denkprotokolle geknackt - Schwachstelle bei OpenAI, Anthropic und Google
Forscher haben eine gravierende Schwachstelle bei der Absicherung sogenannter Reasoning-Logs entdeckt. Verschlüsselte Denkprotokolle moderner KI-Modelle lassen sich demnach unter bestimmten Bedingungen über ein schwächeres Modell desselben Anbieters entschlüsseln. Besonders brisant: In öffentlich zugänglichen Datensätzen fanden die Forscher bereits personenbezogene Daten, Zugangsdaten, API-Schlüssel und Passwörter.
#Anthropic@Cybernews#Google#KISicherheit#künstlicheIntelligenz#MaxPlanckInstitut#OpenAI#Reasoning#UniversitätTübingen#Verschlüsselung