Der KI-Assistent „Muse“ von Meta legt wohl automatisch Dateien mit Informationen über deine Familie und Freunde an. Zwei Sicherheitsforscher haben dies nun herausgefunden, als sie die KI aufgefordert haben, ihnen interne Dateien anzuzeigen.
Den Forschern fiel auf, dass die Software automatisch Dateien zu Personen anlegt, über die in den Chats geschrieben wurde. Diese Dateien enthalten Rubriken wie „Fakten“, „Geschichte“ und „Gemeinsamkeiten“, aber auch Rubriken zur gemeinsamen Beziehung oder zu Konflikten. Dabei fiel auf, dass die KI die Daten, die beim Schreiben über die genannten Personen anfielen, systematisch strukturierte und kategorisierte. Als Grund gab Meta an, dass man die Beziehung zu echten Menschen aus dem Umfeld des Nutzers oder der Nutzerin verstehen wolle, damit der Agent möglichst hilfreiche Informationen liefern könne – beispielsweise, um an Geburtstage zu erinnern oder sich zu merken, in welches Restaurant eine bestimmte Person am liebsten geht.