Source |
The Register |
Identifiant |
8654958 |
Date de publication |
2025-03-11 08:37:10 (vue: 2025-03-11 09:08:20) |
Titre |
Minja Sneak Attack Poisons Ai Modèles pour d'autres utilisateurs de chatbot MINJA sneak attack poisons AI models for other chatbot users |
Texte |
Rien de tel qu'un agent Openai qui divulgue des données ou se confond sur ce que quelqu'un d'autre lui a chuchoté Les modèles AI avec la mémoire visent à améliorer les interactions utilisateur en rappelant les engagements passés. Cependant, cette fonction ouvre la porte à la manipulation.… |
Notes |
★★★
|
Envoyé |
Oui |
Condensat |
agent aim attack chatbot confused data door else engagements enhance feature getting however interactions leaking like manipulation memory minja models nothing openai opens other over past poisons powered recalling sneak someone user users what whispered |
Tags |
|
Stories |
|
Move |
|