One Article Review
| Source |  Schneier on Security |
|---|---|
| Identifiant | 8339324 |
| Date de publication | 2023-05-25 11:05:43 (vue: 2023-05-25 12:06:42) |
| Titre | Sur l'empoisonnement des LLM On the Poisoning of LLMs |
| Texte | Intéressant essai sur l'empoisonnement des LLM & # 8212; Chatgpt en particulier:
Étant donné que nous connaissons l'empoisonnement des modèles depuis des années, et étant donné les fortes incitations, la foule de référencePendant des mois.Nous ne savons pas parce que Openai ne parle pas de leurs processus, de la façon dont ils valident les invites qu'ils utilisent pour la formation, de la façon dont ils vérifient leur ensemble de données de formation ou de la façon dont ils affinent Chatgpt.Leur secret signifie que nous ne savons pas si le chatppt a été géré en toute sécurité.
Ils devront également mettre à jour leur ensemble de données de formation à un moment donné.Ils ne peuvent pas laisser leurs modèles coincés en 2021 pour toujours ...
Interesting essay on the poisoning of LLMs—ChatGPT in particular: Given that we’ve known about model poisoning for years, and given the strong incentives the black-hat SEO crowd has to manipulate results, it’s entirely possible that bad actors have been poisoning ChatGPT for months. We don’t know because OpenAI doesn’t talk about their processes, how they validate the prompts they use for training, how they vet their training data set, or how they fine-tune ChatGPT. Their secrecy means we don’t know if ChatGPT has been safely managed. They’ll also have to update their training data set at some point. They can’t leave their models stuck in 2021 forever... |
| Notes | ★★ |
| Envoyé | Oui |
| Condensat | 2021 about actors also bad because been black can’t chatgpt crowd data doesn’t don’t entirely essay fine forever given has hat have how incentives interesting it’s know known leave llms llms—chatgpt managed manipulate means model models months openai particular: point poisoning possible processes prompts results safely secrecy seo set some strong stuck talk they’ll training tune update use validate vet we’ve years |
| Tags | |
| Stories | ChatGPT ChatGPT |
| Move | 
|
L'article ne semble pas avoir été repris aprés sa publication.
L'article ne semble pas avoir été repris sur un précédent.