One Article Review
| Source |  knowbe4 |
|---|---|
| Identifiant | 8368532 |
| Date de publication | 2023-08-10 18:39:58 (vue: 2023-08-10 20:07:09) |
| Titre | Le rôle de l'AI \\ dans la cybersécurité: Black Hat USA 2023 révèle comment les grands modèles de langage façonnent l'avenir des attaques de phishing et de la défense AI\\'s Role in Cybersecurity: Black Hat USA 2023 Reveals How Large Language Models Are Shaping the Future of Phishing Attacks and Defense |
| Texte |
à Black Hat USA 2023, une session dirigée par une équipe de chercheurs en sécurité, dont Fredrik Heiding, Bruce Schneier, Arun Vishwanath et Jeremy Bernstein, ont dévoilé une expérience intrigante.Ils ont testé de grands modèles de langue (LLM) pour voir comment ils ont fonctionné à la fois dans l'écriture de courriels de phishing convaincants et les détecter.Ceci est le PDF document technique . L'expérience: l'élaboration des e-mails de phishing L'équipe a testé quatre LLM commerciaux, y compris le chatppt de l'Openai \\, Bard de Google \\, Claude \\ de Google et Chatllama, dans des attaques de phishing expérimentales contre les étudiants de Harvard.L'expérience a été conçue pour voir comment la technologie de l'IA pouvait produire des leurres de phishing efficaces. Heriding, chercheur à Harvard, a souligné qu'une telle technologie a déjà eu un impact sur le paysage des menaces en facilitant la création de courriels de phishing.Il a dit: "GPT a changé cela. Vous n'avez pas besoin d'être un orateur anglais natif, vous n'avez pas besoin de faire beaucoup. Vous pouvez entrer une invite rapide avec seulement quelques points de données." L'équipe a envoyé des e-mails de phishing offrant des cartes-cadeaux Starbucks à 112 étudiants, en comparant Chatgpt avec un modèle non AI appelé V-Triad.Les résultats ont montré que l'e-mail V-Triad était le plus efficace, avec un taux de clic de 70%, suivi d'une combinaison V-Triad-Chatgpt à 50%, Chatgpt à 30% et le groupe témoin à 20%. Cependant, dans une autre version du test, Chatgpt a fonctionné beaucoup mieux, avec un taux de clic de près de 50%, tandis que la combinaison V-Triad-Chatgpt a mené avec près de 80%.Heriding a souligné qu'un LLM non formé et à usage général a pu créer rapidement des attaques de phishing très efficaces. Utilisation de LLMS pour la détection de phishing La deuxième partie de l'expérience s'est concentrée sur l'efficacité des LLM pour déterminer l'intention des e-mails suspects.L'équipe a utilisé les e-mails de Starbucks de la première partie de l'expérience et a demandé aux LLM de déterminer l'intention, qu'elle ait été composée par un humain ou une IA, d'identifier tout aspect suspect et d'offrir des conseils sur la façon de répondre. Les résultats étaient à la fois surprenants et encourageants.Les modèles avaient des taux de réussite élevés dans l'identification des e-mails marketing, mais ont eu des difficultés avec l'intention des e-mails de phishing V-Triad et Chatgpt.Ils se sont mieux comportés lorsqu'ils sont chargés d'identifier le contenu suspect, les résultats de Claude \\ étant mis en évidence pour non seulement pour obtenir des résultats élevés dans les tests de détection mais aussi fournir des conseils judicieux pour les utilisateurs. La puissance de phishing de LLMS Dans l'ensemble, Heriding a conclu que les LLMS prêtesété formé sur toutes les données de sécurité.Il a déclaré: "C'est vraiment quelque chose que tout le monde peut utiliser en ce moment. C'est assez puissant." L'expér |
| Envoyé | Oui |
| Condensat | 112 2023 able achieving advice almost already also another anthropic any anyone are arun asked aspects attackers attacks attempts bar bard been being bernstein better black both box bruce but call called can capabilities cards changed chatgpt chatllama claude click combination commercial comparing composed concluded content control convincing could craft crafting create cyber cybersecurity cybersecurity: data defense designed detecting detection detectionthe determine determining don double easier edged effective email emails emailsthe emphasized encouraging english enter even ever everyone evolving experiment experiment: experimental fared fascinating fellow firewall first flagging focused followed four fredrik from future general gift glimpse google gpt group had hand harvard has hat heiding high highlighted highlighting how however human identify identifying impacted including infosec intent intriguing jeremy just keep know landscape language large led leverage light llm llms llmsoverall looking lowering lures making marketing model models most much must native nearly need new non not now offer offering offers one only openai other out paper part pdf performed phishing points possible power powerful produce professionals prompt providing purpose quick quickly quite rate rates really research researchers respond responding results reveals right role said schneier second security see sent serves session shaping sheds showed something sound speaker starbucks stated strong struggled students success such surprising suspicious sword tasked team technical technology test tested tests them though threat threats tool topic trained triad understand untrained unveiledan usa use used users using version very vishwanath wake well when whether would writing |
| Tags | Tool Threat |
| Stories | ChatGPT ChatGPT |
| Notes | ★★ |
| Move | 
|
L'article ne semble pas avoir été repris aprés sa publication.
L'article ne semble pas avoir été repris sur un précédent.