Source |
Mandiant |
Identifiant |
8377609 |
Date de publication |
2021-01-21 17:30:00 (vue: 2023-09-01 14:42:13) |
Titre |
Transformers de formation pour les tâches de cybersécurité: une étude de cas sur la prédiction de l'URL malveillante Training Transformers for Cyber Security Tasks: A Case Study on Malicious URL Prediction |
Texte |
Fait saillie
Effectuez une étude de cas sur l'utilisation de modèles de transformateurs pour résoudre les problèmes de cybersécurité
Former un modèle de transformateur pour détecter les URL malveillantes sous plusieurs régimes de formation
Comparez notre modèle avec d'autres méthodes d'apprentissage en profondeur et montrez qu'elle fonctionne sur la page avec d'autres modèles de premier plan
Identifiez les problèmes de l'application de la pré-formation générative à la détection de l'URL malveillante, qui est une pierre angulaire de la formation des transformateurs dans les tâches de traitement du langage naturel (PNL)
Introduire une nouvelle fonction de perte qui équilibre la classification et la perte générative pour obtenir des performances améliorées sur le
Highlights
Perform a case study on using Transformer models to solve cyber security problems
Train a Transformer model to detect malicious URLs under multiple training regimes
Compare our model against other deep learning methods, and show it performs on-par with other top-scoring models
Identify issues with applying generative pre-training to malicious URL detection, which is a cornerstone of Transformer training in natural language processing (NLP) tasks
Introduce novel loss function that balances classification and generative loss to achieve improved performance on the |
Notes |
★★★
|
Envoyé |
Oui |
Condensat |
achieve against applying balances case classification compare cornerstone cyber deep detect detection function generative highlights identify improved introduce issues language learning loss malicious methods model models multiple natural nlp novel other par perform performance performs pre prediction problems processing regimes scoring security show solve study tasks tasks: top train training transformer transformers under url urls using which |
Tags |
Studies
|
Stories |
|
Move |
|