La industria de la ciberseguridad puede aprovechar el potencial de GPT-3 como copiloto para ayudar a derrotar a los atacantes, según Sophos.
El último informe detalla los proyectos desarrollados por Sophos X-Ops utilizando los modelos de lenguaje grande de GPT-3 para simplificar la búsqueda de actividad maliciosa en conjuntos de datos del software de seguridad, filtrar el spam con mayor precisión y acelerar el análisis del binario «living off the land» (LOLBin) ataques.
“Desde que OpenAI presentó ChatGPT en noviembre, la comunidad de seguridad se ha centrado en gran medida en los riesgos potenciales que podría traer esta nueva tecnología. ¿Puede la IA ayudar a los aspirantes a atacantes a escribir malware o ayudar a los ciberdelincuentes a escribir correos electrónicos de phishing mucho más convincentes? Quizás, pero en Sophos durante mucho tiempo hemos visto a la IA como un aliado en lugar de un enemigo para los defensores lo que la convierte en una tecnología fundamental para Sophos y GPT-3 no es diferente. La comunidad de seguridad debería prestar atención no solo a los riesgos potenciales, sino también a las oportunidades potenciales que brinda GPT-3”, dijo Sean Gallagher, investigador principal de amenazas de Sophos.
Potencial de ciberseguridad de ChatGPT
Los investigadores de Sophos X-Ops, incluido el científico principal de datos de SophosAI, Younghoo Lee, han estado trabajando en tres proyectos prototipo que demuestran el potencial de GPT-3 como asistente para los defensores de la ciberseguridad. Los tres utilizan una técnica llamada «aprendizaje de pocos disparos» para entrenar el modelo de IA con solo unas pocas muestras de datos, lo que reduce la necesidad de recopilar un gran volumen de datos preclasificados.
Nagios es un poderoso sistema de monitoreo de infraestructuras TI que permite a las organizaciones identificar y resolver problemas antes de que afecten los procesos comerciales críticos.
Conocer..
La primera aplicación que Sophos probó con el método de aprendizaje de pocos disparos fue una interfaz de consulta de lenguaje natural para filtrar la actividad maliciosa en la telemetría del software de seguridad. Sophos probó el modelo con su producto de respuesta y detección de puntos finales. Con esta interfaz los defensores pueden filtrar la telemetría con comandos básicos en inglés, lo que elimina la necesidad de que los defensores entiendan SQL o la estructura subyacente de una base de datos.
GPT-3 puede simplificar ciertos procesos que requieren mucha mano de obra
A continuación, Sophos probó un nuevo filtro de spam usando ChatGPT y descubrió que en comparación con otros modelos de aprendizaje automático para el filtrado de spam, el filtro que usaba GPT-3 era significativamente más preciso.
Finalmente los investigadores de Sophos pudieron crear un programa para simplificar el proceso de ingeniería inversa de las líneas de comando de LOLBins. Tal ingeniería inversa es notoriamente difícil pero también fundamental para comprender el comportamiento de LOLBins y detener ese tipo de ataques en el futuro.
“Una de las preocupaciones crecientes dentro de los centros de operaciones de seguridad es la gran cantidad de ‘ruido’ que ingresa. Hay demasiadas notificaciones y detecciones para clasificar y muchas empresas están lidiando con recursos limitados. Hemos demostrado que con algo como GPT-3 podemos simplificar ciertos procesos que requieren mucha mano de obra y devolver un tiempo valioso a los defensores. Ya estamos trabajando para incorporar algunos de los prototipos anteriores en nuestros productos y hemos puesto a disposición los resultados de nuestros esfuerzos en nuestro GitHub para aquellos interesados en probar GPT-3 en sus propios entornos de análisis. En el futuro creemos que GPT-3 puede muy bien convertirse en un copiloto estándar para los expertos en seguridad”, dijo Gallagher.
Fuente: helpnetsecurity
Si te ha gustado, ¡compártelo con tus amigos!
