En una señal de la creciente importancia de la evaluación de riesgos del lenguaje artificial para los activos comerciales, las organizaciones buscan cada vez más candidatos con habilidades en aprendizaje automático y grandes modelos de lenguaje para ocupar puestos de ciberseguridad. En ISACA Informe sobre el estado de la ciberseguridad 2024Poco menos de una cuarta parte de los encuestados (24%) citaron LLM SecOps y ML SecOps como las mayores brechas de habilidades que ven en ciberseguridad. Las habilidades interpersonales (comunicación, flexibilidad y liderazgo) siguen siendo la principal categoría de habilidades de las que carecen los profesionales de la ciberseguridad, según el 51% de los encuestados.
Se busca: LLM, habilidades de aprendizaje automático
LLM SecOps y ML SecOps son conjuntos de habilidades relativamente nuevos, pero, al igual que las tecnologías que protegen, ahora parecen ser omnipresentes.
MLSecOps es la disciplina que integra la seguridad en el desarrollo y la implementación de sistemas de aprendizaje automático. Cubre procesos específicos de ML, como proteger los datos utilizados para entrenar un modelo y prevenir sesgos a través de la transparencia, así como la aplicación de tareas de operaciones de seguridad estándar como codificación segura, modelado de amenazas, auditorías de seguridad y respuesta a incidentes a los sistemas de ML.
LLM SecOps se refiere a asegurar todo el ciclo de vida de los LLMdesde la preparación de datos hasta la respuesta a incidentes. LLM SecOps cubre inquietudes tan variadas como revisiones éticas en la fase de diseño, desinfección de datos de capacitación, análisis de por qué el sistema tomó las decisiones que tomó durante la capacitación, bloqueo de la generación de contenido dañino y monitoreo del modelo una vez implementado.
Existe una lista cada vez mayor de recursos para que los profesionales de la seguridad desarrollen sus habilidades. Para ML SecOps, Benjamin Kereopa-Yorke, especialista senior en seguridad de la información e investigador de seguridad de IA en el proveedor de telecomunicaciones Telstra, mantiene un Repositorio GitHub para recursos y capacitacióncon cursos categorizados según los requisitos previos del conocimiento de ML y categorizados como neutrales o centrados en el proveedor. El Open Worldwide Application Security Project (OWASP) tiene un proyecto Las 10 principales seguridades del aprendizaje automático Lista que describe cómo funcionan los ataques de ML, como el envenenamiento de datos o la inferencia de miembros, y cómo contrarrestarlos. OWASP también mantiene el OWASP Top Ten para LLM, que cubre temas relevantes para LLM SecOps como inyección rápida, divulgación de información sensibleY vuelo modelo.
Las organizaciones buscan habilidades específicas para cubrir puestos vacantes en ciberseguridad. Después de las habilidades sociales, la computación en la nube es la segunda brecha de habilidades más grande (42%), seguida de la implementación de controles de seguridad (35%) y el desarrollo de software (28%).
Dado que gran parte de la carga de trabajo de las organizaciones reside ahora en la nube, tiene sentido que las organizaciones necesiten profesionales en ciberseguridad con habilidades de computación en la nube. Proteger los activos de la nube requiere una mentalidad y habilidades técnicas diferentes a las de las redes tradicionales, y los proveedores de la nube manejan algunas tareas de manera diferente, lo que requiere conocimientos especializados.
La implementación de controles de seguridad se refiere a la protección de puntos finales, redes y aplicaciones. La brecha de habilidades en el desarrollo de software no estaba relacionada con la codificación, sino con cosas como las pruebas y la implementación. Una vez más, esto pone de relieve los desafíos que enfrentan las organizaciones para asegurar sus procesos e integraciones de desarrollo de software.
