El Centro de Defensa Informada contra Amenazas de MITRE anunció esta semana el lanzamiento de la iniciativa AI Incident Sharing, una colaboración con más de 15 empresas destinada a aumentar el conocimiento de la comunidad sobre Amenazas y defensas para sistemas basados en IA..
La iniciativa de intercambio de incidentes se enmarca en el proyecto Secure AI del centro y tiene como objetivo permitir una colaboración rápida y segura en amenazas, ataques y accidentes que involucren sistemas habilitados para AI. Amplía el alcance de Base de conocimiento de la comunidad MITRE ATLASque lleva dos años recopilando y caracterizando datos sobre incidentes anonimizados. Como parte de esta iniciativa, una comunidad de colaboradores recibirá datos protegidos y anónimos sobre incidentes de IA del mundo real.
Las incidencias se pueden enviar a través de el lienzo (tiene por cualquiera. Las organizaciones solicitantes serán consideradas como miembros con el objetivo de permitir inteligencia basada en datos y análisis de riesgos a gran escala.
Secure AI también ha ampliado ATLAS Threat Framework para incorporar conocimientos sobre el panorama de amenazas de los sistemas basados en IA generativa, agregando varios estudios de casos nuevos y técnicas de ataque centrados en la IA generativa, así como nuevos métodos para mitigar los ataques a estos sistemas. En noviembre de 2023, en colaboración con Microsoft, MITRE lanzó actualizaciones de la base de conocimientos ATLAS centradas en la IA generativa.
«El intercambio rápido y estandarizado de información sobre incidentes permitirá a toda la comunidad mejorar la defensa colectiva de dichos sistemas y mitigar los daños externos», dijo Douglas Robbins, vicepresidente de MITRE Labs, en un comunicado de prensa. declaración.
MITRE opera una asociación público-privada similar para compartir información con la Base de datos de intercambio de información y análisis de seguridad de la aviación para compartir datos e información de seguridad para identificar y prevenir peligros en la aviación.
Los colaboradores de Secure AI abarcan todas las industrias, con representantes de servicios financieros, tecnología y atención médica. La lista incluye AttackIQ, BlueRock, booz Allen Hamilton, CATO Networks, Citigroup, Cloud Security Alliance, CrowdStrike, FS-ISAC, Fujitsu, HCA Healthcare, HiddenLayer, Intel, JPMorgan Chase Bank, Microsoft, Standard Chartered y Verizon Business.
