El documento aporta una visión sobre los desafíos actuales en la seguridad de la IA, proponiendo soluciones clave para mitigar riesgos y aumentar la confianza en los sistemas basados en IA.
Se destaca la necesidad de garantizar la confiabilidad de los modelos de IA, enfatizando cinco pilares fundamentales de seguridad: confidencialidad, integridad, disponibilidad, autenticidad y no repudio. Estos principios aseguran que las soluciones basadas en IA mantengan la confianza del usuario, evitando sesgos, ataques de suplantación y daños en la integridad de los modelos.
El informe también señala casos recientes de ataques exitosos contra modelos de IA, como el de Microsoft Azure en 2020, lo que subraya la vulnerabilidad de estos sistemas. Propone la categorización de los ataques en tres componentes: el dato, el modelo y la infraestructura, subrayando la necesidad de avanzar en la implementación de marcos de seguridad especializados como ATLAS, desarrollado por MITRE.