{"id":24407,"date":"2024-05-28T02:00:35","date_gmt":"2024-05-28T02:00:35","guid":{"rendered":"https:\/\/domosistemas.com\/?p=24407"},"modified":"2024-05-28T02:00:35","modified_gmt":"2024-05-28T02:00:35","slug":"cea-leti-evalua-los-modelos-de-redes-neuronales-en-dispositivos-iot-para-mejorar-la-seguridad","status":"publish","type":"post","link":"https:\/\/domosistemas.com\/?p=24407","title":{"rendered":"CEA-Leti eval\u00faa los modelos de redes neuronales en dispositivos IoT para mejorar la seguridad"},"content":{"rendered":"
\n

Los sistemas de inteligencia artificial (IA) manejan datos confidenciales y realizan tareas a veces cr\u00edticas en una amplia gama de entornos. El instituto de investigaci\u00f3n CEA-Leti<\/a> ha investigado las vulnerabilidades f\u00edsicas inherentes a los dispositivos comunes IoT, en concreto en los modelos de redes neuronales profundas en microcontroladores de 32 bits, para desarrollar nuevos formas de evaluar la IA, con el fin de mejorar la seguridad.<\/p>\n

\"Evaluaci\u00f3n
\u200bUna plataforma de inyecci\u00f3n l\u00e1ser utilizada para evaluar la robustez de redes neuronales integradas.\u200b<\/figcaption><\/figure>\n

Para los modelos de aprendizaje autom\u00e1tico y, especialmente, las redes neuronales profundas (DNN), la superficie de ataque es particularmente compleja. Estos sistemas son abstracciones matem\u00e1ticas implementadas f\u00edsicamente en un entorno que incluye software y hardware.<\/p>\n

Dado que los par\u00e1metros internos del modelo de redes neuronales profundas se almacenan localmente en la memoria del dispositivo, son objetivos para ataques que buscan manipular estos par\u00e1metros para realizar ingenier\u00eda inversa en los modelos o alterar su comportamiento.<\/p>\n

Los investigadores de CEA-Leti han demostrado el impacto de los ataques bit-flip (BFA) en los modelos de inteligencia artificial. Solo un pu\u00f1ado de bit-flips podr\u00eda degradar significativamente el rendimiento de los modelos de redes neuronales convolucionales, lo que genera serias preocupaciones de seguridad y evaluaci\u00f3n.<\/p>\n

Hasta ahora, la mayor parte de la investigaci\u00f3n se ha centrado en la DRAM, demostrando la relevancia y efectividad del uso de conjuntos de bits (en lugar de cambios de bits) para un ataque tipo BFA, para extraer informaci\u00f3n confidencial de un modelo de caja negra protegido. Al analizar las decisiones de salida del modelo con y sin fallas para descubrir valores de par\u00e1metros, los atacantes pueden usarlos en ataques de ingenier\u00eda inversa.<\/p>\n

Protocolos de evaluaci\u00f3n y simulaci\u00f3n<\/h2>\n

La investigaci\u00f3n de CEA-Leti traza un rumbo hacia protocolos de evaluaci\u00f3n s\u00f3lidos para modelos de inteligencia artificial integrados en plataformas Cortex-M con memoria flash. Para ello, utilizaron un an\u00e1lisis te\u00f3rico e inyecci\u00f3n de fallas l\u00e1ser para comprender mejor las relaciones entre las caracter\u00edsticas del modelo y la eficiencia del ataque.<\/p>\n

Su trabajo tambi\u00e9n ha demostrado el valor de la simulaci\u00f3n para facilitar la evaluaci\u00f3n de modelos de IA. Estos avances en la evaluaci\u00f3n de la seguridad de la IA ser\u00e1n cruciales para certificar y dise\u00f1ar mecanismos de protecci\u00f3n para los sistemas de IA integrados.<\/p>\n

La entrada CEA-Leti eval\u00faa los modelos de redes neuronales en dispositivos IoT para mejorar la seguridad<\/a> aparece primero en CASADOMO<\/a>.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

Los sistemas de inteligencia artificial (IA) manejan datos confidenciales y realizan tareas a veces cr\u00edticas en una amplia gama de entornos. El instituto de investigaci\u00f3n CEA-Leti ha investigado las vulnerabilidades f\u00edsicas inherentes a los dispositivos comunes IoT, en concreto en los modelos de redes neuronales profundas en microcontroladores de 32 bits, para desarrollar nuevos formas … Sigue leyendo CEA-Leti eval\u00faa los modelos de redes neuronales en dispositivos IoT para mejorar la seguridad<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3],"tags":[],"class_list":["post-24407","post","type-post","status-publish","format-standard","hentry","category-casadomo-com"],"_links":{"self":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/posts\/24407","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=24407"}],"version-history":[{"count":0,"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/posts\/24407\/revisions"}],"wp:attachment":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=24407"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=24407"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=24407"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}