{"id":17175,"date":"2022-07-14T02:00:16","date_gmt":"2022-07-14T02:00:16","guid":{"rendered":"https:\/\/domosistemas.com\/?p=17175"},"modified":"2022-07-14T02:00:16","modified_gmt":"2022-07-14T02:00:16","slug":"la-uclm-desarrolla-un-analisis-de-las-propiedades-de-imagenes-para-evitar-enganar-a-la-ia","status":"publish","type":"post","link":"https:\/\/domosistemas.com\/?p=17175","title":{"rendered":"La UCLM desarrolla un an\u00e1lisis de las propiedades de im\u00e1genes para evitar enga\u00f1ar a la IA"},"content":{"rendered":"
\n

La inteligencia artificial (IA) que utilizan algunas funciones de los dispositivos inteligentes, como el reconocimiento facial, e incluso, la publicidad personalizada que aparece en Internet, entre otros sistemas, es posible manipularla con fines maliciosos. El grupo de investigaci\u00f3n VISILAB de la Universidad de Castilla-La Mancha (UCLM<\/a>) ha publicado<\/a>, en la revista Chaos, Solitons and Fractals, un estudio que analiza c\u00f3mo detectar estos ataques, mediante el an\u00e1lisis de las propiedades de las im\u00e1genes cuando son procesadas por una red neuronal, desde el punto de vista de la teor\u00eda del caos.<\/p>\n

\"IA.\"
El an\u00e1lisis de las propiedades de las im\u00e1genes identifica las alteraciones en los p\u00edxeles puntuales de una imagen que ser\u00e1 procesada por una red neuronal.<\/figcaption><\/figure>\n

Cuando se depende de una m\u00e1quina para controlar un sistema de vigilancia o dirigir un veh\u00edculo aut\u00f3nomo, se desea que el entorno sea lo m\u00e1s seguro posible. Sin embargo, en estos casos, se abre la posibilidad de que un ataque malintencionado altere la entrada del sistema con peque\u00f1as perturbaciones inocuas al ojo humano, pero cambiando el comportamiento del sistema de forma sustancial.<\/p>\n

Este fen\u00f3meno es conocido como ejemplos adversarios. Se trata de im\u00e1genes a las que se les han modificado algunos p\u00edxeles, de forma que la inteligencia artificial no es capaz de funcionar con normalidad.<\/p>\n

An\u00e1lisis de las propiedades de las im\u00e1genes<\/h2>\n

La intuici\u00f3n detr\u00e1s de este trabajo es que las alteraciones en p\u00edxeles puntuales de una imagen pueden suponer puntos ca\u00f3ticos en el sistema de la red neuronal. Frente a otros trabajos, no solo se analizan las im\u00e1genes de entrada, sino c\u00f3mo afectan al modelo de inteligencia artificial en sus componentes internos, mientras est\u00e1n siendo procesadas, lo cual aporta una informaci\u00f3n mucho m\u00e1s rica a la hora de determinar si se trata de una imagen alterada por un atacante o, por el contrario, no ha sido modificada.<\/p>\n

Esta t\u00e9cnica ha sido validada en una serie de conjuntos de datos con muestras de distintos tipos, desde d\u00edgitos num\u00e9ricos (\u00fatiles para la digitalizaci\u00f3n de texto escrito) hasta fotograf\u00edas de objetos del mundo real.<\/p>\n

Con la t\u00e9cnica propuesta, se consiguen tasas de detecci\u00f3n del 60% en los escenarios m\u00e1s complejos, alcanzando valores cercanos al 100% en la mayor\u00eda de las pruebas realizadas. Por tanto, se puede afirmar que el m\u00e9todo desarrollado tiene aplicaci\u00f3n en una gran variedad de casos de uso, con im\u00e1genes de diversa naturaleza y frente a distintos tipos de ataques.<\/p>\n

La entrada La UCLM desarrolla un an\u00e1lisis de las propiedades de im\u00e1genes para evitar enga\u00f1ar a la IA<\/a> aparece primero en CASADOMO<\/a>.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

La inteligencia artificial (IA) que utilizan algunas funciones de los dispositivos inteligentes, como el reconocimiento facial, e incluso, la publicidad personalizada que aparece en Internet, entre otros sistemas, es posible manipularla con fines maliciosos. El grupo de investigaci\u00f3n VISILAB de la Universidad de Castilla-La Mancha (UCLM) ha publicado, en la revista Chaos, Solitons and Fractals, … Sigue leyendo La UCLM desarrolla un an\u00e1lisis de las propiedades de im\u00e1genes para evitar enga\u00f1ar a la IA<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3],"tags":[],"class_list":["post-17175","post","type-post","status-publish","format-standard","hentry","category-casadomo-com"],"_links":{"self":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/posts\/17175","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=17175"}],"version-history":[{"count":0,"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/posts\/17175\/revisions"}],"wp:attachment":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=17175"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=17175"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=17175"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}