{"id":28226,"date":"2025-04-16T02:00:03","date_gmt":"2025-04-16T02:00:03","guid":{"rendered":"https:\/\/domosistemas.com\/?p=28226"},"modified":"2025-04-16T02:00:03","modified_gmt":"2025-04-16T02:00:03","slug":"la-metrica-de-privacidad-pac-privacy-del-mit-mejora-la-seguridad-de-los-datos-en-los-modelos-de-ia","status":"publish","type":"post","link":"https:\/\/domosistemas.com\/?p=28226","title":{"rendered":"La m\u00e9trica de privacidad PAC Privacy del MIT mejora la seguridad de los datos en los modelos de IA"},"content":{"rendered":"
\n

La nueva m\u00e9trica de privacidad PAC Privacy, desarrollada por el Instituto Tecnol\u00f3gico de Massachussets (MIT<\/a>), podr\u00eda mantener el rendimiento de un modelo de inteligencia artificial (IA) a la vez que garantiza la seguridad de datos sensibles, como im\u00e1genes m\u00e9dicas o registros financieros, frente a atacantes.<\/p>\n

\"Imagen
La nueva versi\u00f3n de PAC ofrece una t\u00e9cnica de privacidad de datos mejorada, para ser m\u00e1s eficiente computacionalmente.<\/figcaption><\/figure>\n

El equipo utiliz\u00f3 su nueva versi\u00f3n de PAC Privacy para privatizar varios algoritmos cl\u00e1sicos para tareas de an\u00e1lisis de datos y aprendizaje autom\u00e1tico. En este trabajo se ha mejorado la eficiencia computacional de su t\u00e9cnica, mejorando el equilibrio entre precisi\u00f3n y privacidad. Al mismo tiempo se ha creado una plantilla formal que permite privatizar pr\u00e1cticamente cualquier algoritmo sin necesidad de acceder a su funcionamiento interno.<\/p>\n

Por otro lado, los investigadores han demostrado que los algoritmos m\u00e1s estables son m\u00e1s f\u00e1ciles de privatizar con su m\u00e9todo. Las predicciones de un algoritmo estable se mantienen consistentes incluso con ligeras modificaciones en sus datos de entrenamiento. Una mayor estabilidad permite a un algoritmo realizar predicciones m\u00e1s precisas con datos.<\/p>\n

Gracias a la mayor eficiencia del nuevo marco de privacidad del PAC y la plantilla de cuatro pasos para su implementaci\u00f3n, har\u00edan que la t\u00e9cnica fuera m\u00e1s f\u00e1cil de implementar en situaciones del mundo real.<\/p>\n

Protecci\u00f3n de los datos confidenciales<\/h2>\n

Para proteger los datos confidenciales utilizados para entrenar un modelo de IA, los ingenieros suelen a\u00f1adir ruido, o aleatoriedad gen\u00e9rica, al modelo para dificultar que un adversario adivine los datos de entrenamiento originales. Este ruido reduce la precisi\u00f3n del modelo, por lo que cuanto menos ruido se a\u00f1ada, mejor.<\/p>\n

PAC Privacy estima autom\u00e1ticamente la cantidad m\u00ednima de ruido que se necesita agregar a un algoritmo para lograr el nivel de privacidad deseado. El algoritmo original de privacidad de PAC ejecuta el modelo de IA de un usuario varias veces en diferentes muestras de un conjunto de datos. Mide la varianza y las correlaciones entre estos resultados y utiliza esta informaci\u00f3n para estimar cu\u00e1nto ruido debe a\u00f1adirse para proteger los datos. Esta nueva variante de PAC Privacy funciona de la misma manera, pero no necesita representar la matriz completa de correlaciones de datos en las salidas; solo necesita las variaciones de salida.<\/p>\n

A\u00f1adir ruido puede reducir la utilidad de los resultados, por lo que es importante minimizar la p\u00e9rdida de utilidad. Debido al coste computacional, el algoritmo PAC Privacy original se limitaba a a\u00f1adir ruido isotr\u00f3pico, que se a\u00f1ade uniformemente en todas las direcciones. Dado que la nueva variante estima el ruido anisotr\u00f3pico, adaptado a las caracter\u00edsticas espec\u00edficas de los datos de entrenamiento, el usuario podr\u00eda a\u00f1adir menos ruido general para lograr el mismo nivel de privacidad, lo que aumenta la precisi\u00f3n del algoritmo privatizado.<\/p>\n

Privacidad y estabilidad<\/h2>\n

Al estudiar la privacidad de PAC, los investigadores plantearon la hip\u00f3tesis de que los algoritmos m\u00e1s estables ser\u00edan m\u00e1s f\u00e1ciles de privatizar con esta t\u00e9cnica. Utilizaron la variante m\u00e1s eficiente de la privacidad de PAC para probar esta teor\u00eda en varios algoritmos cl\u00e1sicos.<\/p>\n

Los algoritmos m\u00e1s estables presentan menor varianza en sus resultados cuando sus datos de entrenamiento var\u00edan ligeramente. PAC Privacy divide un conjunto de datos en fragmentos, ejecuta el algoritmo en cada fragmento y mide la varianza entre los resultados. Cuanto mayor sea la varianza, m\u00e1s ruido se debe a\u00f1adir para privatizar el algoritmo.<\/p>\n

El equipo demostr\u00f3 que estas garant\u00edas de privacidad se mantuvieron s\u00f3lidas a pesar del algoritmo probado, y que la nueva variante de PAC Privacy requiri\u00f3 un orden de magnitud menor de ensayos para estimar el ruido. Tambi\u00e9n probaron el m\u00e9todo en simulaciones de ataques, demostrando que sus garant\u00edas de privacidad pod\u00edan resistir ataques de \u00faltima generaci\u00f3n.<\/p>\n

La entrada La m\u00e9trica de privacidad PAC Privacy del MIT mejora la seguridad de los datos en los modelos de IA<\/a> aparece primero en CASADOMO<\/a>.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

La nueva m\u00e9trica de privacidad PAC Privacy, desarrollada por el Instituto Tecnol\u00f3gico de Massachussets (MIT), podr\u00eda mantener el rendimiento de un modelo de inteligencia artificial (IA) a la vez que garantiza la seguridad de datos sensibles, como im\u00e1genes m\u00e9dicas o registros financieros, frente a atacantes. La nueva versi\u00f3n de PAC ofrece una t\u00e9cnica de privacidad … Sigue leyendo La m\u00e9trica de privacidad PAC Privacy del MIT mejora la seguridad de los datos en los modelos de IA<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3],"tags":[],"class_list":["post-28226","post","type-post","status-publish","format-standard","hentry","category-casadomo-com"],"_links":{"self":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/posts\/28226","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=28226"}],"version-history":[{"count":0,"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/posts\/28226\/revisions"}],"wp:attachment":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=28226"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=28226"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=28226"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}