{"id":18077,"date":"2022-10-06T02:00:39","date_gmt":"2022-10-06T02:00:39","guid":{"rendered":"https:\/\/domosistemas.com\/?p=18077"},"modified":"2022-10-06T02:00:39","modified_gmt":"2022-10-06T02:00:39","slug":"el-mit-desarrolla-una-tecnica-de-entrenamiento-para-ejecutarse-en-un-dispositivo-de-borde-inteligente","status":"publish","type":"post","link":"https:\/\/domosistemas.com\/?p=18077","title":{"rendered":"El MIT desarrolla una t\u00e9cnica de entrenamiento para ejecutarse en un dispositivo de borde inteligente"},"content":{"rendered":"
\n

Los investigadores del Instituto Tecnol\u00f3gico de Massachussets (MIT<\/a>) y del MIT-IBM Watson AI Lab han desarrollado una nueva t\u00e9cnica que permite el entrenamiento de un modelo de aprendizaje autom\u00e1tico en el propio dispositivo de borde inteligente utilizando menos de un cuarto de megabyte de memoria.<\/p>\n

\"Aprendizaje
Las soluciones algor\u00edtmicas se ejecutan en un microcontrolador simple, que cambia el orden de los pasos del proceso de entrenamiento reduciendo el uso de memoria del dispositivo.<\/figcaption><\/figure>\n

Entrenar un modelo de aprendizaje autom\u00e1tico en un dispositivo de borde inteligente, como los sensores, le permite adaptarse a nuevos datos y hacer mejores predicciones. Sin embargo, el proceso de entrenamiento requiere tanta memoria que, por lo general, se realiza con computadoras potentes en un centro de datos, antes de que el modelo se implemente en un dispositivo. Esto es m\u00e1s costoso y plantea problemas de privacidad, ya que los datos del usuario deben enviarse a un servidor central.<\/p>\n

Gracias a los algoritmos inteligentes y el marco desarrollados por los investigadores, se puede reducir la cantidad de c\u00f3mputo requerida para entrenar un modelo, lo que hace que el proceso sea m\u00e1s r\u00e1pido y eficiente en la memoria. Su t\u00e9cnica se puede utilizar para entrenar un modelo de aprendizaje autom\u00e1tico en un microcontrolador en cuesti\u00f3n de minutos. Esta t\u00e9cnica tambi\u00e9n preserva la privacidad al mantener los datos en el dispositivo.<\/p>\n

Soluciones algor\u00edtmicas de aprendizaje<\/h2>\n

Un tipo com\u00fan de modelo de aprendizaje autom\u00e1tico es la red neuronal. Este modelo debe ser entrenado primero, lo que implica mostrarle millones de ejemplos para que pueda aprender la tarea. A medida que aprende, el modelo aumenta o disminuye la fuerza de las conexiones entre las neuronas, lo que se conoce como pesos.<\/p>\n

El modelo puede sufrir cientos de actualizaciones a medida que aprende, y las activaciones intermedias deben almacenarse en cada ronda, requiriendo mucha memoria para ejecutar un modelo previamente entrenado.<\/p>\n

Los investigadores emplearon dos soluciones algor\u00edtmicas para hacer que el proceso de entrenamiento fuera m\u00e1s eficiente y menos intensivo en memoria. El primero, conocido como actualizaci\u00f3n dispersa, utiliza un algoritmo que identifica los pesos m\u00e1s importantes para actualizar en cada ronda de entrenamiento. El algoritmo comienza a congelar los pesos de uno en uno hasta que ve que la precisi\u00f3n cae a un umbral establecido, y se detiene. Los pesos restantes se actualizan, mientras que las activaciones correspondientes a los pesos congelados no necesitan almacenarse en memoria.<\/p>\n

La segunda soluci\u00f3n implica el entrenamiento cuantificado y la simplificaci\u00f3n de los pesos, que suelen ser de 32 bits. Un algoritmo redondea los pesos para que sean solo 8 bits, a trav\u00e9s de un proceso conocido como cuantizaci\u00f3n, que reduce la cantidad de memoria tanto para el entrenamiento como para la inferencia. La inferencia es el proceso de aplicar un modelo a un conjunto de datos y generar una predicci\u00f3n.<\/p>\n

Posteriormente, el algoritmo aplica una t\u00e9cnica llamada escalado consciente de la cuantificaci\u00f3n (QAS), que act\u00faa como un multiplicador para ajustar la relaci\u00f3n entre el peso y el gradiente, para evitar cualquier ca\u00edda en la precisi\u00f3n que pueda provenir del entrenamiento cuantificado.<\/p>\n

Uso de un microcontrolador simple<\/h2>\n

Los investigadores desarrollaron un sistema, llamado motor de entrenamiento diminuto, que puede ejecutar estas innovaciones algor\u00edtmicas en un microcontrolador simple que carece de sistema operativo. Este sistema cambia el orden de los pasos en el proceso de entrenamiento para que se complete m\u00e1s trabajo en la etapa de compilaci\u00f3n, antes de que el modelo se implemente en el dispositivo perimetral. Su optimizaci\u00f3n solo requiri\u00f3 157 kilobytes de memoria para entrenar un modelo de aprendizaje autom\u00e1tico en un microcontrolador.<\/p>\n

Probaron su marco entrenando un modelo de visi\u00f3n por computadora para detectar personas en im\u00e1genes. Despu\u00e9s de solo 10 minutos de entrenamiento, aprendi\u00f3 a completar la tarea con \u00e9xito. Su m\u00e9todo pudo entrenar un modelo 20 veces m\u00e1s r\u00e1pido que otros enfoques.<\/p>\n

La entrada El MIT desarrolla una t\u00e9cnica de entrenamiento para ejecutarse en un dispositivo de borde inteligente<\/a> aparece primero en CASADOMO<\/a>.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

Los investigadores del Instituto Tecnol\u00f3gico de Massachussets (MIT) y del MIT-IBM Watson AI Lab han desarrollado una nueva t\u00e9cnica que permite el entrenamiento de un modelo de aprendizaje autom\u00e1tico en el propio dispositivo de borde inteligente utilizando menos de un cuarto de megabyte de memoria. Las soluciones algor\u00edtmicas se ejecutan en un microcontrolador simple, que … Sigue leyendo El MIT desarrolla una t\u00e9cnica de entrenamiento para ejecutarse en un dispositivo de borde inteligente<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3],"tags":[],"class_list":["post-18077","post","type-post","status-publish","format-standard","hentry","category-casadomo-com"],"_links":{"self":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/posts\/18077","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=18077"}],"version-history":[{"count":0,"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/posts\/18077\/revisions"}],"wp:attachment":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=18077"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=18077"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=18077"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}