{"id":25785,"date":"2024-09-30T03:02:52","date_gmt":"2024-09-30T03:02:52","guid":{"rendered":"https:\/\/domosistemas.com\/?p=25785"},"modified":"2024-09-30T03:02:52","modified_gmt":"2024-09-30T03:02:52","slug":"el-kaist-desarrolla-una-tecnologia-para-el-aprendizaje-de-modelos-de-ia-menos-costosa-que-las-existentes","status":"publish","type":"post","link":"https:\/\/domosistemas.com\/?p=25785","title":{"rendered":"El KAIST desarrolla una tecnolog\u00eda para el aprendizaje de modelos de IA menos costosa que las existentes"},"content":{"rendered":"
\n

El Instituto Avanzado de Ciencia y Tecnolog\u00eda de Corea (KAIST<\/a>) ha desarrollado una tecnolog\u00eda que puede aprender de manera eficiente de los modelos de inteligencia artificial (IA) sin costosas GPU de centros de datos ni redes de alta velocidad. Se espera que esta tecnolog\u00eda permita a las empresas y a los investigadores con recursos limitados realizar investigaciones sobre IA de forma m\u00e1s eficaz. Gracias a esta tecnolog\u00eda, se puede acelerar el aprendizaje de los modelos de IA de decenas a cientos de veces, incluso en un entorno distribuido con ancho de banda de red limitado utilizando GPU de consumo.<\/p>\n

\"Inteligencia
La tecnolog\u00eda Stellar Train proporciona un rendimiento hasta 104 veces m\u00e1s r\u00e1pido que el aprendizaje paralelo de datos existente.<\/figcaption><\/figure>\n

Anteriormente, para aprender los modelos de IA, se requer\u00edan varias GPU de servidor de alto rendimiento (NVIDIA\u00a0H100) por valor de decenas de millones de wones cada una, as\u00ed como una costosa infraestructura con una red de alta velocidad de 400 Gbps para conectarlas.<\/p>\n

El equipo de investigaci\u00f3n desarroll\u00f3 un marco de aprendizaje distribuido llamado Stella Train para resolver este problema. Esta tecnolog\u00eda utiliza una GPU de consumo que es de 10 a 20 veces m\u00e1s barata que la H100 de alto rendimiento, lo que permite un aprendizaje distribuido eficiente, incluso en un entorno general de Internet donde el ancho de banda es cientos o miles de veces menor en lugar de una red dedicada de alta velocidad.<\/p>\n

Aumento de la velocidad de aprendizaje con el uso de CPU y GPU<\/h2>\n

Al utilizar GPU de bajo costo existente exist\u00eda la limitaci\u00f3n de ralentizar el entrenamiento cientos de veces al entrenar modelos de IA a gran escala debido a la peque\u00f1a memoria de la GPU y las limitaciones de velocidad de la red. Sin embargo, la tecnolog\u00eda Stellar Train utiliza CPU y GPU en paralelo para aumentar la velocidad de aprendizaje y aplica un algoritmo que comprime y transmite datos de manera eficiente seg\u00fan la velocidad de la red, lo que permite un aprendizaje r\u00e1pido utilizando m\u00faltiples GPU de bajo costo.<\/p>\n

En concreto, se maximiz\u00f3 la eficiencia de los recursos inform\u00e1ticos mediante la introducci\u00f3n de una nueva tecnolog\u00eda de canalizaci\u00f3n que permite procesar el aprendizaje en paralelo dividiendo la CPU y la GPU en etapas de tareas. Adem\u00e1s, para aumentar la eficiencia inform\u00e1tica de la GPU incluso en un entorno distribuido a larga distancia, la tasa de utilizaci\u00f3n de la GPU para cada modelo de IA se monitoriza en tiempo real para determinar din\u00e1micamente la cantidad de muestras (tama\u00f1o de lote) en las que aprende el modelo y agilizar la transferencia de datos entre GPU de acuerdo con los cambios en el ancho de banda de la red.<\/p>\n

Los resultados de la investigaci\u00f3n muestran que el uso de la tecnolog\u00eda Stellar Train puede lograr un rendimiento de hasta 104 veces m\u00e1s r\u00e1pido que el aprendizaje paralelo de datos existente.<\/p>\n

La entrada El KAIST desarrolla una tecnolog\u00eda para el aprendizaje de modelos de IA menos costosa que las existentes<\/a> aparece primero en CASADOMO<\/a>.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

El Instituto Avanzado de Ciencia y Tecnolog\u00eda de Corea (KAIST) ha desarrollado una tecnolog\u00eda que puede aprender de manera eficiente de los modelos de inteligencia artificial (IA) sin costosas GPU de centros de datos ni redes de alta velocidad. Se espera que esta tecnolog\u00eda permita a las empresas y a los investigadores con recursos limitados … Sigue leyendo El KAIST desarrolla una tecnolog\u00eda para el aprendizaje de modelos de IA menos costosa que las existentes<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3],"tags":[],"class_list":["post-25785","post","type-post","status-publish","format-standard","hentry","category-casadomo-com"],"_links":{"self":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/posts\/25785","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=25785"}],"version-history":[{"count":0,"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/posts\/25785\/revisions"}],"wp:attachment":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=25785"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=25785"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=25785"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}