{"id":34999,"date":"2026-10-22T03:03:22","date_gmt":"2026-10-22T03:03:22","guid":{"rendered":"https:\/\/domosistemas.com\/?p=34999"},"modified":"2026-10-22T03:03:22","modified_gmt":"2026-10-22T03:03:22","slug":"la-automatizacion-de-la-inteligencia-artificial-agentica-exige-control-humano-para-reforzar-seguridad-y-gobernanza","status":"publish","type":"post","link":"https:\/\/domosistemas.com\/?p=34999","title":{"rendered":"La automatizaci\u00f3n de la inteligencia artificial ag\u00e9ntica exige control humano para reforzar seguridad y gobernanza"},"content":{"rendered":"
\n

El AI Congress Barcelona<\/a> ha destacado la necesidad de alinear las capacidades de automatizaci\u00f3n de la inteligencia artificial ag\u00e9ntica con criterios humanos para afrontar retos de seguridad y gobernanza en los \u00e1mbitos empresarial, social y medioambiental.<\/p>\n

\"Imagen
El congreso subraya que la IA ag\u00e9ntica requiere supervisi\u00f3n humana, modelos locales y marcos de gobernanza para reforzar seguridad y privacidad.<\/figcaption><\/figure>\n

El evento de referencia en inteligencia artificial, impulsado por CIDAI y organizado por el centro tecnol\u00f3gico Eurecat<\/a>, se celebra esta semana en Barcelona y alcanza este a\u00f1o su duod\u00e9cima edici\u00f3n. El congreso ha se\u00f1alado que la pr\u00f3xima fase en el despliegue de la IA se orientar\u00e1 a la personalizaci\u00f3n de modelos utilizados de forma independiente y local sobre infraestructuras de empresas y organizaciones.<\/p>\n

Este enfoque busca mantener el control sobre los datos, reforzar la privacidad, reducir la dependencia de proveedores externos y mejorar la eficiencia. Seg\u00fan el planteamiento expuesto en el congreso, puede convertirse en una alternativa competitiva frente a los servicios en la nube asociados a los grandes modelos de frontera de IA generativa.<\/p>\n

Gobernanza de la inteligencia artificial ag\u00e9ntica<\/h2>\n

La cofundadora y consejera delegada de Alinia AI, Ariadna Font, advirti\u00f3 de que la IA ag\u00e9ntica no solo incrementa la productividad, sino tambi\u00e9n el volumen y la velocidad de los errores. En su an\u00e1lisis, un agente puede repetir un fallo de forma masiva antes de que alguien lo detecte.<\/p>\n

Font defendi\u00f3 la inversi\u00f3n en marcos y sistemas s\u00f3lidos de control y gobernanza para facilitar un uso seguro y responsable de los avances tecnol\u00f3gicos m\u00e1s recientes. Tambi\u00e9n sostuvo que la ventaja no depender\u00e1 \u00fanicamente de disponer de m\u00e1s IA, sino de mantener su control con criterio humano.<\/p>\n

El director del AI Congress y director cient\u00edfico del \u00c1rea Digital de Eurecat, Joan Mas, se\u00f1al\u00f3 que la IA ag\u00e9ntica ha eclosionado durante el \u00faltimo a\u00f1o y ofrece oportunidades para alcanzar niveles de automatizaci\u00f3n elevados. Al mismo tiempo, apunt\u00f3 que plantea interrogantes sobre los riesgos y las protecciones necesarias para evitar que estos agentes se desalineen del criterio humano en sus decisiones.<\/p>\n

Modelos locales, eficiencia y soberan\u00eda tecnol\u00f3gica<\/h2>\n

En la bienvenida institucional, el presidente de Eurecat, Daniel Altimiras, afirm\u00f3 que Catalu\u00f1a dispone de conocimiento, talento, capacidades tecnol\u00f3gicas y tejido empresarial para desempe\u00f1ar un papel relevante en esta nueva etapa de la inteligencia artificial. A\u00f1adi\u00f3 que el reto consiste en incorporarla de manera efectiva, segura y responsable en las organizaciones y convertirla en competitividad, productividad y nuevas oportunidades de crecimiento.<\/p>\n

El secretario de Telecomunicaciones y Transformaci\u00f3n Digital de la Generalitat de Catalunya, Albert Tort, defendi\u00f3 una inteligencia artificial orientada a resolver problemas reales, generar valor p\u00fablico, reforzar la competitividad empresarial y mejorar los servicios dirigidos a la ciudadan\u00eda.<\/p>\n

La directora cient\u00edfica de IA de Multiverse Computing, Jezabel R. Garcia, situ\u00f3 la pr\u00f3xima evoluci\u00f3n de la IA en modelos capaces de funcionar all\u00ed donde aporten valor, como dispositivos, empresas, hospitales o administraciones p\u00fablicas. Seg\u00fan explic\u00f3, la compresi\u00f3n permite mantener la capacidad de un modelo al tiempo que reduce su tama\u00f1o y su consumo energ\u00e9tico en m\u00e1s de un 50%, lo que facilita una IA soberana, eficiente y sostenible en Europa.<\/p>\n

IA intencional, protecci\u00f3n de datos y cumplimiento<\/h2>\n

El congreso tambi\u00e9n abord\u00f3 la importancia de que la adopci\u00f3n de la inteligencia artificial parta de una definici\u00f3n clara de las soluciones que se quieren alcanzar. La experta internacional en transformaci\u00f3n digital Pooja Munshi expuso el concepto de IA intencional, entendida como una inteligencia artificial alineada con objetivos concretos y con las necesidades de las personas, las organizaciones y el medio ambiente.<\/p>\n

A partir de su trabajo reciente como responsable del Programa de las Naciones Unidas para el Medio Ambiente, Munshi analiz\u00f3 c\u00f3mo los l\u00edderes pueden desarrollar productos de IA intencionales que transformen la capacidad tecnol\u00f3gica en un impacto significativo y duradero. Su intervenci\u00f3n puso el foco en formular mejores preguntas y escuchar a las personas, las evidencias y el entorno afectado por la tecnolog\u00eda.<\/p>\n

La directora de la Autoridad Catalana de Protecci\u00f3n de Datos (APDCAT), Meritxell Borr\u00e0s, trat\u00f3 los retos que plantea la IA ag\u00e9ntica en materia de protecci\u00f3n de datos cuando los agentes trabajan con informaci\u00f3n de car\u00e1cter personal. Tambi\u00e9n abord\u00f3 la necesidad de estructurar una supervisi\u00f3n humana efectiva durante su ejecuci\u00f3n.<\/p>\n

Durante el AI Congress se presentaron ejemplos de agentes y sistemas multiagente aplicados a distintos sectores, junto con recomendaciones para reforzar la seguridad t\u00e9cnica frente a amenazas y riesgos. El encuentro tambi\u00e9n trat\u00f3 el cumplimiento del Reglamento de Inteligencia Artificial (AI Act).<\/p>\n

Alineado con la Estrategia Catalu\u00f1a IA 2030 impulsada por el Gobierno de Catalu\u00f1a, el AI Congress ha contado con el apoyo de CaixaBank Tech, Conversia, Forvis-Mazars-Infini, Orange Empresas, Raona y Softeng. La edici\u00f3n ha reunido a m\u00e1s de medio centenar de ponentes y ha superado los 2.200 inscritos.<\/p>\n

La entrada La automatizaci\u00f3n de la inteligencia artificial ag\u00e9ntica exige control humano para reforzar seguridad y gobernanza<\/a> aparece primero en CASADOMO<\/a>.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

El AI Congress Barcelona ha destacado la necesidad de alinear las capacidades de automatizaci\u00f3n de la inteligencia artificial ag\u00e9ntica con criterios humanos para afrontar retos de seguridad y gobernanza en los \u00e1mbitos empresarial, social y medioambiental. El congreso subraya que la IA ag\u00e9ntica requiere supervisi\u00f3n humana, modelos locales y marcos de gobernanza para reforzar seguridad … Sigue leyendo La automatizaci\u00f3n de la inteligencia artificial ag\u00e9ntica exige control humano para reforzar seguridad y gobernanza<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3],"tags":[],"class_list":["post-34999","post","type-post","status-publish","format-standard","hentry","category-casadomo-com"],"_links":{"self":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/posts\/34999","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=34999"}],"version-history":[{"count":0,"href":"https:\/\/domosistemas.com\/index.php?rest_route=\/wp\/v2\/posts\/34999\/revisions"}],"wp:attachment":[{"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=34999"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=34999"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/domosistemas.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=34999"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}