¿Qué es la IA soberana?

La IA soberana es un término que suena moderno y atractivo, como un equipo internacional de espías de James Bond que protege un centro de datos subterráneo súper secreto. Sin embargo, a diferencia de una película de Bond, la IA soberana es real y práctica, y no solo afecta a la seguridad nacional. Las sólidas políticas de gobernanza de IA soberana y la diligencia técnica pueden ayudar a proteger los activos corporativos, salvaguardar la privacidad de los clientes y fortalecer la infraestructura informática cívica frente a la acción de agentes maliciosos.

En su mayor parte, la IA soberana necesita prácticas sólidas de seguridad tecnológica, que a su vez vienen condicionadas por leyes nacionales o estándares del sector. Tu organización puede estimar que es necesario adoptar la IA soberana ahora o en un futuro cercano —incluso puedes plantearte adoptar esas prácticas y políticas de todos modos.

¿Qué es la IA soberana?

En pocas palabras, la IA soberana tiene como objetivo garantizar la producción nacional de IA, incluidos los datos que se utilizan para entrenar la IA, que analiza la IA cuando está investigando una consulta, y que genera la IA como resultados (o output) en respuesta a las consultas.

En este contexto, la IA soberana puede incluir cualquier tipo de tecnología etiquetada como "inteligencia artificial", como el aprendizaje automático necesario para comprender las tendencias de datos y detectar anomalías; los usos de las redes neuronales convolucionales para el reconocimiento de patrones o la identificación de objetos; e imágenes, sonidos o texto creados por la IA generativa. La IA soberana también puede implicar reglas que rigen los usos de las tecnologías de IA, como las normas sobre privacidad.

Podría considerar que la IA soberana está relacionada con la soberanía de datos, pero no son lo mismo. Ahí es donde una empresa u organización debe considerar las normas nacionales sobre dónde se pueden almacenar y procesar sus datos, incluso cómo se transitan a través de las redes. Un ejemplo de una norma de soberanía sería el RGPD de la Unión Europea. Las organizaciones pueden seguir prácticas ahora que faciliten el cumplimiento normativo a medida que evolucionen las reglas. Por ejemplo, la mayoría de las organizaciones cuentan con políticas de gobernanza de datos. Aplicar esas políticas a la IA en las fases iniciales de ensayo puede evitar problemas de cara al futuro y regir los usos permitidos. Los sistemas de IA también pueden requerir reglas únicas que consideren cómo y dónde se entrenaron los modelos de IA, y cómo y dónde se accederá a los datos de una organización mientras operan para proporcionar los resultados más útiles.

IA soberana frente a IA pública

Los sistemas de IA soberana almacenan y gestionan modelos y datos de IA, ente los que se pueden incluir datos operativos y de entrenamiento sujetos a regulaciones y limitaciones nacionales o regionales que rodean el uso de aplicaciones de IA solo por personas y sistemas autorizados. Encontrarás soluciones de IA soberana que utilizan gobiernos, contratistas gubernamentales y proveedores de servicios, organizaciones que trabajan para gobiernos y cualquier empresa que pueda disponer de datos y aplicaciones regulados.

Puedes considerar que la "IA pública" es todo lo demás, es decir, aplicaciones y datos que no están sujetos a consideraciones de IA soberana y otras obligaciones legales. Dicha lista incluye una amplia gama de aplicaciones de consumo y redes de negocio. Están, por ejemplo, los LLM utilizados para las funciones de IA de Google Chat y Facebook, así como en otros muchos generadores de imágenes, agregadores de noticias, sistemas de videoconferencia y traductores de idiomas. Sin embargo, no todo el software de IA de consumo se percibiría como "IA pública". La IA soberana puede ser de gran interés para los bancos, las organizaciones del sector salud, las instituciones educativas y otras entidades.

Conclusiones clave

• La IA soberana está relacionada con la soberanía de datos, ampliada para abarcar nuevas tecnologías y usos para los datos, incluidos los modelos de IA.
• Esta categoría incluye el uso de GenAI y el aprendizaje automático cuando esos sistemas se entrenan o tienen acceso a fuentes de datos que están sujetas a restricciones jurisdiccionales u otras.
• Con los partners que ofrecen opciones para los controles de soberanía, una infraestructura distribuida en la nube puede ayudarte a abordar las consideraciones de IA soberana, así como los controles de residencia de datos, privacidad y acceso.

Explicación de la IA soberana

La IA soberana es un término amplio que se refiere al control de los sistemas de IA que pueden verse afectados por limitaciones jurisdiccionales. Un objetivo principal de la IA soberana es a menudo ayudar a evitar que los datos confidenciales salgan de una jurisdicción o que accedan a ellos personas sin las credenciales adecuadas.

Existen seis aspectos principales a considerar relacionados con la IA soberana: comprender las regulaciones que se aplican a tu organización, determinar tu infraestructura de IA preferida, implementar controles de residencia de datos, configurar controles de privacidad de datos, instituir controles legales y proteger tu pila de IA.

• Comprender las regulaciones. ¿Entiendes los requisitos de soberanía de datos de tu país o región? Si es así, es probable que seas de las pocas personas. Estas reglas a menudo son complejas. Con la soberanía de la IA, es posible que primero tengas que considerar las reglas de soberanía de datos y luego, posiblemente, ir más allá para considerar cómo se usan los datos para entrenar algoritmos y qué respuestas proporcionan los modelos de IA terminados.

• Determinar tu infraestructura de IA preferida. Tus soluciones de IA pueden implementarse en entornos locales, en la nube, en un modelo de nube híbrida/local, o incluso en varias nubes. A menudo, es más fácil crear y gestionar esta infraestructura en la nube, donde su proveedor puede ayudar con las preguntas y proporcionar un amplio conjunto de servicios de IA.

  Si estás pensando en utilizar la nube, necesitas encontrar tu modelo preferido. ¿Está buscando soluciones de software como servicio que puedan proporcionar software empresarial con funcionalidad de IA incluida? ¿Para disponer de una plataforma como servicio que proporciona muchas herramientas de IA que puede utilizar para ensamblar sus propios sistemas de IA? ¿Para contar con una infraestructura como servicio donde estás, esencialmente, alquilando servidores y redes y creando todo por ti mismo? ¿O para una combinación de ambas opciones? Las decisiones que tomes determinarán lo que necesitas para cumplir con los requisitos de la IA soberana.

• Implementación de controles de residencia de datos Con las opciones de infraestructura disponibles, es hora de evaluar la cantidad de datos, aplicaciones y tráfico de red que permanecen dentro de las fronteras nacionales o de tu zona preferida. Si tu proveedor puede ayudarte a gestionar los problemas de soberanía de datos, te resultará más fácil abordar la soberanía de IA.

  Dependiendo del proveedor de servicios en la nube, podrás configurar controles muy detallados para tus datos, aplicaciones, redes e infraestructura informática, así como los controles de acceso de usuario necesarios. En función de tu sector y de los requisitos específicos, es posible que puedas abordar la conformidad mediante una oferta de nube pública comercial con regiones de muchos países. O puede que necesites una nube específica del gobierno que cubra requisitos adicionales. Por ejemplo, en la Unión Europea, puede ser adecuada una nube soberana de la UE. En algunos casos, es posible que busques ejecutar una nube completa dentro de tu centro de datos. Oracle llama a esto "región dedicada". Puede que incluso desees implantar regiones en la nube aisladas: una infraestructura que se parece a la nube pero que funciona desconectada de Internet.

  Debes considerar todas las opciones anteriores para tu programa de soberanía de IA.

• Configuración de controles de privacidad de datos. Aunque la residencia de datos considera dónde viven los datos, la privacidad de los datos se centra en el tipo de datos y cómo se pueden utilizar. ¿Los usuarios pueden consultar información personal o solo los resultados agregados de un informe de datos? ¿Qué tipos de respuestas puede ofrecer la IA generativa en respuesta a las consultas? Puede ser complicado, y su software puede necesitar un sistema de control de acceso flexible que pueda ayudarlo a manejar casos de uso complejos.

  Puede que no sea suficiente, por ejemplo, controlar el acceso a tu chatbot de IA generativa. Es posible que su chatbot deba diseñarse para responder a las consultas de forma personalizada. La buena noticia es que los principales proveedores de software en la nube, especialmente aquellos que ofrecen aplicaciones SaaS, a menudo se utilizan para lidiar con estos escenarios complejos y muchos han extendido esos controles de privacidad de datos a sus agentes de IA y otras herramientas de inteligencia artificial.

  Además, si una organización desea utilizar la IA en la nube, puede ser necesario controlar quién puede acceder a los datos desde una perspectiva operativa/interna. Esto se puede abordar, en algunos casos, con un cifrado sólido utilizando claves proporcionadas por el cliente y mantenidas por proveedores locales. Otros casos requieren operaciones autorizadas y personal de apoyo.

• Establecimiento de controles legales. Determinar cómo cumplir con las regulaciones puede ser complicado. Incluso dentro de una sola empresa, podría haber diferentes consideraciones dependiendo de los datos: información del empleado, datos de salud, finanzas o propiedad intelectual. Para las corporaciones multinacionales, las combinaciones y permutaciones son asombrosas.

  Llegados a este punto, es hora de consultar con un abogado. Los planificadores de TI pueden ayudar a sus partners legales a comprender toda la información que necesitan para garantizar el cumplimiento, y los abogados pueden ayudar a dirigir la TI hacia un sistema que reduzca los riesgos de cumplimiento. Los consultores pueden ayudar con las evaluaciones y pruebas.

  Otra área clave a la hora de evaluar proveedores de soluciones es si tienen capacidades y recursos jurisdiccionales para satisfacer sus necesidades de conformidad. Por ejemplo, si opera en la Unión Europea, es posible que desees que tu proveedor de IA en la nube tenga opciones dentro de la UE.

• Protege tu pila de IA. Es posible que desees que los sistemas de IA estén sujetos a tus sistemas de seguridad actuales, pero también puedes creer que la IA requiere un poco más de esfuerzo y pruebas. Será raro que entrenes tus propios sistemas de IA, pero si lo haces, es posible que desees realizar pruebas destinadas a proteger tus datos de entrenamiento patentados. Es más probable que proporciones al sistema de IA algunos de tus datos, a menudo utilizando la generación aumentada por recuperación o RAG. Puedes optar por realizar pruebas para detectar instancias en las que los usuarios puedan crear prompts que les muestren información para la que no estén autorizados.

  Tenga en cuenta que pasar por alto la tarea de ampliar el rol, la ubicación y otros factores de cada usuario al motor de recuperación de datos tiene el potencial de generar fugas de datos que podrían afectar el cumplimiento de su sistema. Además de la situación de los usuarios que obtienen más acceso del que tienen derecho, las medidas de seguridad de pila de IA deben ayudar a abordar las interrupciones y las violaciones de datos que pueden ser causadas por ataques maliciosos o desastres regionales. Estos riesgos, incrementados por el posible robo de identidad del contenido generado por la IA, exigen estrategias sólidas de ciberseguridad para fomentar una gobernanza de datos responsable junto con una infraestructura redundante para ayudar con la resiliencia dentro de la jurisdicción.

¿Por qué es importante la IA soberana?

La IA soberana, al igual que la soberanía de datos, es importante porque puede llevar a las organizaciones a garantizar mejor que solo las personas y los sistemas autorizados tengan acceso a tecnologías transformadoras y plataformas informáticas de vanguardia, infraestructura de redes, aplicaciones, propiedad intelectual y datos protegidos.

El panorama de la IA soberana en rápida evolución está haciendo que muchas empresas vuelvan a examinar todas sus propiedades de TI y cuestionen a sus proveedores de servicios en relación con sus ofertas relacionadas con la IA soberana. Las soluciones de IA soberana requieren que los controles y políticas de acceso se establezcan claramente y se sigan de cerca, y no solo por el riesgo de incumplimiento de las leyes y regulaciones actuales de soberanía de datos. Sin duda, diversos factores externos pueden estar impulsando iniciativas de IA soberana, pero estas son de cualquier forma adecuadas.

Ventajas de la IA soberana

Las consideraciones de IA soberana pueden agregar una capa adicional de cumplimiento y gobernanza a las operaciones empresariales y de TI. Estos son algunos de los beneficios potenciales de esos esfuerzos adicionales de cumplimiento:

• Oportunidades de negocio. Cada vez más, a medida que los gobiernos y otras organizaciones buscan controlar los datos generados dentro de sus fronteras, pueden requerir que sus partners cumplan con los conceptos de IA soberana, y los primeros en moverse podrían tener una ventaja competitiva.
• Seguridad mejorada. La implementación de capacidades de IA soberana puede ayudar a las organizaciones a hacer un mejor trabajo protegiendo aplicaciones, infraestructura y datos críticos.
• Mayor comprensión normativa. Las reglas están cambiando constantemente, y trabajar hacia la IA soberana puede ayudar a los equipos a comprender los objetivos de los gobiernos y las agencias reguladoras.

Desafíos de la IA soberana

Podría haber un costo asociado con abordar las consideraciones de IA soberana. Estos son algunos de los desafíos en torno a la IA soberana:

• Costos legales. Las organizaciones pueden necesitar investigar múltiples gobiernos y jurisdicciones y luego resolver reglas complejas, y tal vez contradictorias, para implementar un programa de IA soberana. El abogado probablemente tendrá que hacer una parte significativa de ese trabajo.
• Cambio lento. Cada proyecto de cumplimiento tiene su propia línea de tiempo que depende de tratar con múltiples entidades, que podrían incluir gobiernos y agencias reguladoras. Esto puede implicar que se produzca un progreso lento en algunas áreas, con unos plazos en muchas ocasiones fuera de control.
• Gastos de personal. Es posible que necesites contratar personal o consultores tanto para el trabajo legal como para la implementación de soluciones técnicas. Debido a que esta área es emergente, los empleados o consultores pueden ser difíciles de encontrar y costosos de contratar.
• Complejidad técnica. Los desafíos de la IA soberana pueden requerir cambios en su infraestructura de TI y stack de aplicaciones. Puede que sea necesario migrar los datos de una región a otra. Y es posible que tengas que escribir un nuevo software o modificar el código para ayudar a abordar el cumplimiento.

El futuro de la IA soberana

"Más". Con esa sola palabra se puede resumir el futuro de la IA soberana. También puedes esperar que las tecnologías emergentes de inteligencia artificial, y los nuevos casos de uso, inspiren regulaciones adicionales. ¿Imágenes? ¿Videos? ¿Redes sociales? En cualquier lugar donde tus datos corporativos toquen la IA y en cualquier lugar donde tus clientes y empleados puedan usar la IA, es probable que encuentres problemas de IA soberana que se planteen.

¿Cómo puedes prepararte mejor para este entorno normativo complejo y en constante cambio? El trabajo inicial de encontrar los partners proveedores de servicios adecuados, elegir arquitecturas y modelos de datos con una seguridad estricta y configurar permisos exhaustivos puede ser un esfuerzo adicional ahora, pero debería resultar beneficiosos a medida que trabajas para lograr tus objetivos de IA soberana.

¿Cómo puede Oracle Cloud Infrastructure ayudarte a alcanzar tus objetivos de soberanía de IA?

Si las iniciativas de IA de tu organización aprovechan la computación en la nube, en una única arquitectura en la nube, multicloud o híbrida, Oracle tiene las herramientas y tecnologías que necesitas. La pieza central es Oracle Cloud Infrastructure (OCI), que proporciona una potente plataforma para que desarrolles tus propias aplicaciones de IA y agregar funcionalidades de IA a aquellas que ya utilices. Oracle y Oracle Cloud Infrastructure respaldan la IA soberana y la soberanía de datos en cinco áreas clave: oferta de IA, residencia de datos, privacidad de datos, controles legales y seguridad. El conjunto de servicios de IA y aplicaciones mejoradas mediante IA de Oracle integra las últimas funciones inteligentes con aplicaciones altamente seguras y escalables. Las funciones de residencia de datos de Oracle ayudan a mantener tus datos dentro de las fronteras de tu país, región u otra jurisdicción. Por defecto, todos los datos y metadatos están restringidos a una única región de Oracle Cloud. Con la nube dedicada, los datos también están separados físicamente de los de otras regiones.

Oracle te ayuda a gestionar modelos de IA y te ayuda a garantizar las limitaciones de acceso mediante capacidades de seguridad avanzadas, incluso si el modelo base era de producción propia o provenía de un proveedor externo. Y cuando se trata de marcos y controles legales, Oracle trabaja con más de 80 agencias de cumplimiento y certificaciones, y ha recibido la certificación de nivel 6 de impacto del Departamento de Defensa de EE. UU. Otras herramientas te ayudan a gestionar y auditar tus LLM y otros activos de IA durante todo el ciclo de vida de la nube de IA. Obtén más información en la publicaciónAI Innovation: 5 Key Pillars to Enable Sovereign AI.

La IA soberana ya está aquí

Todos estamos acostumbrados a los requisitos de soberanía de datos, por lo que no es de extrañar que la inteligencia artificial pueda tener regulaciones similares en el futuro. La IA soberana puede considerarse una extensión de la soberanía de datos para cubrir las nuevas tecnologías que conforman una pila de soluciones de IA, incluidos los datos de entrenamiento, los LLM y los algoritmos de aprendizaje automático. Hay nuevos casos de uso, sin duda, pero encontrará problemas similares con respecto a la seguridad, la privacidad de los datos, la residencia de los datos, los controles de acceso y los problemas legales a los que se enfrentan muchas organizaciones. Considera la IA soberana como una oportunidad para implementar las mejores prácticas para proteger a tu organización y a sus clientes, así como a tu país y tu región, y descubrirás que con el partner tecnológico adecuado, es un desafío que vale la pena asumir.

Preguntas frecuentes sobre la IA soberana

¿Es la IA soberana lo mismo que la soberanía de datos?

En general, la soberanía de datos se centra en los datos en sí, mientras que la IA soberana se centra en el desarrollo y el control de los sistemas de IA, incluidos los datos utilizados por esos sistemas, dentro de una jurisdicción específica.

¿Qué industrias se ven más afectadas por la IA soberana?

Muchos tipos de empresas u organizaciones pueden tener ahora o en el futuro requisitos de IA soberana, pero en términos generales los más grandes incluyen infraestructura militar y de defensa, salud, educación, finanzas y banca e infraestructura crítica. La propia industria de TI también podría ser candidata a consideraciones de IA soberana.

¿Es costosa la IA soberana?

Para adelantarse al cumplimiento, siempre se incurre en costos. En el caso de la IA soberana, uno de los mayores gastos previstos podría ser aprender y mantenerse al día con los entornos regulatorios para las jurisdicciones en las que opera y sus partes interesadas residen. También podría haber costos para las pruebas de cumplimiento y la certificación. Si bien puede haber gastos tecnológicos, considera que estos se pueden minimizar trabajando con los partners adecuados y diseñando sistemas por adelantado para anticipar las futuras regulaciones de IA soberana.