Armilla AI lanza AutoGuard™, el primer firewall verdaderamente inteligente para IA generativa

USA - Deutsch

USA - English

USA - Français

USA - English

News provided by

Sep 28, 2023, 13:35 ET

TORONTO, 28 de septiembre, 2023 /PRNewswire/ -- Armilla AI, líder mundial en alineación, seguridad e IA responsable de la IA generativa, se enorgullece de anunciar el lanzamiento de AutoGuard™, el primer firewall verdaderamente inteligente para ayudar a las empresas a implementar modelos de IA generativa de forma segura y proteger tanto a los usuarios como a las empresas de posibles daños. Las capacidades de la IA generativa son notables, pero sus deficiencias conllevan riesgos importantes para las empresas. Desde eliminar prejuicios y reducir alucinaciones hasta mejorar la seguridad y eliminar problemas de privacidad, AutoGuard es una solución completa para poner en marcha soluciones de IA generativa de nivel empresarial seguras y responsables.

AutoGuard se une a AutoTune™ como el segundo producto de su plataforma de IA generativa AutoAlign™. Ambos utilizan el mismo marco AutoAlign que incorpora ajustes de retroalimentación automática y vienen con una biblioteca de controles listos para usar, como protección de la privacidad, protección contra la fuga de información confidencial, asunción de género, protección contra jailbreak y detección de prejuicios raciales, o pueden personalizarse con controles de alineación específicos. Esto significa que los clientes pueden hacer cumplir el comportamiento de su modelo de IA, expresado en narrativas en lenguaje natural.

"Hay un llamado creciente dentro de la industria que a medida que la IA generativa escala, debemos proporcionar protecciones en tiempo de ejecución para garantizar que estos modelos funcionen de manera segura. Según nuestras propias pruebas, los comentarios de nuestros clientes y expertos de la industria, las empresas necesitan que estas barreras de seguridad cumplan con las normas. con iniciativas como el nuevo código de conducta voluntario de Canadá para la IA generativa", afirmó Rahm Hafiz, director de Tecnología de Armilla. "Nuestro enfoque es más poderoso que las barreras de seguridad basadas en sintaxis o los ajustes tradicionales por sí solos, y es fundamental para escalar implementaciones seguras y fiables a medida que las empresas lanzan sus modelos al mercado".

La solución AutoGuard de Armilla puede generar sus propios datos y ajustar la barrera de seguridad de un cliente utilizando comentarios automatizados en función de cómo la empresa le ha pedido que se comporte al modelo de IA. A lo largo del proceso, la propia IA de Armilla alinea AutoGuard a través de una serie de pasos: comprender los objetivos del modelo objetivo, generar datos para capturar los límites del comportamiento del modelo, realizar pruebas iterativas, descubrir puntos débiles y, finalmente, reforzar su propio modelo de barrera.

El resultado es una plataforma fácil de usar que hace que la IA generativa sea más segura, fiable y ética durante su implementación. AutoGuard está siendo utilizado actualmente por un grupo selecto de clientes, entre los que se incluyen:

Empresas de software de recursos humanos que aplican IA generativa a sus procesos de recursos humanos pero exigen que se incorpore equidad en sus soluciones.
Instituciones financieras que buscan desarrollar soluciones responsables de IA generativa
Empresas consultoras que se ocupan de datos confidenciales y sensibles.

Obtenga más información y pruébelo hoy en Armilla.ai.

Acerca de Armilla AI

Armilla AI es líder en alineación, pruebas y seguridad de modelos de IA, lo que permite a las empresas gobernar, implementar y escalar la inteligencia artificial. AutoAlign™ de Armilla AI es una plataforma innovadora para construir e implementar sistemas de IA generativa. Combina barreras de seguridad con ajustes automatizados en una biblioteca de controles disponibles para alinear de forma segura las soluciones de IA generativa con casos de uso y valores empresariales. Con Armilla AI, las empresas pueden implementar con confianza soluciones de IA sólidas, precisas, seguras e imparciales. Visite www.armilla.ai para obtener más información.

[email protected]