Open AI compra Promptfoo para su plataforma de agentes IA

 

Hace unos pocos días, Open AI anunció la compra, por algo más de 18 millones de dólares, de Promptfoo.

La compra tiene como objetivo integrar la tecnología de seguridad de Promptfoo en la plataforma de OpenAI llamada Frontier, donde se desarrollan y utilizan agentes de inteligencia artificial. 

Con esta integración, se ofrecerán tres funciones principales. En primer lugar, permitirá realizar pruebas automatizadas de seguridad dentro de la plataforma, ayudando a las empresas a detectar vulnerabilidades, fugas de datos y otros posibles problemas, además de proponer soluciones. La segunda función consiste en incorporar un sistema de evaluación que facilite el análisis y la detección rápida de riesgos de seguridad en los LLM y en los agentes de IA. Por último, se implementará un sistema de supervisión y responsabilidad que incluirá informes detallados y trazabilidad, lo que permitirá a las empresas revisar todo el proceso y asegurarse de que funciona correctamente.

Promptfoo no desaparecerá y continuará funcionando como una plataforma de código abierto que ofrece servicios de apoyo a empresas.