Esta es la razón por la que OpenAI está ausente del esfuerzo de toda la industria de Nvidia para acabar con los agentes de IA deshonestos
Cuando Nvidia anunció el nuevo consorcio de Mondaya de más de 100 empresas dedicadas a resolver agentes de IA deshonestos, había un nombre que faltaba notablemente: OpenAI.
Si bien OpenAI no fue el único jugador de Big Tech que no se registró, Amazon, Google y Apple tampoco se han unido, fue el jugador más obvio que faltaba, especialmente porque Anthropic es un partidario.
Sin embargo, a pesar de la falta de compromiso público de OpenAI con el consorcio, lo que presumiblemente significa que cada empresa utilizará y venderá alguna versión de la tecnología y aportará características al proyecto, un portavoz de OpenAI dijo a TechCrunch que la empresa apoya el trabajo de Nvidia.
El nuevo esfuerzo, denominado Open Agent Safety Platform de Nvidia, es el intento de Nvidia de difundir su tecnología de seguridad de agentes de IA propia y en gran medida de código abierto en todo el ecosistema de IA como respuesta directa a los tipos de incidentes de agentes de IA deshonestos en curso que los laboratorios fronterizos como Anthropic y OpenAI han revelado.
El CEO de Nvidia, Jensen Huang, ha estado llamando a AIsan un problema de ingeniería ordinario que se puede resolver como cualquier otro problema tecnológico. La Open Agent Safety Platform es Huang poniendo su dinero donde está su boca.
Fuente: TechCrunch
