Anthropic se asocia con Accenture para lanzar un programa de evaluación integrada

Anthropic ha lanzado oficialmente su programa de "evaluación integrada", donde la empresa de inteligencia artificial de Accenture, Faculty, ingresará a las instalaciones de Anthropic para realizar pruebas de modelos y pruebas de "red team". Los evaluadores tendrán acceso similar al de los empleados, lo que les permitirá ver el proceso de entrenamiento del modelo y las decisiones de desarrollo, así como comunicarse directamente con el personal interno. Ambas partes invertirán al menos 1.000 millones de dólares en los próximos cinco años para construir capacidades de evaluación. Anthropic reconoce que actualmente falta una normativa unificada en la industria, y los permisos de los evaluadores, la forma de hacer públicos los resultados y las fuentes de financiación aún están en discusión; actualmente, los costos de evaluación son cubiertos directamente por Anthropic. Accenture es un socio estratégico a largo plazo de Anthropic y ha establecido el Anthropic Business Group, capacitando a aproximadamente 30.000 personas en el uso de Claude. Una de las condiciones mínimas propuestas por el AI Evaluator Forum es que las agencias de evaluación no deben tener relaciones comerciales significativas con la empresa evaluada. En el futuro, Anthropic también incorporará otras agencias de evaluación y llevará a cabo negociaciones piloto con organizaciones sin fines de lucro como METR.