Anthropic bloquea cuentas por uso de IA relacionado con posibles armas biológicas
La empresa de inteligencia artificial Anthropic informó que bloqueó varias cuentas luego de detectar que sus modelos estaban siendo utilizados para realizar investigaciones que podrían contribuir al desarrollo de armas biológicas. La compañía señaló que algunos usuarios intentaron superar las medidas de seguridad establecidas para impedir determinados usos de sus sistemas.
Según un nuevo informe, fueron identificados cinco casos en los que usuarios buscaron evadir los controles de Anthropic. Entre las estrategias detectadas se encuentran intentos de acceder desde regiones restringidas y acciones destinadas a ocultar el verdadero objetivo de las investigaciones para evitar las protecciones implementadas por la empresa.
Las actividades analizadas incluyeron posibles trabajos relacionados con la llamada investigación de “ganancia de función”, además de consultas vinculadas con enfermedades infecciosas, como la gripe aviar, y con sustancias peligrosas, entre ellas venenos y toxinas. Anthropic advirtió que este tipo de utilización de sus modelos representa un riesgo que requiere controles especiales.
La empresa indicó que durante un período de 30 días detectó cerca de 35 acciones de investigación que consideró potencialmente preocupantes. No obstante, aclaró que la información disponible no le permitió determinar con certeza si los usuarios buscaban causar daño o si algunas de las investigaciones respondían a objetivos científicos legítimos.
