De acuerdo con el documento, de 154 páginas, los sistemas de inteligencia artificial pueden facilitar la identificación de objetivos y el procesamiento de grandes volúmenes de información sobre disidentes, periodistas, activistas y políticos. Anthropic advirtió que estas capacidades pueden hacer más eficientes mecanismos de vigilancia que los Gobiernos ya utilizan.
En el caso de Irán, los usuarios también recurrieron a métodos para evadir las restricciones de acceso a Claude, debido a que el servicio no está disponible oficialmente en ese país. Para ingresar a la plataforma utilizaron redes privadas virtuales y números telefónicos extranjeros, según detalló la compañía en su informe.
Anthropic señaló además que un grupo de ciberdelincuentes vinculado a Irán empleó una cuenta de Claude para preparar recomendaciones de ataque dirigidas contra las fuerzas navales estadounidenses en la región. El hallazgo forma parte de una serie de casos en los que la empresa identificó el uso de su modelo para actividades consideradas indebidas.
El informe también recoge casos relacionados con armas convencionales y operaciones cibernéticas en países como China, Rusia y Yemen. Anthropic aseguró que bloqueó esos usos debido al riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos, aunque reconoció que no logró establecer si las investigaciones detectadas respondían a objetivos legítimos o maliciosos.
«Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real», explicó la empresa. Anthropic también alertó que el aumento de la capacidad y autonomía de los modelos de inteligencia artificial está reduciendo las barreras técnicas y económicas para realizar actividades que antes requerían mayores conocimientos y recursos, en medio de la preocupación por el uso dual de estas tecnologías.
Redacción: Forum News