La empresa de inteligencia artificial Anthropic reveló en un alarmante informe que bloqueó cinco intentos de utilizar sus modelos para desarrollar armas biológicas y convencionales. Según el documento, diversos actores, que van desde grupos respaldados por gobiernos hasta organizaciones criminales, intentaron emplear la IA para investigaciones de laboratorio con un potencial altamente destructivo.
Entre los casos bloqueados destaca la consulta de un científico, desde un instituto de investigación militar, que buscaba mutar el virus chikungunya para hacerlo más dañino. También se detectaron intentos de estudiar patógenos mortales como la gripe aviar y la viruela para hacerlos resistentes al sistema inmune, así como la elaboración de un catálogo de toxinas de animales venenosos que podría usarse como armamento.
Además de las amenazas biológicas, el reporte documenta el uso del modelo Claude por grupos en el norte de Yemen para intentar fabricar armamento convencional. Los involucrados buscaban asistencia para construir misiles de largo alcance y cohetes guiados utilizando chips de teléfonos móviles. Para evadir las restricciones geográficas de la plataforma, estos usuarios emplearon métodos oscuros como cuentas falsas y revendedores.
La compañía precisó que los incidentes ocurrieron este año usando versiones anteriores de su tecnología, ya que los modelos más recientes poseen salvaguardas mucho más estrictas. Esta revelación resulta sumamente crítica, pues se produce tan solo un día después de que un exempleado de Anthropic dimitiera y advirtiera públicamente sobre el riesgo de extinción civilizatoria que la inteligencia artificial descontrolada podría representar para la humanidad.
