Cualquier herramienta es simplemente eso: una herramienta. Sin embargo, a lo largo de la historia de la humanidad, la intención de nuestra especie define, en última instancia, la tecnología, ya sea un cuchillo paleolítico o la energía nuclear avanzada, como «buena» o «mala». El auge de la inteligencia artificial no es diferente, pero lo que está en juego es mucho mayor en comparación con la mayoría de las herramientas, y esto se evidencia con especial claridad en el mundo de la biología.

El mes pasado, un equipo de investigadores de la Universidad de Stanford y el Arc Institute, una organización sin fines de lucro que trabaja en la intersección de la biomedicina y la IA, reveló el prometedor potencial de Evo 2, un modelo de ADN capaz de crear virus desde cero. Parafraseando al poeta Robert Frost, es evidente cómo, tras este descubrimiento, se abrieron dos caminos. Los nuevos virus representan nuevas formas de combatir las superbacterias resistentes a los antimicrobianos (RAM), responsables directas de más de un millón de muertes al año. ¿Y el otro camino? Un breve repaso al pasado nos permite vislumbrar cómo podría ser. Al fin y al cabo, ¿qué pasaría si, en lugar de desarrollar bacteriófagos capaces de eliminar la E. coli , un actor malintencionado decidiera que un nuevo tipo de arma biológica podría servir a sus malvados propósitos?

Esta creciente preocupación por una nueva era de armas biológicas basadas en IA alcanzó su punto álgido a principios de este mes, cuando Anthropic, la empresa de IA responsable del popular LLM Claude, publicó un extenso informe de evaluación de amenazas que detallaba varios escenarios en los que los usuarios realizaron consultas relacionadas con investigaciones biológicas potencialmente peligrosas.

«Estos ejemplos ilustran el tipo de tareas a las que se someten nuestros modelos y las decisiones, a menudo difíciles, que debemos tomar al evaluar si un uso biológico determinado es peligroso o no», se lee en la publicación. «Cuando detectamos e investigamos estos casos, bloqueamos las cuentas de los usuarios e incorporamos los resultados de nuestra investigación a las medidas de seguridad, la aplicación de la normativa y los procesos de inteligencia sobre amenazas de nuestro modelo de vanguardia para prevenir, detectar e interrumpir mejor estas actividades en el futuro».

Poco después de la publicación de esta evaluación, el director ejecutivo de Anthropic, Dario Amodei, pidió que se ralentizara el desarrollo de la IA , citando el «uso indebido de la IA para el bioterrorismo» como una de las razones principales (además de la creciente propensión de la IA a escapar de sus límites tecnológicos). Esto ocurre solo unos meses después de que OpenAI y Anthropic firmaran una carta instando a una regulación más estricta para las empresas que venden cadenas de ADN hechas a medida . Lentamente, se está configurando una ecuación letal: una herramienta capaz de construir toxinas letales + métodos para producir dichas toxinas = una situación muy peligrosa.

Y esta amenaza no es meramente hipotética. Un estudio de 2025 instó al modelo de IA Moremi Bio Agent (sin sus medidas de seguridad) a desarrollar nuevas toxinas que se asemejaran mucho a «toxinas como la ricina, la toxina diftérica y las proteínas del veneno de serpiente basadas en desintegrina». Moremi Bio Agent generó aproximadamente 1020 nuevas proteínas tóxicas y un total de 5000 moléculas pequeñas tóxicas.

“Esta investigación subraya la necesidad urgente de mitigar el riesgo y establecer medidas de protección contra la amenaza del doble uso que representan las herramientas de biodiseño basadas en IA”, concluyeron los autores.

Por ahora, la revelación de Anthropic sobre la amenaza de armas biológicas ha generado reacciones encontradas entre los expertos. Algunos advierten que estamos «caminando sonámbulos hacia un desastre potencialmente enorme», mientras que otros señalan que los casos presentados representan solo investigación básica, como informa Science . Sin embargo, este verano, varios escenarios de riesgo extremo relacionados con la IA han llamado la atención de expertos en seguridad, altos ejecutivos de empresas de IA e incluso miembros del Congreso .

Hasta ahora, estas amenazas, ya sean a la bioseguridad o a la ciberseguridad, han causado poco o ningún daño, pero quién sabe cuándo se nos acabará la suerte.

https://www.popularmechanics.com/technology/security/a73778191/ai-bioweapons/