La IA de Anthropic halla un misterioso sistema similar al CRISPR en el ADN de ciertos virus/Australia denuncia el primer hackeo conocido de un agente de IA a una web gubernamental

Un equipo de investigación de la empresa Anthropic ha presentado un hallazgo que marca un hito en la biología computacional. El modelo de inteligencia artificial Claude ha descubierto de manera autónoma una nueva estructura molecular oculta en el material genético de ciertos virus.

La IA de Anthropic halla un misterioso sistema similar al CRISPR en el ADN de ciertos virus

Crédito: MysteryPlanet.com.ar.

El mecanismo detectado posee propiedades altamente sofisticadas que recuerdan a CRISPR, la famosa herramienta que revolucionó la medicina al permitir editar el ADN con precisión quirúrgica. Sin embargo, detrás del entusiasmo inicial, la propia compañía y su director ejecutivo, Dario Amodei, reconocen que aún se desconoce la función exacta de este hallazgo o si tendrá alguna aplicación práctica real en el futuro.

Un laboratorio con agentes de IA

Para llevar a cabo esta investigación, Anthropic estableció un laboratorio propio de biología molecular ubicado en la Bahía de San Francisco. La instalación opera bajo niveles de bioseguridad básicos y está dedicada al estudio de proteínas que no representan riesgos de infección para la salud humana.

En este nuevo espacio se implementó un flujo de trabajo inédito. La inteligencia artificial se encarga de rastrear bases de datos masivas y formular hipótesis científicas a gran escala, mientras un equipo de científicos humanos ejecuta las pruebas físicas para validar las predicciones del modelo informático.

Fue precisamente bajo este enfoque colaborativo que un equipo coordinado de aproximadamente 950 agentes de inteligencia artificial analizaron el ADN de bacteriófagos —que son virus especializados únicamente en infectar bacterias—, procesando más de 200.000 enzimas durante 21 horas continuas y evaluando 210 millones de fragmentos de texto informático.

Como resultado, el sistema identificó una familia de transcriptasas inversas, enzimas que actúan como «traductores moleculares» al copiar la información del ARN para convertirla en ADN.

Junto a ellas, la IA detectó una secuencia de ADN repetitivo de función desconocida, lo que conforma una estructura biológica que los científicos han denominado transcriptasas inversas asociadas a matrices (ART).

El ADN sin procesar que Claude estaba leyendo cuando detectó un patrón repetitivo que nadie había notado. Crédito: Anthropic.

En términos sencillos, las ART son como pequeñas herramientas de corte y copiado bioquímico que trabajan junto a un archivo de memoria genética. Si bien se sabe que estas piezas operan juntas para generar pequeñas cadenas de ARN, la ciencia todavía no comprende qué tarea desempeñan dentro del virus ni para qué sirven.

Reacciones de la comunidad científica

El hallazgo de los agentes autónomos generó opiniones diversas. Dario Amodei, el CEO de la compañía, afirmó que «como mínimo, es un trabajo del que me habría sentido orgulloso como estudiante de doctorado».

No obstante, varios analistas le recordaron que ningún estudiante presentaría un descubrimiento admitiendo que desconoce su utilidad o importancia:

Por otro lado, el pionero de la tecnología CRISPR e investigador del MIT, Feng Zhang, celebró el avance tras revisar el informe preliminar: «Este es un ejemplo emocionante de cómo los agentes de IA pueden contribuir al descubrimiento biológico. La identificación de matrices de repeticiones de ARN asociadas con transcriptasas inversas es genuinamente intrigante y merece una investigación más profunda».

Impacto en los mercados financieros

El anuncio tuvo repercusiones inmediatas. Tras la noticia, las acciones de empresas dedicadas a la edición genética como CRISPR Therapeutics, Intellia Therapeutics o Beam Therapeutics registraron breves caídas en la bolsa, impulsadas por la especulación de los inversores.

Este evento recuerda a otros anuncios recientes de Anthropic, como cuando la empresa afirmó que su modelo había resuelto un problema complejo de criptografía cuántica. Fue un logro real, pero requirió cientos de horas de verificación humana posterior sobre un escenario muy específico.

Por el momento, la detección de las ART confirma la capacidad de la IA para identificar patrones biológicos invisibles para el ojo humano, aunque pasar de este descubrimiento a una aplicación médica real requerirá años de rigurosa investigación.

Fuente: Anthropic. Edición: MP.

La IA de Anthropic halla un misterioso sistema similar al CRISPR en el ADN de ciertos virus

 

Australia denuncia el primer hackeo conocido de un agente de IA a una web gubernamental

El primer ministro de Australia, Anthony Albanese, en primer plano. En segundo plano, más borrosos, se ven los rostros de otras dos personas.

Pie de foto,Anthony Albanese calificó de «inaceptable» lo ocurrido y la reacción de la compañía.

El primer ministro de Australia, Anthony Albanese, afirmó este jueves que un agente de inteligencia artificial desarrollado por OpenAI «se infiltró» en un portal de estadísticas del gobierno australiano.

El agente accedió sin autorización a la web que contenía datos «no confidenciales» de Medicare, el sistema público de salud de Australia.

Según Albanese, otros tres sistemas del gobierno podrían haber sido atacados.

La brecha de seguridad ocurrió en junio, pero OpenAI solo se percató de ello en agosto y no lo informó al gobierno hasta el 10 de septiembre, según Albanese.

OpenAI sostiene que no hay indicios de que se haya accedido a expedientes médicos de pacientes.

En un comunicado, la compañía afirmó que la brecha de seguridad se detectó durante una «revisión exhaustiva» sobre «actividad no alineada del modelo».

«Durante esta revisión, identificamos actividad que involucraba varios sitios web y servicios del gobierno australiano, mientras nuestros modelos intentaban buscar respuestas y estadísticas disponibles para preguntas sobre Australia durante una evaluación interna. En el transcurso de esto, nuestros modelos realizaron acciones que no teníamos previstas», dijo la compañía.

Albanese señaló que mantuvo una «conversación muy franca» sobre el incidente con el director ejecutivo de OpenAI, Sam Altman.

«Hoy hablé con el director ejecutivo de OpenAI, Sam Altman, para expresarle la extrema preocupación de Australia por este incidente, y también le manifesté mi decepción por el hecho de que la empresa haya tardado demasiado tiempo en informar al gobierno sobre lo ocurrido y porque la forma en que se realizó esa notificación fue, asimismo, inaceptable», dijo Albanese, que se encuentra estos días en Nueva York para asistir a la Asamblea General de Naciones Unidas.

Tras el ciberataque contra Medicare, el gobierno de Australia anunció una revisión urgente de su marco de gestión de la inteligencia artificial .

Según un comunicado oficial, la revisión evaluará si la legislación y los sistemas de gobernanza actuales son «adecuados para prevenir y responder a incidentes cibernéticos relacionados con la IA».

El Departamento del Primer Ministro y del Gabinete también examinará los mecanismos de intercambio de información con empresas del sector y con otros países de la Mancomunidad de Naciones (Commonwealth).

De acuerdo con el gobierno australiano, las conclusiones «servirán de base» para establecer una estrategia más amplia sobre la regulación y el uso de la inteligencia artificial.

«Datos no sensibles»

Una pantalla con los iconos de las aplicaciones de algunos de los principales proveedores de inteligencia artificial.

Pie de foto,La noticia del hackeo llega en un momento de creciente preocupación por los riesgos del desarrollo descontrolado de la IA.

Según OpenAI su modelo accedió a «archivos en algunas páginas y servicios del gobierno australiano», entre ellos una página que contiene datos no públicos de Medicare, el sistema de salud de Australia.

La compañía dijo que el modelo buscaba estadísticas e información sobre sistemas de salud.

Expertos consultados por la BBC dijeron que es el primer ataque de un modelo de inteligencia artificial a una web gubernamental del que se tiene noticia en el mundo.

Según el gobierno australiano, los datos a los que accedió el agente de OpenAI no son sensibles, pero aún así protestó por lo ocurrido y por cómo manejo la compañía de Altman el incidente.

Aunque ocurrió en junio, la compañía dijo que no lo descubrió hasta agosto y que entonces informó con un correo electrónico enviado a una dirección general para consultas ciudadanas de una agencia del gobierno.

La Agencia de Ciberseguridad de Australia fue informada días después.

El incidente de Australia llega en un momento de creciente preocupación por los peligros potenciales del desarrollo de la inteligencia artificial y cuando se han conocido una serie de hackeos perpetrados por agentes.

OpenAI reveló que algunos de sus modelos avanzados escaparon del entorno controlado de pruebas y atacaron varias compañías, incluida Hugging Face, también especializada en servicios de IA.

Otras firmas estadounidenses, como Anthropic reportaron episodios similares, alentando el temor de que el desarrollo de esta nueva tecnología pueda volverse contra la humanidad.

Y destacados directivos de las compañías líderes en el sector, como el propio Altman o Amodei, jefe de Anthropic, han pedido ralentizar su desarrollo y que se establezcan mecanismos de control y supervisión.

Pero el presidente de Estados Unidos, Donald Trump, se ha mostrado en contra de regular la IA a nivel global.

https://www.bbc.com/mundo/articles/cq8r6njee8ddo

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *