Bessent y Powell se reúnen con la banca para evaluar el riesgo que supone la nueva IA de Anthropic

Según informan distintos medios estadounidenses, a la reunión asistieron los líderes de Bank of America, Citigroup, Goldman Sachs, Morgan Stanley y Wells Fargo, quienes se encontraban en Washington para una reunión del lobby bancario. El consejero delegado de JP Morgan, Jamie Dimon, fue invitado a esta reunión, pero no pudo asistir.

Dicho cónclave giró en torno a los posibles riesgos futuros que plantean Mythos y otros modelos similares, además de asegurarse de que los bancos estén tomando precauciones para defender sus sistemas.

Según estas fuentes, los reguladores consideran que esta clase de ciberataques podrían ser una de las mayores amenazas a las que se enfrenta el sector financiero. Y es que los bancos convocados a la reunión están clasificados como sistémicamente importantes, lo que significa que su estabilidad es una prioridad para el sistema financiero mundial.

Mythos es un modelo más potente, según la empresa de IA, capaz de identificar y explotar debilidades en "todos los principales sistemas operativos y todos los principales navegadores web" si un usuario le ordena hacerlo. La compañía lanzó a principios de esta semana este potente modelo, pero evitó hacerlo público, señalando que podría exponer vulnerabilidades de ciberseguridad previamente desconocidas. Según Anthropic, los modelos de IA "han alcanzado un nivel de capacidad de programación en el que pueden superar a todos salvo a los humanos más cualificados a la hora de encontrar y explotar vulnerabilidades de software".

"Hace apenas unos meses, los modelos de lenguaje solo podían explotar vulnerabilidades bastante poco sofisticadas. Unos meses antes, ni siquiera eran capaces de identificar vulnerabilidades no triviales. En los próximos meses y años, esperamos que los modelos de lenguaje (los nuestros y los de otros) sigan mejorando en todos los aspectos, incluida la investigación de vulnerabilidades y el desarrollo de exploits. A largo plazo, esperamos que las capacidades defensivas dominen: que el mundo se vuelva más seguro, con software mejor reforzado, en gran parte gracias al código escrito por estos modelos. Pero el periodo de transición será complicado. Por ello, debemos empezar a actuar ahora", ha indicado Anthropic en un comunicado, en donde también ha anunciado que ha mantenido conversaciones con funcionarios del Gobierno estadounidense sobre las "capacidades cibernéticas ofensivas y defensivas" del modelo.

Anthropic ha limitado su lanzamiento inicialmente a unas pocas empresas importantes de tecnología y finanzas. Esas empresas, entre las que se incluyen Amazon y Apple, así como JP Morgan, forman parte del llamado "Proyecto Glasswing", que trabajará para proteger los sistemas más importantes antes de que otros modelos de IA similares estén disponibles, según informa Bloomberg.