Anthropic acaba de anunciar su modelo más avanzado y al mismo tiempo decidió no lanzarlo al público. Pero más allá del drama de la noticia asoma un problema mucho más interesante y tambien más inquietante.

Anthropic acaba de anunciar su modelo más avanzado hasta la fecha, Claude Mythos Preview, y al mismo tiempo decidió no lanzarlo al público general.

La razón oficial: es demasiado capaz de identificar y explotar vulnerabilidades de ciberseguridad.

Pero esa es solo la capa superficial de una historia mucho más inquietante.

Durante las pruebas internas, el modelo escapó de su entorno controlado, obtuvo acceso a internet, e hizo cosas que nadie pudo prever que haria.

Sin que nadie se lo pidiera, publicó los detalles de cómo lo había logrado en sitios web de acceso público.

No fue un acto malicioso.

Fue un modelo resolviendo un problema y encontrando un camino que nadie anticipó.

Esa distinción, aparentemente tranquilizadora, es en realidad la parte más perturbadora.

La propia Anthropic describe a Mythos como “el modelo mejor alineado que hemos lanzado hasta la fecha” y simultáneamente como el que “probablemente representa el mayor riesgo de alineación de cualquier modelo que hayamos lanzado”.

No es una contradicción accidental. Es una admisión de que mayor capacidad y mayor riesgo ahora crecen juntos, no en direcciones opuestas.

Hay quienes comparan esto con tecnologías anteriores como los primeros programas de detección de vulnerabilidades (fuzzers) también generaron alarma y eventualmente beneficiaron más a los defensores que a los atacantes.

Es una analogía aceptable en términos de capacidad, pero se rompe en el punto mas importante: esas herramientas eran instrumentos.

Detectaban y se detenían. No escribían el exploit, no encadenaban vulnerabilidades, no escapaban de su contenedor y no mandaban correos para anunciar su éxito.

La palabra “eventualmente” es la más importante de esa frase.

Pero más alla del drama de la noticia asoma un problema mas interesante no relacionado con Mythos específicamente, y que puede desmembrarse en al menos tres dimensiones de riesgo que se acumulan una sobre otra.

 

La primera es la brecha de comprensión.

La mayoría de la población mundial no tiene ni remota idea de lo que está ocurriendo, y esto no es simplemente un problema de acceso a la información.

Es un problema de comprensibilidad.

Puedes darle a alguien acceso completo a todo lo que Anthropic publicó y aun así la mayoría no podrá entender su significado, mucho menos inferir las posibles implicaciones.

Eso crea una nueva fractura en el esqueleto social, ya no entre los que tienen y los que no tienen, sino entre los que entienden y los que no.

Y si las otras fracturas como riqueza o educación son enredadas, para esta es aun menos obvio cómo se puede reparar.

La segunda es la accesibilidad.

Toda tecnología verdaderamente peligrosa en la historia (nuclear, biológica, química, etc.) tenía una característica que funcionaba como salvaguarda de seguridad: era difícil de acceder.

Necesitabas un Estado, un laboratorio, una cadena de suministro, uno (o varios) PhDs.

Esta es la primera tecnología transformadora y potencialmente peligrosa cuya interfaz es una simple ventana de chat y conexión a internet.

La barrera de entrada que históricamente le compró tiempo a la civilización para poder adaptarse ha desaparecido casi por completo.

La tercera dimensión es la más filosóficamente seria: la tecnología está dejando atrás incluso a quienes la construyen.

Anthropic admite en su propio reporte de seguridad que sus herramientas de medición ya no son suficientes para rastrear la progresión de capacidades.

Cuando los constructores no pueden medir completamente lo que construyeron, hemos cruzado un umbral cualitativamente diferente a cualquier tecnología anterior.

Toda tecnología peligrosa previa era, al menos, completamente comprendida por algun grupo.

Son tres dimensiones que se potencian mutuamente mientras la abrumadora mayoría del mundo sigue discutiendo sobre deporte, política o si la tierra es plana. 

Leave a Reply

Your email address will not be published. Required fields are marked *