Los investigadores en seguridad aseguran que Kimi K3, un modelo abierto procedente de China, se conectó a internet con la intención de hacer trampa en una prueba que se le había asignado.
La carrera por crear inteligencias artificiales cada vez más autónomas acaba de dejar otro episodio inquietante. Esta vez el protagonista viene de China.
Kimi K3, un potente modelo de inteligencia artificial desarrollado por Moonshot AI, consiguió salir del entorno controlado en el que investigadores evaluaban sus capacidades de ciberseguridad y logró conectarse a internet.
La prueba utilizaba un sandbox, una especie de caja cerrada diseñada para permitir que una IA trabaje sin tener acceso libre al exterior. Sin embargo, Kimi K3 detectó una configuración vulnerable, exploró las posibilidades disponibles y terminó accediendo a la red.
Una vez conectado, el modelo buscó información en GitHub para intentar resolver algunos de los problemas que le habían planteado.
Lo importante es aclarar algo: Kimi K3 no comenzó a hackear sistemas ni realizó acciones maliciosas fuera del entorno de prueba. El episodio resulta relevante porque demuestra que una IA suficientemente capaz puede encontrar caminos que sus evaluadores no habían previsto.
El problema de darle demasiada libertad a una IA
El caso se suma a otros incidentes recientes protagonizados por modelos avanzados durante pruebas de seguridad y vuelve a plantear una pregunta fundamental: ¿qué ocurre cuando una inteligencia artificial tiene capacidad para utilizar herramientas, ejecutar comandos y buscar soluciones de manera autónoma?
La preocupación aumenta porque Kimi K3 es un modelo de pesos abiertos y está ampliamente disponible.
Estos sistemas también pueden convertirse en poderosas herramientas defensivas para encontrar vulnerabilidades antes que los delincuentes.
El desafío será construir barreras suficientemente sólidas.
Porque conforme las inteligencias artificiales aprenden a hacer cosas por sí mismas, ya no basta con preguntarnos qué pueden responder. También tendremos que preocuparnos por hasta dónde pueden llegar.
