Arthur Mensch, CEO y cofundador de Mistral AI, el principal laboratorio de inteligencia artificial europeo, ha valorado las últimas novedades del sector en una entrevista con Le Monde donde ha vuelto a apostar por una estrategia propia frente a los gigantes chinos y estadounidenses de la IA. Teniendo en cuenta que esta compañía francesa se propone como una de las claves en la pretendida soberanía digital europea, sus declaraciones son sumamente interesantes. Además, el momento no puede ser más oportuno.
El desarrollo de la IA se encuentra en una encrucijada. Desde que conocimos que un agente de OpenAI hackeó los servidores de la compañía Hugging Face de manera autónoma y sin intervención humana, las alertas sobre los riesgos de la IA han vuelto al primer plano de la actualidad. Realmente nunca se fueron, aunque en los últimos meses la IA ha destapado sus costuras. Si bien conviene analizar de manera sosegada eso del ‘apocalipsis de la IA’ no es menos cierto que los riesgos son evidentes y obligan a una profunda reflexión del momento y de un futuro donde la automejora recursiva de la IA pone los pelos como escarpias, si no se consigue un control absoluto.
La historia es conocida: Los agentes de IA (o IA agéntica) son la principal tendencia tecnológica dentro de la propia revolución de la era de la inteligencia artificial y prometen un potencial impresionante, pero con unos obstáculos para una implementación segura y controlada que son también de enormes dimensiones. Y no son los únicos apartados a debate. También por los aspectos éticos y laborales que implica una revolución tecnológica que pretende cambiar el mundo, además de los costes en energía, agua y chips, necesarios para poner en marcha proyectos gigantescos.
La entrada ¿Se puede controlar el descontrol de la IA? se publicó primero en MuyComputer.
