¿Qué pasaría si la única forma fiable de conocer el mundo se tergiversa por un mal uso de la inteligencia artificial? Esto sucedió la semana pasada, cuando Google comunicó que “algunas personas compartían capturas de pantalla de imágenes generadas que parecían infringir sus políticas”. La integración que la empresa eliminó permitía a los usuarios utilizar indicaciones de texto para generar escenarios falsos sobre una capa base de imágenes satelitales, aéreas o 3D reales y compartir capturas en otras plataformas. Ante esto, Enrique Cortés Rello, director del hub de IA del Tecnológico de Monterrey, mencionó a Expansión que las imágenes circulando por internet no todas son fiables, pues las personas deben confiar en la fuente y el verdadero problema “es que esa fuente 100% confiable ahora puede ser manipulada externamente”, agregó. Por eso, la integración de Nano Banana es tan riesgosa ya que sirve para transformar y editar imágenes usando texto de forma rápida. Este caso demuestra que la regulación de la IA debe enfocarse más en los usos que en la tecnología. Casos como la demanda de Grok, el chatbot de IA desarrollado por xAI, a mediados de enero del 2026 al generar deep fakes sexualizados de personas reales no consensuadas. Asimismo, Google mencionó a BBC Verify que la herramienta podría utilizarse para difundir desinformación con la apariencia de legitimidad de la organización, por lo que actores malintencionados podrían abusar de ella.
El experto en IA y desinformación de Digital Digging, Henk van Ess, mencionó a la BBC los riesgos que planteaba la función de Nano Banana al crear imágenes falsas de una central nuclear inexistente en Irán, un campo de refugiados en la frontera de Estados Unidos y México y un hospital falso en Gaza con un cráter de bomba al lado. Aunado a este hecho, Cortés Relló recalcó la importancia del uso de las herramientas para bien o mal “por ejemplo: un martillo se puede usar para clavar clavos y para asesinar a alguien. ¿Hoy se acusaría a la empresa que fabricó el martillo de asesinato? No”, enfatizó el experto, quien dijo que los usuarios deben aprender a usar las herramientas de forma correcta. “La falsificación no tiene por qué parecer convincente por sí sola. Hereda la credibilidad del mapa en el que se basa”, comentó Henk van Ess citado por la BBC. Esta frase refiere a la confianza o autoridad que una persona recibe de manera automática gracias a su origen o institución. En este contexto, los usuarios malintencionados aprovechan la confianza de las personas hacia gigantes como Google. En la declaración proporcionada por Google México, la compañía aseguró conocer que las personas confían especialmente en Google Earth para obtener una visión confiable del mundo al observar que profesionales del ámbito geoespacial utilizan la función para distintos fines útiles; sin embargo se dieron cuenta que algunas personas infringían sus políticas. Google afirmó que el contenido creado a través de inteligencia artificial contiene marcas de agua invisibles para detectar si es falso o fue manipulado y que “la persona que tenga dudas sobre una imagen puede comprobarse utilizando Gemini o la función Lens en su buscador. “Es importante señalar que las imágenes generadas no aparecían en la experiencia principal de Google Earth para que otros las vieran y llevaban una marca de agua que indicaba que habían sido generadas por IA”, mencionó la compañía en su declaración.
]]>
