Google Earth retira Nano Banana a menos de 48 horas de haberla implementado por imágenes falsas
El experto en IA y desinformación de Digital Digging, Henk van Ess, mencionó a la BBC los riesgos que planteaba la función de Nano Banana al crear imágenes falsas de una central nuclear inexistente en Irán, un campo de refugiados en la frontera de Estados Unidos y México y un hospital falso en Gaza con un cráter de bomba al lado.
Aunado a este hecho, Cortés Relló recalcó la importancia del uso de las herramientas para bien o mal “por ejemplo: un martillo se puede usar para clavar clavos y para asesinar a alguien. ¿Hoy se acusaría a la empresa que fabricó el martillo de asesinato? No”, enfatizó el experto, quien dijo que los usuarios deben aprender a usar las herramientas de forma correcta.
“La falsificación no tiene por qué parecer convincente por sí sola. Hereda la credibilidad del mapa en el que se basa”, comentó Henk van Ess citado por la BBC. Esta frase refiere a la confianza o autoridad que una persona recibe de manera automática gracias a su origen o institución. En este contexto, los usuarios malintencionados aprovechan la confianza de las personas hacia gigantes como Google.
En la declaración proporcionada por Google México, la compañía aseguró conocer que las personas confían especialmente en Google Earth para obtener una visión confiable del mundo al observar que profesionales del ámbito geoespacial utilizan la función para distintos fines útiles; sin embargo se dieron cuenta que algunas personas infringían sus políticas.
Google afirmó que el contenido creado a través de inteligencia artificial contiene marcas de agua invisibles para detectar si es falso o fue manipulado y que “la persona que tenga dudas sobre una imagen puede comprobarse utilizando Gemini o la función Lens en su buscador.
“Es importante señalar que las imágenes generadas no aparecían en la experiencia principal de Google Earth para que otros las vieran y llevaban una marca de agua que indicaba que habían sido generadas por IA”, mencionó la compañía en su declaración.
