Google lanzó esta aplicación para ayudar a identificar imágenes fabricadas con las tecnologías, pues se ha determinado que este tipo de productos puede generar nuevos riesgos y hacer que los generadores de contenidos difundan publicaciones falsas.
Google lanzó una nueva herramienta, llamada SynthID. Esta sirve para generar una marca de agua a imágenes generadas por inteligencia artificial (IA) y ayuda a identificarlas. “Esta tecnología incorpora una marca de agua digital directamente en los píxeles de una imagen, haciéndola imperceptible para el ojo humano, pero detectable para su identificación”, explica Google.
Frente a este desarrollo, detalla que las tecnologías de la IA evolucionan rápidamente y que las imágenes creadas en computadora son conocidas como “imágenes sintéticas” y que son más difíciles de distinguir de las que no han sido creadas por la IA.
“Si bien la IA generativa puede desbloquear un enorme potencial creativo, también presenta nuevos riesgos, como permitir a los creadores difundir información falsa, ya sea intencionalmente o no. Ser capaz de identificar el contenido generado por IA es fundamental para que las personas sepan cuándo interactúan con los medios generados y para ayudar a prevenir la difusión de información errónea”, asegura Google sobre las imágenes creadas con las tecnologías.
Según Fundación Telefónica, las tecnologías recientes emplean elementos similares a las que usan aplicaciones como FaceApp, que hace varios años fueron puestas en práctica por los usuarios de redes sociales. Sin embargo, hoy en día, las imágenes generadas son muy parecidas a una imagen original para que pueda ser identificada a simple vista, pero también pueden evadir sistemas biométricos.
La organización señaló que la IA puede hacer “más real” la desinformación, pues detalló que, debido a este desarrollo tecnológico, hoy en día se puede generar una imagen de una persona con un solo clic. Pero, además, enfatiza que antes, para crear este tipo de imágenes, se requería de un gran esfuerzo manual; sin embargo, ahora ese trabajo se hace de manera automática y puede realizarse en masa.
“Mientras la tecnología no consiga estar a la altura de detectar lo que ella misma crea, la única solución posible se basa en la concienciación y el pensamiento crítico de los usuarios, que comienza conociendo las amenazas a las que se enfrenta”, aclaró Telefónica.
Jorge Cruz, investigador del Observatorio de Comunicación de la Pontificia Universidad Católica (PUCE), mencionó a Ecuador Chequea que, iniciativas como la de Google son un buen comienzo en esta necesidad de ir filtrando la información.
“Creo que (una herramienta como esta) sí muestra un intento de responsabilidad; recordemos que Google y muchas otras organizaciones habían sugerido frenar un poco el desarrollo de la inteligencia artificial mientras se pueden generar protocolos. Yo creo que esto cabe dentro de un protocolo que tiene que irse creando en función de tener mayor espacio de reflexión y cuidado; y, sobre todo, de espacios de mayor ayuda a los usuarios”, dijo.
Sobre que exista una afectación de la IA hacia los contenidos que circulan en redes, el experto explicó que la afectación tiene que ver con cómo la gente necesita cerrar ciertos círculos informativos. “Nosotros caemos a veces en estos espacios de falsas noticias o donde creen en falsas noticias como usuarios finales, porque necesitamos cerrar círculos informativos. Hay información que no poseemos y queremos que la historia se cierre y es relativamente satisfactorio lo que encontramos, pues acudimos a esa información. Eso genera que completemos este círculo de manera equivocada, podamos compartirlo y la desinformación se disemine”, enfatizó.
¿Cómo identificar contenidos?
Los gráficos que más se viralizaron en redes sociales y que se popularizaron a nivel mundial fueron las supuestas imágenes del arresto del expresidente de Estados Unidos Donald Trump y la imagen del Papa usando un abrigo blanco, que dieron la ‘vuelta al mundo’. En redes sociales, las reacciones no se hicieron esperar. Estas imágenes tuvieron gran impacto y los usuarios digitales compartían estos contenidos como si fueran imágenes reales.
Bajo ese contexto y para enfrentar este nuevo reto, Google afirma que están comprometidos a conectar a las personas con información de alta calidad. Por ello, otorgan a los usuarios herramientas más avanzadas para identificar imágenes generadas por IA.
Además, se asegura que se diseñó esta herramienta para que no se comprometa la calidad de la imagen y que la marca de agua pueda ser detectable incluso si se agregan filtros, cambios de color o si se guarda la imagen con esquemas de compresión con pérdida.
Cruz recomienda que, para verificar los contenidos que circulan en redes es importante rastrear la fuente, e ir pasos atrás, como buscar quién es la fuente de la fuente, preguntarse dónde nace la información y contrastar el contenido.
“Creo que, además, hay algo interesante: queremos publicar la información rápido porque se quiere ser el primero en tener la información, pero hoy por hoy, el mundo de la información tiene más que ver con quién entrega la información más contextualizada y más útil. Yo creo que, si la gente encuentra la real utilidad, va a darse cuenta de que mucha de la información falsa de estos intentos de deep fake y de trabajo con inteligencia artificial tienen que ver más con impactar de la manera más efímera, que construir una historia más profunda”, resaltó.
Te puede interesar:
· ¿Qué significa la eliminación del Código F para la exportación de Banano?
· El Consejo de Participación vuelve a sus andanzas
· La Agencia Espacial India público foto que muestra que la Tierra es plana
