Las técnicas utilizadas para analizar galaxias distantes dejan de ser exclusivas de la astronomía para ahora ayudar a identificar deepfakes y fotografías generadas por Inteligencia Artificial (IA). Una investigación de la Universidad de Hull, en el Reino Unido, ha demostrado que el análisis del comportamiento de la luz sobre superficies curvas es un método prometedor para desmentir información en las redes sociales.
Aunque el rostro y la voz de los personajes que se ven en una pantalla pueden ser imitados, todavía no existe una tecnología capaz de simular con precisión la física del brillo en los ojos. El método propuesto por el Centro de Excelencia para la Ciencia de Datos, Inteligencia Artificial y Modelado, de la Universidad de Hull, sugiere utilizar el reflejo de la luz en los globos oculares como una prueba para determinar si las imágenes son creadas por una IA o son auténticas.
Para medir la consistencia física en el reflejo de la luz en los ojos, el científico Adejumoke Owolabi empleó el sistema CAS (Concentration, Asymmetry, and Smoothness) y el índice Gini. Ambas técnicas permiten a los astrónomos estructurar la luz proveniente de objetos distantes en el espacio y asignarles una magnitud, incluso cuando toda la información está contenida en unos pocos píxeles. El sistema CAS cuantifica la concentración de luz, suavidad y simetría de un objeto, mientras que el índice Gini registra la desigualdad en la distribución de la luz. Cuando se unen, es posible determinar si una galaxia está interactuando con otra cercana o si tiene un núcleo activo.
¿Y ahora cómo sabrás si las fotos de la Met Gala son reales o deepfakes?Las imágenes deepfake de looks de famosas y famosos generadas por inteligencia artificial están de moda en las redes sociales.
La física de la reflexión de la luz
El método desarrollado por Owolabi logró predecir deepfakes e imágenes generadas por IA con un 70% de precisión. La sofisticación de estas técnicas permitió detectar inconsistencias físicas en las fotos falsas al considerar la reflexión en los ojos derecho e izquierdo. Aunque las primeras pruebas no son tan precisas como el científico quisiera, su investigación abre un nuevo camino hacia la certificación de la información. Según Nature, el trabajo de Owolabi aún no se ha publicado, pero fue presentado durante la Reunión Nacional de Astronomía de la Real Sociedad Astronómica del Reino Unido el pasado 15 de julio.
Las deepfakes y las imágenes generadas por IA se vuelven más reales a medida que se perfeccionan aplicaciones como DALL-E o Midjourney. La normalización y simplicidad de su uso han generado importantes controversias a nivel global. Expertos en información digital han reafirmado que esta tecnología tiende a utilizarse con fines de desestabilización política, propaganda, pornografía y estafas.
¡Únete al WIRED Summit 2024! Explora el futuro de la tecnología y redes con los mejores líderes de la industria.
Ante la proliferación de imágenes falsas y la suplantación de identidad, se ha vuelto necesario desarrollar métodos que permitan certificar la autenticidad de la información que circula en internet. Existen directrices básicas para detectar deepfakes, independientemente del generador que los produzca. Elementos como la simetría, las texturas o los movimientos de un cuerpo revelan la artificialidad de una imagen. Además, todavía hay factores que los generadores de contenido no dominan por completo, como la cantidad o forma de los dedos y la consistencia de la iluminación en una escena.
Fuente: Wired
Sea el primero en comentar en "Una técnica para la exploración espacial podría ser clave para identificar deepfakes en internet"