Las imágenes de IA están apareciendo por todas partes. En algunos casos funciona, en otros es simplemente feo (ver la primera película romántica del mundo generada por IA) y en otros es tremendamente inapropiado. Las acusaciones recientes contra Netflix caen en este último campo.
Dado que una de las grandes preocupaciones en torno a la generación de imágenes de IA es la cuestión de la autenticidad y las noticias falsas, un documental sobre crímenes reales no es realmente el lugar para mostrar la nueva tecnología. Sin embargo, los espectadores de What Jennifer Did de Netflix sospechan que han visto algunos ejemplos bastante flagrantes de exactamente eso.
¿Podría la IA haber tenido algo que ver en esto? El extraño aspecto de las manos de Pan podría ser el resultado de la mejora, la eliminación de ruido y la nitidez de la IA (Crédito de la imagen: Netflix)
What Jennifer Did es un documental de Netflix sobre Jennifer Pan, quien fue condenada por contratar a alguien para matar a sus padres (su padre fue asesinado mientras su madre resultó herida pero sobrevivió). Alrededor de los 30 minutos del programa, la descripción de Jennifer por parte de un amigo del instituto va acompañada de una serie de imágenes que asumiríamos que son fotografías de la época.
Pero al observar más de cerca las imágenes, los espectadores han detectado lo que parecen ser signos reveladores de manipulación de imágenes que se parecen sospechosamente a los resultados de la generación de imágenes de IA. Una foto mostraba a Pan haciendo el gesto de V de victoria, pero parece que le faltan dedos y su pulgar parece extrañamente largo. En otra imagen sospechosa, Pan parece tener un diente alargado, una oreja deformada y un hueco en la mejilla derecha.
Aquí parece haber un hueco en la mejilla de Pan. (Crédito de la imagen: Netflix)
Entonces, ¿Netflix realmente simplemente fabricó las imágenes usando IA? Algunas publicaciones han sugerido que las imágenes pueden ser variaciones generadas por IA a partir de una imagen original de Pan. Si ese fuera el caso, sería tremendamente inapropiado, pero no estoy convencido de que eso sea lo que sucedió.
Al momento de escribir este artículo, Netflix aún no ha respondido a la controversia, pero sospecho que los realizadores de documentales pueden haber intentado mejorar imágenes antiguas de baja resolución utilizando software de restauración de fotos o escalado impulsado por IA para intentar que se vean más claras en una pantalla de televisión. . El problema es que incluso el mejor software de IA sólo puede tomar imágenes de mala calidad hasta el momento, y dichos programas tienden a afinar demasiado ciertas líneas, lo que genera artefactos extraños.
Incluso si ese fuera el caso, sigo pensando que Netflix debería haberse mantenido alejado dado el contexto y la controversia en torno a las imágenes de IA. Al menos debería haber usado una aclaración que dijera que las imágenes habían sido mejoradas, nítidas o eliminadas por la IA o lo que sea para evitar este tipo de reacción. Cualquier tipo de manipulación de fotografías en un documental es controvertida porque el objetivo es presentar las cosas tal como eran. Claro, las representaciones de artistas se han utilizado durante mucho tiempo en los reportajes sobre delitos, por ejemplo para mostrar procedimientos judiciales cuando las cámaras están prohibidas, pero está claro que son representaciones y deberían etiquetarse como tales.
La debacle del Photoshop de Kate Middleton ha demostrado hasta qué punto las imágenes en los medios pueden ser desmenuzadas, y también hemos visto que el público está alerta y listo para denunciar imágenes de IA dondequiera que aparezcan: desde artículos científicos dudosos hasta Uber Eats y un cuestionario de Lego. Ante la abundancia de teorías de conspiración, Netflix realmente tiene que trabajar para demostrar que tiene estándares.
