Un ex fotógrafo de la Casa Blanca, sospecha que Instagram está identificando nuevas herramientas de la empresa de software para imágenes Adobe como inteligencia artificial.
Meta utiliza una extensa base de datos para identificar cuando una foto fue generada con IA (Foto: Reuters).
Algunos fotógrafos se han quejado de que Meta está etiquetando fotos tomadas por ellos mismos con la marca "Hecho con IA", que señala cuando una imagen ha sido generada con inteligencia artificial.
Pete Souza, ex fotógrafo de la Casa Blanca norteamericana, también ha sido afectado por este proceso erróneo de etiquetado, pero señala que es probable que el algoritmo de Instagram pueda reconocer cuándo se ha editado una fotografía real con herramientas de Adobe.
Souza alertó que Adobe modificó el funcionamiento de su herramienta de recorte, requiriendo "aplanar" la imagen antes de guardarla en formato JPG, en vez de salvarla conservando cada capa por separado. Sospecha que este cambio ha llevado al algoritmo de Meta a etiquetar incorrectamente las imágenes.
El fotógrafo le dijo que es molesto que Instagram lo haya obligado a incluir "Hecho con IA", a pesar de que él mismo desmarcó esa opción.
Souza mostró su enfado porque Instagram no permite desmarcar la etiqueta de IA (Foto: Pete Souza / Instagram).
Cuáles son las quejas de los fotógrafos
Otro fotógrafo, conocido bajo el seudónimo Faded LoFi Dreams en Instagram, también mostró su enfado hacia la red social. En Threads dijo "no se usó ni un poco de relleno generativo en ninguno de estas imágenes porque odio la IA, así que esto es bastante preocupante" cuando descubrió algunas fotos suyas habían sido etiquetadas con IA.
Noah Kalina, quien ha trabajado para empresas como Google, Gucci y Levi’s, dijo en Threads: "Instagram etiqueta automáticamente una foto como hecha con IA cuando detecta que el relleno generativo es incorrecto y malo y, en última instancia, hará más daño que bien".
"Si las fotos retocadas están hechas con IA, entonces ese término efectivamente no tiene significado. También podrían etiquetar automáticamente cada fotografía como 'No es una verdadera representación de la realidad' si realmente quieren proteger a las personas", agregó.
Básicamente, Kalina argumentó que editar una foto con una herramienta de retoque o mejora no debería ser motivo suficiente para aplicar esa etiqueta.
Qué es la etiqueta "Hecho con IA"
Meta no ha respondido a las denuncias de los fotógrafos, pero su su página de soporte se indica que "cualquier contenido que contenga señales estándar de la industria generadas por IA se etiquetará como 'Hecho con IA'. Esto incluye contenido creado o editado utilizando herramientas de inteligencia artificial de terceros. También incluye contenido creado con las herramientas de inteligencia artificial de Meta, descargado y luego subido a Facebook, Instagram y Threads".
Fotógrafos señalan que una imagen editada no debería siempre etiquetada por Instagram. (Foto: Noah Kalina).
Asimismo, comparte algunos ejemplos acerca de cuando se debe etiquetar un contenido con "Hecho con IA":
• Un video que parece realista de un grupo de personas caminando por un mercado al aire libre.
• Una canción creada con voces generadas por IA.
• Un reel narrado con una voz en off realista generada por IA
Ejemplos de contenido creado digitalmente que no requiere etiqueta:
• Video de un paisaje al aire libre, creado con un estilo que recuerda a un dibujo animado.
• Video que ha sido editado sólo con cambios menores de tamaño y recorte.
En una entrada al blog de Meta de febrero de 2024 de febrero, la compañía mencionó que utilizaba metadatos de imágenes para detectar la etiqueta.
"Estamos creando herramientas líderes en la industria que pueden identificar marcadores invisibles a escala (específicamente, la información 'generada por IA' en los estándares técnicos C2PA e IPTC ) para que podamos etiquetar imágenes de Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock".
En el mismo comunicado, Meta indicó la posibilidad de adelantar amonestaciones si un usuario que utilizó IA no utiliza la etiqueta. "Exigiremos que las personas utilicen esta herramienta de divulgación y etiquetado cuando publiquen contenido orgánico con un video fotorrealista o un audio con sonido realista que haya sido creado o alterado digitalmente, y podemos aplicar sanciones si no lo hacen", dijeron.
La polémica continúa, y día a día nos enteramos de casos que demuestran que, a veces y en algunos casos peligrosamente , la IA no es tan inteligente como se supone.
(Fuente: Infobae).