Recientemente, en algunas ocasiones el arte que utilizamos en marketing y piezas de juegos se ha puesto bajo el escrutinio de la opinión pública, entre otras cosas, por la posible inclusión de IA generativa. Durante este tiempo, hemos cometido errores y, al mismo tiempo, nos hemos encontrado con la identificación errónea de artistas y de sus trabajos como problemáticos en diversos sentidos.
En consecuencia, compartimos una sección de preguntas frecuentes que aborda cómo evaluamos y respondemos a las inquietudes sobre la IA generativa en relación con el arte encargado tanto para Magic: The Gathering como para Dungeons & Dragons, antes y después de su publicación. La IA generativa es un espacio en constante evolución y estas preguntas frecuentes se revisarán periódicamente para reflejar lo que estamos aprendiendo junto con el resto del mundo.
¿Cuáles son sus políticas en torno al arte?
Ambas marcas tienen sus propios manuales para los artistas. Estos no son documentos públicos, pero a cada artista que trabaja con nosotros se le entrega una copia y se espera que cumpla las pautas.
La esencia de nuestra política es la siguiente: Magic y D&D se construyeron sobre la base de la innovación, el ingenio y el trabajo duro de personas talentosas que dan vida a estos juegos tan cautivadores como creativos. Por lo tanto, necesitamos que los artistas, escritores y creativos que contribuyan al juego de cartas intercambiables Magic y al juego de rol de mesa D&D se abstengan de usar herramientas de IA generativa para crear los productos finales de ambos juegos.
También hemos hecho algunas otras declaraciones públicas, lo que incluye dos comunicados recientes acerca de nuestra política sobre uso de la IA generativa en el arte de los productos de Magic: The Gathering (que también se incluye en nuestros manuales para artistas):
https://magic.wizards.com/en/news/announcements/generative-artificial-intelligence-tools-and-magic
https://magic.wizards.com/en/news/announcements/an-update-on-generative-ai-tools-and-magic
así como declaraciones similares de Dungeons & Dragons:
https://www.dndbeyond.com/posts/1642-updated-statement-on-ai
https://twitter.com/DnDBeyond/status/1736861131149648167
¿Con qué herramientas cuentan para detectar el uso de IA generativa?
Evaluamos periódicamente recursos que podríamos utilizar para ayudarnos a detectar la IA generativa. Para nosotros es importante seguir contando con un "humano involucrado" a pesar de todo, especialmente porque estas herramientas son bastante nuevas.
(Agregado 6/12/24) Para fortalecer aún más nuestro compromiso con los artistas y creativos que les brindan su talento a nuestros juegos, estamos invirtiendo en un programa piloto con la plataforma de detección de IA Artistree para desarrollar e implementar una herramienta de detección de IA personalizada. Ahora que la IA generativa se está volviendo algo normal en herramientas como Photoshop, sabemos que incluso para los artistas su uso a veces puede ser difícil de detectar. El proyecto de Certificación Humana de Artistree se construye junto con artistas y creativos especializados en detectar la autoría humana durante el desarrollo de activos, así como el uso no autorizado de IA generativa.
¿Cómo manejarán una situación en la que una obra de arte ha utilizado IA generativa y no ha sido detectada por sus procesos o herramientas internas?
El proceso de investigación es muy similar. Recopilamos toda la información que tenemos (tanto de informes privados como públicos), volvemos a revisar la obra, volvemos a ejecutar nuestras herramientas y volvemos a contactarnos con el artista que creó la obra. A menudo, si el discurso público es el lugar donde se descubre por primera vez una violación creíble de nuestra política artística, podemos emitir un comunicado.
¿Por qué no muestran transparencia con respecto del uso de la IA?
Tratamos de ser lo más transparentes posible, pero no a costas de la privacidad ni del sustento de las personas. Nuestros artistas se exponen a sí mismos y su reputación con cada pieza que producen, y nuestra prioridad es proteger su privacidad siempre que sea posible. Esto significa que no todo discurso público sobre el uso de la IA generativa en las obras dará lugar a un comunicado público de nuestra parte.
Dicho esto, hemos sido y seguiremos siendo claros en cuanto a que no permitimos el uso de IA generativa en nuestras obras. Si bien la detección puede ser difícil y las líneas divisorias borrosas, estamos trabajando arduamente para asegurarnos de que nuestro arte esté hecho por los talentosos humanos que han deleitado a nuestros fanáticos durante décadas.
[Cierta obra] no me cabe duda de que se generó con IA. ¿Por qué no hacen algo al respecto?
Es posible que no respondamos al discurso por Internet sobre el arte generado con IA por diversas razones, que incluyen, entre otras, las siguientes:
- Nuestra investigación reveló que no se utilizó IA generativa.
- Para proteger la privacidad de una o más personas.
- La investigación no fue concluyente.
- Hicimos cambios internos, como negarnos a seguir trabajando con un artista, pero no hicimos comentarios públicos.
Nuestra preferencia es manejar el asunto y la relación con el artista de forma interna, siempre que sea posible. Cuando eso no sea posible, nuestro objetivo es ser claros y concisos y, con suerte, evitar más polémica sobre el tema, tanto para el artista en cuestión como para nosotros.
Parece que ya no trabajan con [cierto artista], pero no han dicho nada al respecto. ¿Por qué?
Las relaciones de trabajo con los artistas pueden cambiar por diversos motivos: desde una decisión de un artista de avanzar en otra dirección hasta que nuestros estilos en evolución no coincidan. A veces los artistas no producen arte para Magic durante años antes de regresar.
Vi o leí que [otra marca de Hasbro] está utilizando IA generativa o utilizará IA generativa. ¿Por qué el caso de Magic y D&D es diferente?
Hasbro tiene una amplia cartera de más de 1900 marcas, entre las que se encuentran Magic: The Gathering y Dungeons & Dragons, que son dos marcas muy importantes y apreciadas. Cada marca va a abordar sus productos de forma diferente. Lo que es mejor para Trivial Pursuit es probablemente bastante diferente de lo que es mejor para Magic: The Gathering o Dungeons & Dragons.
Si hubiese una única conclusión que sacar de estas preguntas frecuentes, ¿cuál debería ser?
Los seres humanos cometen errores, ya sea que se trate de un conglomerado de seres humanos (como una empresa) o de un solo ser humano (como un artista). En el forcejeo entre la perfección y la transparencia, hemos pecado en cuanto a la transparencia. Como ya hemos indicado exhaustivamente, hemos sido coherentes en cuanto a nuestra posición con respecto de la IA generativa en el arte de Magic: The Gathering y Dungeons & Dragons, y queremos que nuestra comunidad sepa que estamos trabajando para garantizar que pueda vernos deliberando sobre la mejor manera de cumplir con ese compromiso, incluso si todos tropezamos en el camino de vez en cuando.