Midjourney, un servicio de inteligencia artificial (IA) que genera imágenes a partir de descripciones en lenguaje puro, prohibió recientemente la creación de imágenes del presidente chino, Xi Jinping, para consternación de sus usuarios. Sin embargo, esta prohibición no impide que sus usuarios encuentren una solución para crear falsificaciones profundas, un medio de apariencia realista creado por IA mediante la manipulación de fotos, videos o audio para indicar que las personas reales están haciendo cosas o dicen que nunca lo hicieron, desde el este presidente asiático.
La semana pasada, Midjourney tomó medidas para detener la proliferación de falsificaciones profundas en su plataforma al deshabilitar el acceso a su versión de prueba gratuita. Aunque la plataforma aún permite la creación de fotos con líderes mundiales, el presidente chino está específicamente excluido. Cualquier intento de crear una imagen utilizando su imagen, e incluso decir su nombre de inmediato, está estrictamente prohibido por Midjourney.
en respuesta a un Tweet de un usuario del generador de imágenes AI Textual content-to-Picture: "Sin embargo, es posible con / pensar cuando presenta la URL completa de una foto actual de Xi en el comando inmediato. O necesita usar / mezclar con dos fotografías actuales.” Otro consumidor dijo que había una opción alternativa a usar la característica de mezcla de MidJourney v5 entre dos fotos, pero expresó su preocupación de que esto finalmente podría pasar desapercibido.
Una imagen generada por IA del Papa Francisco con un abrigo acolchado generó controversia sobre los avances de imágenes ficticias. Suministrar: Twitter
Críticos como Sarah McLaughlin, investigadora principal de Basis for Particular person Rights and Expression (FIRE), han logrado tanto argumentó que la prohibición constituye un tipo de censura que atenta contra las reglas elementales de la libertad de palabra y de expresión.
Asociado: El regulador italiano ha sido criticado por bloquear el chatbot de IA ChatGPT
En mensajes compartidos en el servicio de chat Discord el otoño pasado, el fundador y director ejecutivo de Midjourney, David Holz, reveló que la agencia había recibido quejas de clientes locales sobre "numerosos problemas en varios países", lo que los llevó a buscar muchas palabras familiares. Sin embargo, en respuesta a los registros de chat examinado de The Publish, Holz evitó enumerar las palabras prohibidas para evitar controversias sin sentido.
Holz mencionó en sus comentarios de Discord que las frases prohibidas no solo están relacionadas con China. No obstante, reconoció que China es un desafío muy delicado, ya que el humor político puede poner en peligro a los consumidores chinos. Holz trató de aclarar las razones de sus acciones y dijo: "Nuestra determinación no estuvo motivada por una ganancia monetaria, y en este estado de cosas, es evidente que garantizar el acceso a esta tecnología para las personas chinas está dentro del interés público".
Diario:Todos defienden la decisión robótica: la IA y la cadena de bloques pueden modificar la sala del tribunal
