Midjourney, un service d'intelligence synthétique (IA) qui génère des photos à partir de descriptions en langage pur, a récemment interdit de créer des photos du président chinois Xi Jinping, au grand désarroi de ses clients. Cependant, cette interdiction n'empêche pas ses clients de découvrir une solution de contournement pour créer des deepfakes – un support d'aspect réaliste créé par l'IA en manipulant des photos, des vidéos ou de l'audio pour indiquer que des personnes réelles font des problèmes ou disent qu'elles ne l'ont jamais fait, de l'est président asiatique.
La semaine dernière, Midjourney a pris des mesures pour arrêter la prolifération de deepfakes sur sa plate-forme en désactivant l'accès à son essai gratuit. Bien que la plateforme permette toujours la création de photos avec des dirigeants mondiaux, le président chinois est spécifiquement exclu. Toute tentative de créer une image utilisant sa ressemblance, et même de dire son identité dans un instant, est strictement interdite par Midjourney.
en réponse à un Tweet d'un utilisateur du générateur d'images Textual content-to-Picture AI : "C'est toujours possible avec /pensez quand vous présentez l'URL complète d'une photo actuelle de Xi dans la commande immédiate. Ou vous devez utiliser /mix avec deux photographies actuelles. Un autre utilisateur a déclaré qu'il existait une alternative à l'utilisation de la fonction de mixage de MidJourney v5 entre deux photos, mais a exprimé sa crainte que cela ne soit éventuellement ignoré.
Une image générée par l'IA du pape François dans une doudoune a suscité la controverse sur les prétendues avancées d'images. Fournir: Twitter
Des critiques comme Sarah McLaughlin, chercheuse principale sur la base des droits et de l'expression des personnes particulières (FIRE), ont accompli cela argumenté que l'interdiction constitue un type de censure qui sape les règles élémentaires de la liberté de parole et d'expression.
Associé: Le régulateur italien a été critiqué pour avoir bloqué le chatbot AI ChatGPT
Dans des messages partagés sur le service de chat Discord l'automne dernier, le fondateur et PDG de Midjourney, David Holz, a révélé que l'agence avait reçu des plaintes d'utilisateurs locaux concernant "de nombreux points dans de nombreux pays", les incitant à rechercher de nombreuses phrases familiales. Néanmoins, en réponse aux journaux de chat examiné de The Publish, Holz s'est abstenu de détailler les phrases interdites pour éviter les controverses inutiles.
Holz a mentionné dans ses commentaires sur Discord que les phrases interdites ne sont pas simplement liées à la Chine. Néanmoins, il a reconnu que la Chine est un défi très délicat, car l'humour politique peut mettre en danger les clients de langue chinoise. Holz a tenté d'élucider les raisons de ses actions, en disant: "Notre décision n'était pas motivée par l'argent, et dans cette situation, il est évident que garantir l'accès à cette expérience pour les personnes de langue chinoise est dans l'intérêt du public."
Journal:Tout le monde défend la décision robotique : l'IA et la blockchain pourraient retravailler la salle d'audience