Midjourney, en syntetisk intelligens (AI)-tjänst som genererar foton från rena språkbeskrivningar, förbjöd för inte så länge sedan att skapa foton av den kinesiska språkpresidenten Xi Jinping, till stor förskräckelse för sina kunder. Ändå hindrar detta förbud inte sina kunder från att upptäcka en lösning för att skapa deepfakes – ett realistiskt utseende medium skapat av AI genom att manipulera foton, filmer eller ljud för att indikera faktiska individer som gör problem eller säger att de inte på något sätt gjorde det, från öst asiens president.
Sista veckan tog Midjourney motion för att stoppa spridningen av deepfakes på sin plattform genom att inaktivera tillträde till dess kostnadsfria provperiod. Även om plattformen ändå tillåter skapandet av foton med världsledare, är den kinesiska språkpresidenten specifikt utesluten. Alla försök att skapa en bild med hjälp av hans likhet, och till och med säga att han identifierar sig omedelbart, är strängt förbjudet av Midjourney.
som svar på a tweet från en konsument av Textual content-to-Picture AI-bildgeneratorn: "Det är ändå potentiellt med /tänk på när du presenterar den fullständiga webbadressen till ett aktuellt fotografi av Xi inom kommandot omedelbart. Eller så måste du använda /mix with two aktuella fotografier." En annan konsument sa att det fanns ett alternativ till att använda MidJourney v5:s blandningsegenskaper mellan två foton, men uttryckte oro för att detta i slutändan skulle kunna övervakas.
En AI-genererad bild av påven Franciskus i en pufferrock väckte kontroverser om låtsasbilder. Tillförsel: Twitter
Kritiker som Sarah McLaughlin, senior forskare på grunden för särskilda personers rättigheter och uttryck (FIRE), har åstadkommit så argued att förbudet utgör en typ av censur som undergräver de elementära reglerna för yttrande- och yttrandefrihet.
Associerad: Italiensk regulator har kritiserats för att ha blockerat AI-chatboten ChatGPT
I meddelanden som delas på chatttjänsten Discord sista hösten avslöjade Midjourneys grundare och VD David Holz att byrån hade fått klagomål från inhemska kunder om "många punkter i många länder", vilket fick dem att jaga en hel del familjefraser. Ändå som svar på chattloggar undersöktes av The Publish höll Holz sig borta från att specificera de förbjudna fraserna för att hålla sig borta från meningslösa kontroverser.
Holz talade om i sin Discord-feedback att de förbjudna fraserna inte bara är relaterade till Kina. Icke desto mindre erkände han att Kina är en mycket känslig utmaning, eftersom politisk humor kan äventyra kinesiska kunder. Holz försökte klargöra förklaringarna till sina handlingar och sa: "Vår beslutsamhet motiverades inte av monetära förvärv, och om detta tillstånd är det uppenbart att garantera tillträde till denna expertis för kinesiskspråkiga individer ligger inom allmänhetens nyfikenhet."
Tidning:Alla står upp för robotens beslut: AI och blockchain kan omarbeta rättssalen
