Midjourney, en syntetisk etterretningstjeneste (AI) som genererer bilder fra rene språkbeskrivelser, forbød for ikke så lenge siden å lage bilder av kinesisk språkpresident Xi Jinping, til stor forferdelse for kundene. Ikke desto mindre stopper ikke dette forbudet kundene sine i å finne en løsning for å lage deepfakes – et realistisk medium laget av AI ved å manipulere bilder, filmer eller lyd for å indikere faktiske individer som gjør problemer eller sier at de på ingen måte gjorde det, fra øst asiatisk president.
Siste uke tok Midjourney et forslag om å stoppe spredningen av deepfakes på plattformen sin ved å deaktivere adgangen til den gratis prøveversjonen. Selv om plattformen likevel tillater å lage bilder med verdensledere, er den kinesiske språkpresidenten spesifikt ekskludert. Ethvert forsøk på å lage et bilde ved å bruke hans likhet, og til og med å si hans identitet umiddelbart, er strengt forbudt av Midjourney.
som svar på a tweet fra en forbruker av Textual content-to-Picture AI-bildegeneratoren: "Det er likevel potensial med /tenk på når du presenterer den fullstendige URL-en til et nåværende fotografi av Xi i kommandoen umiddelbart. Eller du må bruke /mix with two nåværende bilder." En annen forbruker sa at det var et alternativ til å bruke MidJourney v5s blandingskarakteristikk mellom to bilder, men uttrykte bekymring for at dette til slutt kan bli overvåket.
Et AI-generert bilde av pave Frans i en pufferfrakk utløste kontroverser om fremskritt i bilder. Forsyning: Twitter
Kritikere som Sarah McLaughlin, seniorforsker på grunnlaget for spesielle personrettigheter og uttrykk (FIRE), har oppnådd det argumentert at forbudet utgjør en type sensur som undergraver ytrings- og ytringsfrihetens elementære regler.
Assosiert: Italiensk regulator har blitt kritisert for å blokkere AI-chatbot ChatGPT
I meldinger som ble delt på chat-tjenesten Discord siste høst, avslørte Midjourney-grunnlegger og administrerende direktør David Holz at byrået hadde mottatt klager fra innfødte kunder om «mange punkter i mange nasjoner», og fikk dem til å jakte på ganske mange familiefor å demme fraser. Likevel, som svar på chat-logger undersøkt av The Publish, holdt Holz unna å spesifisere de forbudte frasene for å holde seg unna meningsløs kontrovers.
Holz snakket om i sin Discord-tilbakemelding at de forbudte frasene ikke bare er relatert til Kina. Ikke desto mindre erkjente han at Kina er en veldig delikat utfordring, ettersom politisk humor kan sette kinesiske språkkunder i fare. Holz prøvde å belyse forklaringene for handlingene sine, og sa: "Vår besluttsomhet var ikke motivert av pengeanskaffelse, og i denne tilstanden er det tydelig at det å garantere adgang til denne ekspertisen for kinesiskspråklige individer er innenfor den offentlige nysgjerrigheten."
Tidsskrift:Alle står opp for robotavgjørelsen: AI og blockchain kan omarbeide rettssalen
