Midjourney, en syntetisk efterretningstjeneste (AI), der genererer fotos ud fra rene sprogbeskrivelser, forbød for ikke så længe siden at lave fotos af den kinesiske sprogpræsident Xi Jinping, til stor forfærdelse for sine kunder. Ikke desto mindre forhindrer dette forbud ikke sine kunder i at finde en løsning til at skabe deepfakes – et realistisk udseende medie skabt af AI ved at manipulere fotos, film eller lyd for at indikere faktiske personer, der laver problemer eller siger, at de på ingen måde gjorde det, fra øst asiens præsident.
I sidste uge tog Midjourney beslutning om at stoppe spredningen af deepfakes på sin platform ved at deaktivere adgangen til dens gratis prøveperiode. Selvom platformen ikke desto mindre tillader oprettelse af fotos med verdensledere, er den kinesiske sprogpræsident specifikt udelukket. Ethvert forsøg på at skabe et billede ved at bruge hans lighed, og endda at sige hans identitet med det samme, er strengt forbudt af Midjourney.
som svar på a tweet fra en forbruger af Textual content-to-Picture AI-billedgeneratoren: "Det er ikke desto mindre potentielt med /tænk på, når du præsenterer den komplette URL på et aktuelt fotografi af Xi i kommandoen med det samme. Eller du skal bruge /mix med to aktuelle billeder." En anden forbruger sagde, at der var et alternativt valg til at bruge MidJourney v5s blandingskarakteristik mellem to fotos, men udtrykte bekymring for, at dette i sidste ende kunne overvåges.
Et AI-genereret billede af pave Frans i en pufferfrakke udløste kontroverser om foregivne billedfremskridt. Levere: Twitter
Kritikere som Sarah McLaughlin, seniorforsker om grundlaget for særlige personrettigheder og udtryk (FIRE), har opnået det argumenteret at forbuddet udgør en form for censur, der underminerer de elementære regler for ytrings- og ytringsfrihed.
Tilknyttet: Italiensk regulator er blevet kritiseret for at blokere AI-chatbot ChatGPT
I beskeder, der blev delt på chattjenesten Discord sidste efterår, afslørede Midjourneys grundlægger og administrerende direktør David Holz, at agenturet havde modtaget klager fra indfødte kunder om "adskillige punkter i adskillige nationer", hvilket fik dem til at jage en hel del familie-for-dæmper-sætninger. Ikke desto mindre som svar på chatlogs undersøgt af The Publish holdt Holz sig væk fra at specificere de forbudte sætninger for at holde sig væk fra meningsløs kontrovers.
Holz talte om i sin Discord-feedback, at de forbudte sætninger ikke blot er relateret til Kina. Ikke desto mindre erkendte han, at Kina er en meget delikat udfordring, da politisk humor kan bringe kinesiske sprogkunder i fare. Holz forsøgte at belyse forklaringerne på sine handlinger, idet han sagde: "Vores beslutsomhed var ikke motiveret af monetære erhvervelser, og i denne situation er det tydeligt, at det er inden for offentlighedens nysgerrighed at garantere adgang til denne ekspertise for kinesisksprogede personer."
Tidsskrift:Alle står op for robotbeslutningen: AI og blockchain kan omarbejde retssalen
