OpenAI, kompania pas Chat GPT po diskuton nëse përdoruesit duhet të lejohen të krijojnë materiale pornografike nga Inteligjenca Artificiale dhe përmbajtje të tjera eksplicite. Propozimi u publikua të mërkurën si pjesë e një dokumenti të OpenAI që provon funksione të reja të Inteligjencës Artificiale.
Për materialet për të rritur, aktivistët dolëm kundër. Sipas tyre ky propozim minon misionin e Open AI për të krijuar përmbajtje të sigurt dhe të dobishëm për përdoruesit.
Joanne Jang, një punonjëse në kompaninë me bazë në San Francisko, e cila ka punuar në këtë dokument deklaroi nga ana tjetër se Open AI nuk e ka konfirmuar ende, por është duke diskutuar nëse gjenerimi i teksteve erotike dhe imazheve nudo duhet të lejohet në AI.
“Ne duam të sigurojmë që njerëzit të kenë kontroll maksimal deri në atë masë që nuk shkel ligjin ose të drejtat e njerëzve të tjerë. Kjo nuk do të thotë se ne po përpiqemi tani të krijojmë porno me AI” tha Jang.
Mirëpo ky zhvillim i fundit po has kundërshti nga organizata bamirëse dhe disa shtete. Në Mbretërinë e Bashkuar, Partia Laburiste po shqyrton një ndalim të mjeteve të nudifikimit që krijojnë imazhe lakuriq të njerëzve
Fondacioni Internet Watch, një organizatë bamirëse që mbron fëmijët nga abuzimi seksual në internet, ka paralajmëruar se pedofilët po përdorin AI për të krijuar imazhe nudo të fëmijëve, duke përdorur versione të teknologjisë që janë të disponueshme falas në internet.
Beeban Kidron, një koleg dhe aktivist për sigurinë e fëmijëve në internet, akuzoi OpenAI se po minon misionin e tij për të mos cenuar sigurinë e përdoruesve.
