OpenAI zvažuje povolení AI porna

OpenAI může uživatelům umožnit vytvářet obsah pro dospělé pomocí AI

OpenAI zkoumá možnost umožnit uživatelům „zodpovědně“ vytvářet obsah pro dospělé prostřednictvím produktů, jako jsou GPT a Dall-E. Podle společnosti obsah pro dospělé znamenají „erotiku, násilné scény, urážky a obscénní jazyk“. OpenAI zároveň zdůraznilo, že zákaz vytváření deepfakeů bude i nadále platit pro materiály pro dospělé.

Kritici tvrdí, že návrh je v rozporu s posláním společnosti vytvořit „bezpečnou a užitečnou“ AI. Šíření obsahu generovaného umělou inteligencí ve věku 18+ vzbuzuje obavy, zejména s ohledem na nedávný příliv hluboce falšovaných celebrit online.

Věříme, že vývojáři a uživatelé by měli mít možnost používat naše služby tak, jak uznají za vhodné, pokud dodržují zásady používání. Zkoumáme, zda můžeme poskytnout možnost generovat obsah NSFW (Not Safe For Work) prostřednictvím rozhraní API a ChatGPT. Doufáme, že lépe pochopíme očekávání uživatelů a komunity ohledně chování modelu v této oblasti.

Návrh byl zveřejněn ve středu v rámci diskusí o budoucích plánech na vývoj nástrojů AI.

„Chceme zajistit, aby lidé měli co největší kontrolu, pokud to neporušuje zákon nebo práva ostatních, ale povolení deepfakes nepřipadá v úvahu (c) Joan Jang, zaměstnankyně OpenAI v San Francisco

• Blog BotHub
• Umělá inteligence

Tvůrci ChatGPT a DALL-E chtějí umožnit generování erotiky pomocí AI

Společnost OpenAI Sama Altmana, která vytvořila AI chatbota ChatGPT a AI generátor obrázků DALL-E, zvažuje možnost legálního vytváření pornografie pomocí neuronových sítí. Informoval o tom The Guardian s odkazem na prohlášení OpenAI.

Nyní společnost přemýšlí o tom, jak a komu poskytnout přístup ke generaci AI porna. OpenAI nazývá takový obsah „not-safe-for-work“ nebo NSFW. Takový obsah může zahrnovat sexuální obsah, násilí, zneužívání a vulgární výrazy.

Zkoumáme, zda můžeme zodpovědně poskytnout schopnost generovat obsah NSFW v kontextu odpovídajícím věku Chceme lépe porozumět očekáváním společnosti ohledně chování modelů umělé inteligence v této oblasti.

Joan Jang, mluvčí OpenAI, sdělila, že společnost může povolit vytváření erotických textů a obrázků, ale deepfakes budou rozhodně zakázány, aby bylo zajištěno, že obsah AI a jeho tvůrci neporušují práva jiných lidí.

O povolení deepfakes nemůže být řeč.

OpenAI uvedla, že existují „kreativní případy, kdy se nahota a obsah související se sexualitou stal pro uživatele relevantní“.

V květnu 2024 Sam Altman řekl, že umělá inteligence by skutečně mohla vést k masivnímu propouštění. Možná Sam měl částečně na mysli pornoprůmysl.