DALL-E 3 Sanitace umění a kultury prostřednictvím cenzury obsahu
Vývoj DALL-E 3 naznačuje pečlivé doladění tohoto generativního modelu umělé inteligence. Zatímco v minulosti jsme zaznamenali podobné změny, jako např Midjourneypečlivý trénink, změny, ke kterým dochází v rámci DALL-E jsou znatelně hlubší.
Zdá se, že DALL-E 3 se odklání od určitých témat. Vyhýbá se generování obsahu spojeného s pohlavím a při zmínce o „krvi“ se pokouší o kreativní transformaci v zářivé duhy. Jakýkoli náznak násilí spustí kompletní překreslení obrazu, což naznačuje hlubokou analýzu jeho výstupu. Zdá se dokonce, že model nahrazuje obsah pro dospělé zobrazením starověkého umění, to vše při zachování a přístup podobný cenzuře.
V některých ohledech nám to připomíná klasický vtip, kdy předmět existuje, ale jeho jméno zůstává nevyslovitelné. Zdá se, že DALL-E 3 předvádí podobný výkon a kreativně uhýbá citlivým subjektům.
Tým OpenAI čelí hrozivé výzvě – hrát roli de facto bohů v říši AI. Jejich úkol je podobný snaze utvářet a ovládat samotnou podstatu kultury, složitého a hluboce zakořeněného aspektu lidské existence, který trvá staletí a často se prolíná s náboženstvím.
Téma kultury je rozsáhlé a mnohostranné a my se nyní zaměříme na současnou kulturní krajinu. Stojí za to zamyslet se nad převládajícími tématy v naší stávající kultuře, která často zahrnují prvky násilí, nahoty, sexuality a černého humoru. Filmy, umění a literatura se často ponoří do těchto oblastí a odrážejí bohatou tapisérii lidského vyjádření.
OpenAIZdá se však, že jde jinou cestou – zavřením očí, abych tak řekl, ve snaze zablokovat určité aspekty kultury. Je to skoro, jako by se snažili chovat, jako by tyto prvky neexistovaly. Zdá se, že vytvářejí AI, která vnímá obrázky a text spíše hygienickým způsobem, postrádá hloubku a složitost lidské kultury.
Na první pohled by se to dalo předpokládat OpenAI si klade za cíl vytvořit novou, očištěnou kulturu. Když se však do tohoto tématu ponoříme hlouběji, je jasné, že jejich cílem není přetvářet kulturu, ale spíše popírat jeho existenci. Jako by chtěli, aby tyto obrázky a texty byly pouhými vizuálními podněty, bez jakéhokoli podstatného emocionálního nebo myšlenkového obsahu.
Důvod tohoto přístupu pravděpodobně pramení z výzvy řízení emocí v obsahu generovaném AI. Emoce vyžadují uznání, předvídání a někdy i omezení. Je to komplexní a eticky náročná snaha orientovat se ve spektru lidských emocí, zejména pokud jde o citlivá témata, jako je nahota nebo násilí.
Děsivé předpovědi Stanislawa Lema
Stanislaw Lem, vizionářský autor knihy „Návrat z hvězdZdá se, že předvídal etický hlavolam, který dnes sužuje oblast umělé inteligence. Lem ve svém románu zobrazil svět, kde byla agrese vymýcena očkováním, což vedlo k nepředvídatelným následkům. Zde je pár citátů z book abychom prozkoumali, jak rezonují se současným diskursem o „vyrovnání“ generativních modelů umělé inteligence.
V jedné pasáži Lem píše: „Podívejte se na pár melodramat a pochopíte, jaká jsou současná kritéria pro erotický výběr. Nejdůležitější je mládí." To děsivě odráží posedlost současné společnosti mládím a krásou. Ve světě umělé inteligence se modelky často snaží o čistý a nestárnoucí obsah a vyhýbají se všemu, co by mohlo vyvolat silné emoce. Eliminace rizika, jak je zmíněno v citaci, odráží opatrný přístup při vývoji AI, aby bylo zajištěno, že modely nebudou produkovat urážlivé nebo kontroverzní výstupy.
Lem pokračuje: „Nyní už žádné tragédie nejsou. Není ani šance na jejich existenci. Zlikvidovali jsme peklo vášní a pak se ukázalo, že s ním zmizel i ráj.“ Toto prohlášení ukazuje paralely s etickými výzvami, kterým čelí tvůrci umělé inteligence. Zatímco se snaží eliminovat škodlivé nebo nežádoucí výstupy, riskují homogenizaci obsahu do bodu, kdy postrádá hloubku a emocionální rezonanci.
V jiné pasáži se Lem dotýká úpadku atletiky ve své představované budoucnosti. Popisuje, jak sporty jako box a klasický zápas zmizely a nahradily je mírnější formy fyzické aktivity. Tato transformace odráží sanitaci obsahu v modelech umělé inteligence. Stejně jako intenzivní sporty byly nahrazeny méně konfrontačními aktivitami, modely umělé inteligence mohou upřednostňovat produkci neškodného obsahu před kreativními a podnětnými výstupy.
Lemova slova rezonují jako varovný příběh pro komunitu AI. Touha sladit systémy umělé inteligence se společenskými hodnotami je zásadní, ale také vyvolává otázky ohledně potenciální ztráty uměleckého výrazu, riskování a emocionální hloubky v obsahu generovaném umělou inteligencí. Když se pohybujeme ve složitosti sladění umělé inteligence s lidskými hodnotami, musíme dosáhnout rovnováhy, která zachová bohatství lidské kultury a kreativity.
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
Další články
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
