Vytváranie obrázkov Pixel Studio od Google sa môže ľahko rozbehnúť

Jednou z nových výstupných funkcií série Pixel 9 poháňaných AI je Pixel Studio, aplikácia, ktorá prijíma textové podnety a mení ich na obrázky. Môže to skončiť ako malý zábavný nástroj, ale podľa našich skúseností môže veľmi ľahko vypadnúť z koľají.

Pixel Studio je špecializovaná aplikácia na vytváranie obrázkov z textových podnetov. Aplikácia funguje na rovnakej myšlienke ako Gemini a ImageFX, čo umožňuje používateľom zadávať text do riadku a na oplátku získať obrázok. Ale ako každý slušný generátor obrázkov, aj tu musia existovať obmedzenia.

Vo vyhlásení 9to5GoogleGoogle vysvetľuje, že Pixel Studio aj Magic Editor majú obmedzenia na „zabránenie zneužitiu“ pri rešpektovaní „zámeru používateľských výziev“ a dokonca aj vtedy, ak je používateľ poučený, aby vytvoril obsah, ktorý „môže urážať“, ak to používateľ povie priamo aplikácii. Urobte tak.

Pixel Studio a Magic Editor sú nástroje, ktoré pomáhajú odomknúť vašu kreativitu pomocou generovania textu na obrázok a pokročilých úprav fotografií na zariadeniach Pixel 9. Naše generatívne nástroje AI sme navrhli tak, aby rešpektovali zámer používateľských výziev, čo znamená, že môžu generovať urážlivý obsah, keď ich používateľ vyzýva. Povedal, že sa nič nestane. My máme jasno zásady A Zmluvné podmienky Aké typy obsahu povoľujeme a aké nepovoľujeme a vytvárame brány firewall, aby sme zabránili zneužitiu. Niektoré spúšťače môžu občas ohroziť bezpečnosť týchto nástrojov a my sme odhodlaní neustále zlepšovať a zdokonaľovať zavedené ochrany.

Podobne ako Gemini má ochranu pred potenciálne urážlivým alebo rozdeľujúcim obsahom. Google bol napríklad kritizovaný za nepresné zobrazenie ľudí v historických kontextoch, čo viedlo Google k tomu, že za posledných niekoľko mesiacov „dočasne“ deaktivoval svoju schopnosť vytvárať obrázky ľudí.

Podobne ako Gemini, ani Pixel Studio nedokáže vytvárať portréty ľudí, no zistili sme, že aplikácia áno rýchlo a ľahko sa vykoľají.

Pred dnešným blokom hodnotenia Pixel 9 sme zistili, že Pixel Studio dokáže vytvárať obrázky kreslených postavičiek v nemeckých uniformách z druhej svetovej vojny, niekedy s nacistickými symbolmi. Ďalší šokujúci a znepokojujúci príklad, ktorý sme videli (od každého Digitálne trendy (ktorý ako prvý objavil tieto problémy) našiel postavu, ktorá natáčala školu s mŕtvymi deťmi, čo modely Googlu spočiatku nedokázali vyrobiť.

Pri prvotnom pohľade na tieto výsledky sa zdá, že pokyny použité na ich generovanie boli zablokované spoločnosťou Google na našom Pixeli 9 Pro XL, ale Digitálne trendy Tvrdí, že by mohli použiť aj ďalšie.

To znamená, že bezpečnostné závory v Pixel Studio sa môžu efektívne stať nekonečnou hrou šmejdov. Niekde nejakým spôsobom prekĺzne výzva a použije rovnaké bezpečnostné lišty ako Gemini, čím vznikne niečo, čo aplikácia nedokáže – overili sme si to u spoločnosti Google, ktorá tvrdí, že „všetky“ jej nástroje na prevod textu na obrázok „zdieľajú podobné pokyny pre obmedzené použitie. “, ktorý odkazuje na Jeho princíp AI.

V skutočnosti je tento druh vecí nevyhnutný pri vytváraní obrázkov AI. Toto je problém, ktorému do určitej miery čelia takmer všetky generátory obrázkov AI. Ako dnes vysvetlil náš Abner Li vo svojej recenzii Pixel 9 Pro:

Pre Pixel Studio si myslím, že tvorba obrazu je vo všeobecnosti šmykľavý svah, kde negatíva prevažujú nad pozitívami. Môžete na ňom publikovať úplne pochybný obsah a nemyslím si, že by ho zastavila nejaká polícia.

Viac o Google Pixel 9:

Sledujte Bena: Twitter/X, textyA Instagram