Microsoft preberá umelú inteligenciu do hlavného prúdu a razí etické mínové pole

Počas dnešného tlačového podujatia na Surface spoločnosť Microsoft oznámila integráciu technológie generovania obrázkov poháňanej AI do svojho vyhľadávacieho nástroja Bing, prehliadača Edge a novej aplikácie Office s názvom Microsoft Designer. bude poháňaný technológiou Dal-e 2 od OpenAI, ktorá v apríli vyvolala vlnu pre svoju schopnosť vytvárať efektné obrázky na základe písomných výziev. Táto technológia vyvolala pobúrenie aj u niektorých umelcov morálny záujem.

Cieľom ponuky spoločnosti Microsoft je pomôcť tvorcom prekonať syndróm prázdnych stránok tým, že im navrhnú kreatívne kroky. V príklade aplikácie Microsoft Designer od spoločnosti Microsoft niekto zadá popis toho, čo chce vidieť, napríklad „torta ombre zdobená kvetmi a pádmi“, a potom môže prechádzať príkladmi obrázkov vygenerovaných AI, z ktorých si môže vybrať. . Pridajte ich návrhy. „Dizajnér vás pozýva, aby ste začali s nápadom a nechali AI urobiť to ťažké,“ napísal Microsoft v tlačovej správe.

Microsoft Designer vznikol ako súčasť programu PowerPoint, kde v súčasnosti ponúka koncepty dizajnu ako podmnožinu tohto programu. Microsoft však plánuje rozdeliť Designer na vlastnú aplikáciu Microsoft 365, ktorá bude dostupná ako bezplatná aplikácia a prémiová aplikácia dostupná pre osobných a rodinných zákazníkov Microsoft 365. Microsoft zatiaľ obmedzuje Designer na bezplatnú verejnú webovú aplikáciu, ktorú bude používať na získavanie spätnej väzby z verejného testovania.

Microsoft oznámil, že integruje Designer do Microsoft Edge, aby „poskytoval návrhy dizajnu založené na AI na vizuálne vylepšenie príspevkov na sociálnych sieťach a iného vizuálneho obsahu bez opustenia okna prehliadača“. A syntéza obrázkov AI príde aj do Bing s Image Creator, kde ľudia budú môcť písať do výzvy a získať efektný výsledok pomocou OpenAI DALL-E 2.

Politický slon v miestnosti

Odkedy OpenAI debutovalo v apríli DALL-E 2, generovanie obrazu AI bolo u niektorých umelcov kontroverzné kvôli tomu, ako to funguje. Modely syntézy obrázkov ako DALL-E 2 využívajú neurónové siete s hlbokým učením na analýzu miliónov alebo miliárd verejne dostupných obrázkov na webe. bez pýtania povolenia Od umelcov alebo držiteľov autorských práv. Tieto modely zahŕňajú konkurentov DALL-E stabilný rozptyl, prepojte popisné titulky nájdené na webe a štatisticky priraďte obsah týchto obrázkov k slovám Výsledkom je, že tieto modely dokážu vytvárať obrázky na základe textových popisov a dokážu napodobňovať jeho osobitý štýl Niektorí ľudskí umelci.

Okrem toho tvorcovia týchto modelov syntézy obrázkov varujú, že vo svojich tréningových údajoch odrážajú sociálne predsudky, ako je rasizmus a sexizmus, a sú tiež schopné vytvárať znepokojujúce alebo nezákonné obrázky, ak nie sú zavedené záruky. Microsoft hovorí, že rieši tieto problémy: „Aby sme zabránili DALL∙E 2 v poskytovaní nevhodných výsledkov v aplikáciách Designer a tvorcom obrázkov, pracujeme so sebou a našim partnerom OpenAI, ktorý vyvinul DALL-E 2, aby sme podnikli kroky a urobíme to. Pokračovať rozvíjať náš prístup podľa potreby.”

Zmiernenie zahŕňalo odstránenie „najexplicitnejšieho sexuálneho a násilného obsahu“ z tréningového súboru údajov a pridanie filtrov na „obmedzenie obrázkov, ktoré porušujú pravidlá pre obsah“. Pokiaľ ide o zaujatosť, Microsoft spomína „implementáciu dodatočných technológií, ktoré pomáhajú poskytnúť rôznorodejší obraz v našich výsledkoch“, čo je pravdepodobne podobné rýchlej injekcii náhodnej diverzity OpenAI. zavedené Stretol sa s DALL-E v júli Nejaká kontroverzia Možno kvôli týmto problémom samotným Microsoft používa pomalý prístup, namiesto toho, aby úplne otvoril brány.

„Zavádzame premyslený prístup [Image Creator]Microsoft napísal v tlačovej správe “Čoskoro začneme s obmedzeným náhľadom pre vybrané geografické oblasti, čo nám umožní zbierať spätnú väzbu, aplikovať poznatky a zlepšovať skúsenosti pred ďalším rozširovaním.”

Vďaka týmto krokom spoločnosti Microsoft sa nástroje na syntézu obrázkov rýchlo stávajú bežnejšími. Canva bol pridaný Schopnosť generovať obrázky z textu do polovice septembra.