- Gebruikers van sociale media hebben plezier gehad met een app genaamd Lensa en de nieuwste “magische avatar” -functie.
- Met de app kunnen mensen foto’s van zichzelf uploaden, die vervolgens worden omgezet in magische en grillige AI-afbeeldingen.
- Sommige gebruikers van sociale media hebben gewaarschuwd voor de apps en zeggen dat ze stelen van artiesten en een veiligheidsrisico vormen voor degenen die hun foto’s naar de app uploaden.
Je kunt eruitzien als een krijger, klaar voor de strijd. Of misschien wil je omringd worden door bloemen, gekleed in een bruidsjurk. Beter nog, wat dacht je van een godin?
Deze afbeeldingen, magische avatars genoemd, zijn afbeeldingen gemaakt door een applicatie genaamd Lensa. Lensa, eigendom van Prisma Labs, stelt gebruikers in staat om hun foto’s te uploaden, een vergoeding te betalen en binnen enkele minuten hun foto’s te downloaden in allerlei rare instellingen.
Avatars zijn snel populair geworden onder gebruikers van sociale media en beroemdheden, waaronder Chance the Rapper, Michaela Jaé Rodriguez en Taraji P. Henson.
Maar hoewel door AI gegenereerde foto’s onder sommigen een hit zijn, zijn er beweringen dat dit soort apps echte artiesten beroven. Anderen zeggen dat ze racistische voorstellingen maken van gebruikers die hun foto’s uploaden.
Dit is wat u moet weten over deze magische avatars en hoe het bedrijf heeft gereageerd op waarschuwingen tegen hen.
Deepfakes:Wat is een deepfake? Deze videotechnologie jaagt sommige politici de stuipen op het lijf
Nee, Paris Hilton en Tom Cruise zijn niet aan het daten:Een TikTok-video met een imitator brengt fans in verwarring
Wat zijn de “magische avatars” in de Lensa AI-app? Hoe worden ze gemaakt?
Deze nieuwste rage begon met Stability AI, een bedrijf dat een netwerkmodel creëerde dat stabiele diffusie wordt genoemd. Het model gebruikt gegevens van internet om afbeeldingen van tekst te genereren.
Lensa gebruikt een kopie van het stabiele uitzendmodel, waardoor gebruikers hun foto’s kunnen uploaden en kunnen wachten terwijl de app aangepaste afbeeldingen maakt, aldus het bedrijf op zijn website. Het model is getraind met behulp van LAION 5B, een grote dataset met afbeelding-tekstparen.
Het proces duurt gemiddeld 10 minuten en de website vereist 120 miljoen miljard wiskundige bewerkingen om de foto’s te analyseren.
Nadat avatars zijn gemaakt, worden de foto’s van gebruikers permanent van de servers verwijderd, zei Lensa.
“Elke keer dat een gebruiker een nieuw avatarpakket koopt, wordt het proces vanaf nul herhaald”, zei Lensa op haar website. “Daarom vragen we je om elke keer dat je een nieuw pakket bestelt foto’s te uploaden.”
Afbeeldingen zoals die door Lens worden gegenereerd, beginnen met een AI-maker of een team van modellen, zegt Yaron Inger, mede-oprichter en chief technology officer van Lightricks, een ander bedrijf dat soortgelijke door AI gegenereerde afbeeldingen produceert en Facetune heeft ontworpen. beroemdheden en socialites. Met modellen kunnen gebruikers tekstquery’s en trefwoorden invoeren en ‘high fidelity’-afbeeldingen maken, of afbeeldingen die sterk lijken op de originelen.
De nieuwe modellen zijn relatief nieuw, maar de afgelopen maanden zagen ze er goed uit, zei Inger.
Hoe is stabiele diffusie ontstaan?
Stable Broadcast, het door Lensa gebruikte open source-model, ging in augustus live.
“De jongens die (het model) hebben getraind, hebben in feite honderden miljoenen foto’s online gemaakt”, zei Inger. “Ze hebben het web afgezocht, veel afbeeldingen gevonden en het model die afbeeldingen samen met de tekst laten zien. Het model is als een groot brein dat op basis van deze nieuwe gegevens nieuwe afbeeldingen kan hallucineren.”
Waarom waarschuwen kunstenaars tegen het gebruik van door AI gegenereerde afbeeldingen?
Er is serieus gediscussieerd over deze AI-afbeeldingen, met name argumenten die Lens heeft gestolen van echte artiesten die proberen de kost te verdienen.
Ter herinnering: de app rekent gebruikers aan om hun eigen afbeeldingen te uploaden en magische avatars te maken.
Een Facebook-bericht van 4 december, nu meer dan 50.000 keer gedeeld sinds donderdag, zegt dat de apps auteursrechtelijk beschermde kunst gebruiken van makers over de hele wereld.
Op de pagina met veelgestelde vragen zei Lensa dat het netwerk dat door de app wordt gebruikt, patronen en verbindingen tussen afbeeldingen en tekstbeschrijvingen kan herkennen, niet individuele kunst. AI is dan in staat om de technieken toe te passen om nieuwe content te creëren.
“Als de training eenmaal is voltooid, verwijst de AI niet meer naar de originele dataset”, zei Lensa. “Integendeel, hij past de principes die hij heeft verworven toe in het verdere creatieproces. Daarom zijn de outputs geen replica’s van een bepaald kunstwerk van de kunstenaar.”
Inger, van Lightricks, zei dat haar bedrijf stappen heeft ondernomen om de beveiligingsproblemen van gebruikers aan te pakken. Stabiele streaming kwam aanvankelijk met een “vrij eenvoudig NSFW-filter”, dus Lightricks voegde zijn eigen filters toe om gebruikers te beschermen.
“We controleren alles wat door onze systemen gaat en zorgen ervoor dat mensen alleen de juiste inhoud maken”, zei hij.
Ook ziet hij apps niet als een bedreiging voor artiesten en makers. Sterker nog, hij denkt dat het het tegenovergestelde is.
“Ik denk dat deze modellen de makers veel kracht geven”, zei hij. “Het geeft mensen de kans om te vieren wat andere artiesten hebben gemaakt en niet om het te kopiëren. Als je aan artiesten en hun creaties denkt, zijn veel van hun creaties geïnspireerd door andere artiesten, toch?”
Techniek:De FTC heeft een rechtszaak aangespannen om de deal van $ 69 miljoen tussen Microsoft en Activision Blizzard, de maker van Call of Duty, te blokkeren.
Alexa stuurt “Bedankt aan mijn chauffeur” naar bezorgklanten. Maar heeft Amazon tips gestolen?
Zijn deze ‘magische avatars’ racistisch en vrouwonvriendelijk?
Een andere reden waarom gebruikers van sociale media zich uitspreken tegen Lensa en AI-apps, is omdat sommige van de afbeeldingen die ze maken overdreven geseksualiseerd zijn.
Activiste Brandee Barker uploadde bijvoorbeeld foto’s van haar gezicht en ontving minstens vier magische avatars die haar gedeeltelijk naakt of met een snee afbeeldden.
In dezelfde thread beschuldigde een gebruiker van sociale media de toepassing ervan “racisme en seksisme” in stand te houden.
“Uiteindelijk zag ik eruit als een blanke vrouw op de meeste foto’s”, schreef de Twitter-gebruiker @feministisch.
Lensa zei dat de app en zijn modellen ongefilterde internetinhoud gebruiken om magische avatars te creëren, dus de AI-afbeeldingen zullen natuurlijk vooroordelen hebben die mensen erin introduceren.
“De makers accepteren de mogelijkheid van maatschappelijke vooroordelen”, zei Lensa. “Wij ook.”
Het bedrijf benadrukte ook dat Stability AI, die het stabiele uitzendmodel heeft gemaakt, het model heeft aangepast om het moeilijker te maken om NSFW-afbeeldingen te genereren.
Lensa zegt ook dat het stappen heeft ondernomen om avatar bias te verminderen. Het kost tijd, dus het bedrijf dringt erop aan dat minderjarigen zich afmelden voor de app.
Inger zei dat bedrijven als Lensa en Lightricks een open-sourcemodel gebruiken dat uit tonnen foto’s bestaat.
“We hebben het model niet getraind”, zei hij. “Het is nog vroeg … er is nog veel vooruitgang te boeken in termen van wat voor soort gegevens we deze modellen voeden.”
Het doel is volgens hem niet om gender- of raciale vooroordelen te introduceren. Lightricks probeert intern te zorgen dat de AI-beelden die in zijn app worden gegenereerd niet aanstootgevend of bevooroordeeld zijn.
En ja, hij is enthousiast over hoe het gaat.
“De mogelijkheden zijn eindeloos”, zei hij. “Op dit moment zijn we nog maar aan het begin van wat mogelijk is met deze modellen… Ik denk dat het in de loop van de tijd steeds beter zal worden.”
Saleen Martin is een verslaggever voor het NOW-team van USA TODAY. Hij komt uit Norfolk, Virginia – 757 – en houdt van alles wat met horror, heksen, Kerstmis en eten te maken heeft. Volg hem op Twitter @Saleen_Martin of e-mail hem op sdmartin@usatoday.com.