La piattaforma consente di montare volti finti a corpi, tutti generati da un’intelligenza artificiale. Ma ci sono rischi di derive deepfake.
La società Rosebud Ai sta creando un’intelligenza artificiale in grado di generare dei volti realistici e personalizzabili che verranno conservati in un database pubblico. Inoltre ha messo a disposizione un software che permette di posizionare, tramite un algoritmo, il volto desiderato su un qualsiasi corpo presente nella loro collezione. Esiste anche una raccolta di 100mila immagini di volti generati artificialmente da un’Ai, chiamata Generated Photos, utilizzabile per la creazione di immagini stock.
Il generatore di volti di Rosebud Ai, società di San Fancisco, prende il nome di Generative.photos ed è stato presentato recentemente su Product Hunt mettendo a disposizione gratuitamente una collezione di 25mila foto in alta risoluzione, personalizzabili e interamente generate da un’intelligenza artificiale. La società ha lanciato anche un sito internet nel quale mostra la potenza della sua intelligenza artificiale utilizzando, per il momento, solo i modelli generati artificialmente dalla società per la creazione di foto nelle quali è possibile sostituire il volto dei modelli protagonisti della foto.
“Generative.photos è un primo passo della nostra offerta di foto sintetiche e Api, che alla fine consentirà agli utenti di modificare e sintetizzare completamente i contenuti visivi con un’interfaccia intuitiva”, ha scritto Lisha Li, fondatrice di Rosebud Ai: “Tutti i volti della nostra raccolta di 25mila foto non sono persone reali”.
Questo genere di progetti però fanno immediatamente scattare il campanello di allarme. Rilasciare, infatti, un programma del genere in un momento nel quale i deepfake non hanno ancora delle linee guida e delle misure di prevenzione verso un loro potenziale uso scorretto, potrebbe portare anche Generative.photos verso l’uso dannoso che viene spesso fatto con questi programmi.
La creazione di immagini realistiche generate interamente da un’intelligenza artificiale potrebbe essere utilizzata per manipolare le informazioni fornendo prove fotografiche di avvenimenti mai esistiti.
Fonte: Wired