Pourquoi l'ai-je fait ? Pourquoi ai-je payé 8 € pour 50 portraits époustouflants, impressionnistes et abstraits de moi-même ? Suis-je si narcissique ? Nous sommes tous?
Notre Instagram et d'autres flux sociaux sont actuellement inondés de ces rendus haute résolution de nos visages et de divers avatars obscènes ou magiques. Ils viennent tous avec l'aimable autorisation de l'application Lensa, un moteur de génération d'images AI qui crée des rendus sauvages et souvent fantaisistes de n'importe quelle image que nous alimentons.
Il existe d'autres plates-formes similaires, telles que Reface, qui vous permettent de mettre votre visage dans des clips vidéo célèbres. Tout le monde l'a fait pendant un moment. Je suis devenu Tom Cruise (ouvre dans un nouvel onglet).
L'application était gratuite (avec beaucoup de publicités si je me souviens bien) et finalement nous avons tous décidé que ce n'était peut-être pas une bonne idée de télécharger nos images sur un développeur d'applications rando.
Lensa remplit cet espace, mais avec un produit qui vous demande presque de le payer, d'abord avec une forte vente de frais d'abonnement coûteux, puis de manière plus informelle avec une offre de packs d'images AI payantes.
Ce qui m'étonne, c'est le nombre de personnes qui paient pour que leurs images soient digérées puis recrachées comme des œuvres d'art IA étonnantes. Le FOMO est si fort ici que tout le monde (même ce journaliste désormais embarrassé) succombe. Mon fils adulte a dépensé près de 15 € pour un ensemble de photos de sa petite amie.
je ne suis pas fier
Pourquoi l'ai-je fait ? Deux raisons. J'en avais assez de voir les Avatars Lensa Magic d'autres personnes sur mon flux et j'avais aussi besoin de quelque chose de nouveau pour Instagram. Je suis un peu comme ça avec mes flux sociaux, essayant toujours de garder le tuyau plein pour des raisons que je peux difficilement expliquer ici.
Ajouter mes images d'IA à la légion croissante de portraits majestueux générés par Lensa sur Instagram n'a pas été difficile. L'application est disponible gratuitement sur iOS et Android. En l'ouvrant, vous bénéficiez d'une offre d'abonnement de 49.99 € que vous pouvez « résilier à tout moment ». Personnellement, je déteste les applications comme celle-ci, celles qui vous taquinent avec une fonctionnalité incroyablement intéressante mais qui exigent des paiements en espèces exorbitants à l'avance (je peux aussi être bon marché).
Comme beaucoup d'autres applications, la sous-offre est une sorte de façade. Si vous l'ignorez, l'application vous place immédiatement dans la section pay-per-play, où vous pouvez acheter entre 50 (7.99 €) et 100 (14.99 €) Avatars magiques générés par l'IA sans vous abonner à quoi que ce soit.
Maintenant, je ne me souviens pas de la dernière fois que j'ai payé 8 € pour avoir le privilège d'utiliser une seule fonctionnalité de l'application, mais c'était le cri de sirène de ces magnifiques portraits. J'ai rationalisé le coût dans ma tête : « Allez, tu paierais ça pour deux beignets Krispy Kreme et une eau », que j'ai achetés la semaine dernière.
Après cela, l'application vous demande de télécharger 10 à 20 images de vous-même dans diverses poses et avec diverses expressions. J'ai décidé de regarder dans le dossier "Selfies" de mon iPhone, où j'ai trouvé un tas de photos adaptées. J'en ai téléchargé un tas, mais Lensa en a rejeté certains comme étant inutilisables (je n'ai pas dit pourquoi), alors j'en ai sélectionné quelques autres. Rétrospectivement, j'aurais dû choisir beaucoup moins de photos de profil et de photos avec des grimaces idiotes. Comme avec la plupart des systèmes d’imagerie IA, vous obtenez ce que vous avez mis dans Lensa.
Dans l'ensemble, je suis satisfait des résultats (vous pouvez voir quelques exemples ci-dessus), mais j'ai fini par me sentir mal à l'aise, un peu comme si j'avais été joué. J'aurais dû poser quelques questions, beaucoup en fait, avant de télécharger mes photos.
Un jour après que Lensa a livré 50 de mes images AI 4K (elles restent dans l'application, mais vous pouvez télécharger vos préférées en résolution standard ou 4K), j'ai envoyé au développeur de Lensa Prisma Labs une liste de questions :
- Stockez-vous les photos qui vous sont téléchargées ? Si oui, sont-ils cryptés ?
- Quand avez-vous sorti le jeu Magic Avatar ?
- Comment, exactement, l'IA est-elle utilisée pour générer les images ?
- Combien de personnes ont téléchargé vos images ?
- Pourquoi pré-chargez-vous des frais d'abonnement alors que les gens ne peuvent payer que 7.99 € pour 50 images ?
- Comment répondez-vous aux préoccupations concernant les personnes qui téléchargent des images sans leur permission ?
- Avez-vous entendu parler de certains qui sont utilisés pour générer du contenu pour adultes ?
D'une certaine manière, vous pouvez prendre l'une ou l'ensemble de ces questions et les appliquer pratiquement à un système d'imagerie par IA. Bien que tous ces systèmes d'IA soient passionnants, ils ressemblent à des boîtes noires. Pour certains, nous ne mettons que des invites de texte, mais nous ne comprenons toujours pas comment ils génèrent de l'art.
La plupart du travail derrière les Magic Avatars de Lensa, par exemple, est effectué par la plateforme d'imagerie gratuite et open source Stable Diffusion, l'une des nombreuses qui a été accusée de s'approprier le travail d'artistes (ouvre dans un nouvel onglet) pour former votre IA simulée .
Mais ce n'est qu'une de mes préoccupations. Une autre est qu'advient-il des images que nous fournissons si volontairement ? Comment savons-nous, par exemple, que les images que nous téléchargeons ne sont pas utilisées pour entraîner davantage l'IA ? Je ne vois aucun moyen d'exclure cette possibilité.
Il n'y a pas non plus d'avis vous avertissant de ne pas télécharger l'image de quelqu'un sans autorisation. J'ai entendu des rapports selon lesquels certaines personnes utilisent le système pour générer des images pornographiques de personnes sans méfiance (ouvre dans un nouvel onglet) sans leur consentement.
Où vont nos images originales lorsque le travail de Lensa est terminé ? En l'absence d'informations promettant que Lensa les supprimera, je dois supposer qu'ils les conservent tous dans un dossier. Nous ne pouvons qu'espérer qu'ils sont au moins cryptés.
Prisma Labs répond
Je ai de bonnes nouvelles. Bien que Prisma Labs n'inclue pas beaucoup de ce que je considère comme des informations nécessaires dans leur application et n'ait pas répondu directement à mes questions, ils m'ont dirigé vers une FAQ détaillée (s'ouvre dans un nouvel onglet) qui répond à certaines de ces préoccupations.
Sur la question de savoir ce que Lensa fait de nos images, Prisma Labs écrit qu'elles sont supprimées des serveurs de Prisma Labs une fois le traitement terminé. Cependant, la FAQ contient également ce langage :
"Nous stockons les avatars aussi longtemps que nécessaire pour fournir le service à nos utilisateurs. Veuillez noter qu'une nouvelle fonctionnalité, qui permettrait aux utilisateurs de supprimer définitivement leurs avatars de nos serveurs, est actuellement en cours."
En d'autres termes, vos photos originales ont disparu, mais ces images créées par Lensa ? Prisma Labs les a toujours. Soit dit en passant, il n'y a aucune mention du cryptage des données.
La FAQ ne traite pas des considérations relatives à la propriété des images : l'image que vous téléchargez doit être la vôtre ou celle à laquelle vous avez le droit d'accéder. Il s'agit d'images « sexualisées », mais surtout de la tendance de l'IA à sexualiser les personnages féminins. Plus important encore, Prisma Labs ajoute : « Nos conditions d'utilisation interdisent absolument l'utilisation intentionnelle de l'application pour créer du contenu explicite et exigent que les utilisateurs de Lensa se conforment à cette exigence. »
On ne sait pas exactement comment Prisma Labs applique cette règle particulière, et encore moins utile, Prisma Labs ajoute cette note : « Malheureusement, tous ces efforts n'ont pas encore rendu l'IA absolument immunisée contre les contenus biaisés et les images explicites. le produit n'est pas destiné à être utilisé par des mineurs et avertit les utilisateurs des risques potentiels du contenu.
Je ne peux pas légitimement vous dire de ne pas essayer l'application, surtout après l'avoir fait. Cependant, avant de le faire, assurez-vous que vous êtes à l'aise avec les réponses (et l'absence de réponses) de Prisma Lab à l'une de ces questions.