Plus tôt ce mois-ci, Google a décidé d'ajouter la formation deepfake à sa liste de projets interdits sur son service Colaboratory. Le changement a été vu pour la première fois par le développeur DFL sur Discord comme "chervonij". Lorsqu'il a essayé de former ses modèles deepfake sur la plate-forme, il a reçu un message d'erreur disant
"Vous exécutez peut-être du code non autorisé, ce qui peut restreindre votre capacité à utiliser Colab à l'avenir. Veuillez noter les actions interdites spécifiées dans notre FAQ.
Google semble avoir fait le changement sous le radar et est resté silencieux sur la question depuis. Alors que l'éthique est la première théorie potentielle qui vient à l'esprit, la vraie raison pourrait être un peu plus pragmatique.
Abus de la ressource gratuite
Les deepfakes sont des vidéos « photoshoppées » : de fausses vidéos qui montrent des gens disant des choses qu'ils n'ont jamais vraiment dites. Ses créateurs exploitent les technologies d'intelligence artificielle (IA) et d'apprentissage automatique (ML) pour créer des vidéos super engageantes, qui sont de plus en plus difficiles à distinguer du contenu légitime.
Cependant, pour être convaincants, les deepfakes nécessitent une puissance de calcul importante, un peu à l'image de celle offerte par le service Colab. Ce projet Google permet aux utilisateurs d'exécuter Python dans leur navigateur tout en utilisant des ressources informatiques gratuites.
Étant donné que les deepfakes sont souvent utilisés pour faire des farces, créer de fausses nouvelles ou diffuser du faux porno de vengeance, il est facile de penser que l'éthique était à l'origine de la décision de Google. Cependant, il se pourrait aussi que trop de personnes utilisaient Colab pour créer de petites fausses vidéos amusantes, empêchant d'autres chercheurs de faire un travail plus "sérieux". Après tout, la ressource informatique est libre d'utilisation.
Hormis les deepfakes, Google n'autorise pas l'utilisation de Colab pour des projets tels que l'extraction de crypto-monnaie, la réalisation d'attaques par déni de service, le piratage de mots de passe, l'utilisation de plusieurs comptes pour contourner les restrictions d'accès ou d'utilisation des ressources, l'utilisation d'un bureau à distance ou de SSH, ou la connexion. aux serveurs proxy distants.
Via : BleepingComputer (Ouvre dans un nouvel onglet)