OpenAI commence à permettre aux utilisateurs de modifier les visages avec DALL-E 2 • TechCrunch

OpenAI commence à permettre aux utilisateurs de modifier les visages avec DALL-E 2 • TechCrunch


Après avoir initialement désactivé la fonctionnalité, OpenAI a annoncé aujourd’hui que les clients ayant accès à DALL-E 2 peuvent télécharger les visages des personnes pour les modifier à l’aide du système de génération d’images alimenté par l’IA. Auparavant, OpenAI n’autorisait les utilisateurs qu’à travailler et à partager des visages photoréalistes et interdisait le téléchargement de toute photo pouvant représenter une personne réelle, y compris les photos de célébrités et de personnalités publiques.

OpenAI affirme que les améliorations apportées à son système de sécurité ont rendu possible la fonction d’édition de visage en “minimisant le potentiel de préjudice” des deepfakes ainsi que des tentatives de création de contenu sexuel, politique et violent. Dans un e-mail aux clients, la société a écrit :

Beaucoup d’entre vous nous ont dit qu’il vous manquait d’utiliser DALL-E pour imaginer des tenues et des coiffures sur vous-mêmes et éditer les arrière-plans des photos de famille. Un chirurgien reconstructeur nous a dit qu’il utilisait DALL-E pour aider ses patients à visualiser les résultats. Et les cinéastes nous ont dit qu’ils voulaient pouvoir éditer des images de scènes avec des gens pour aider à accélérer leurs processus créatifs… [We] construit de nouvelles techniques de détection et de réponse pour arrêter les abus.

Le changement de politique n’ouvre pas nécessairement les vannes. Les conditions d’utilisation d’OpenAI continueront d’interdire le téléchargement de photos de personnes sans leur consentement ou d’images sur lesquelles les utilisateurs n’ont pas les droits – bien qu’il ne soit pas clair dans quelle mesure l’entreprise a toujours été cohérente dans l’application de ces politiques.

Dans tous les cas, ce sera un véritable test de la technologie de filtrage d’OpenAI, dont certains clients se sont plaints par le passé d’être trop zélé et quelque peu inexact. Les deepfakes se présentent sous de nombreuses formes, des fausses photos de vacances aux présidents de pays déchirés par la guerre. La prise en compte de chaque forme émergente d’abus sera une bataille sans fin, dans certains cas avec des enjeux très importants.

Il ne fait aucun doute qu’OpenAI – qui bénéficie du soutien de Microsoft et de sociétés de capital-risque notables, dont Khosla Ventures – est désireux d’éviter la controverse associée à Stable Diffusion de Stability AI, un système de génération d’images disponible dans un format open source sans aucune restriction. Comme TechCrunch l’a récemment écrit, il n’a pas fallu longtemps avant que Stable Diffusion – qui peut également éditer des images de visage – soit utilisé par certains pour créer des deepfakes pornographiques et non consensuels de célébrités comme Emma Watson.

Jusqu’à présent, OpenAI s’est positionné comme une alternative boutonnée et conviviale pour la marque à l’IA de stabilité sans limites. Et avec les contraintes liées à la nouvelle fonctionnalité d’édition de visage pour DALL-E 2, la société maintient le statu quo.

DALL-E 2 reste en version bêta sur invitation uniquement. Fin août, OpenAI a annoncé que plus d’un million de personnes utilisaient le service.

Leave a Comment