L’essor de l’intelligence artificielle générative ouvre des possibilités fascinantes, mais il soulève également des questions éthiques et légales. Récemment, des développeurs ayant accès à Gemini 2.0 Flash, l’un des nouveaux modèles d’IA de Google, ont découvert que cet outil pouvait supprimer les filigranes présents sur des images protégées. Une faille qui inquiète les acteurs du marché et pourrait mettre Google en difficulté.
Une technologie avancée aux usages discutables
L’outil de génération d’images de Google a été lancé en décembre dernier en phase bêta, avant d’être mis à disposition des développeurs via Google AI Studio et l’API Gemini. Ce modèle combine plusieurs capacités avancées : entrée multimodale, amélioration du raisonnement et compréhension avancée du langage naturel. Officiellement, il vise à permettre la création et la modification d’images pour divers usages, notamment dans la publicité et les réseaux sociaux.
Cependant, certains utilisateurs ont démontré que cet outil pouvait aussi supprimer les filigranes de certaines images protégées. Des captures d’écran publiées sur Reddit montrent des images issues de banques telles que Getty Images ou Shutterstock, dont le filigrane a été effacé par Gemini 2.0 Flash. Cette découverte remet en cause les mécanismes de protection prévus par Google.
Des conséquences légales et éthiques
Si l’on considère l’impact d’une telle technologie, plusieurs problèmes se posent. Tout d’abord, le retrait des filigranes peut favoriser la diffusion illégale d’images protégées par le droit d’auteur. Cela pose un risque majeur pour les créateurs de contenu, les photographes et les agences d’images qui dépendent de ces protections pour assurer leurs revenus.
De plus, la possibilité d’utiliser l’IA pour manipuler des images soulève des inquiétudes sur les deepfakes et la désinformation. Google, qui a déjà été critiqué pour des usages détournés de ses modèles Gemini, doit maintenant réagir pour éviter que cette technologie ne soit exploitée à des fins frauduleuses.
Comment Google va-t-il réagir ?
Pour l’instant, Google n’a pas publié de réponse officielle concernant cette faille. Toutefois, ses principaux concurrents, tels qu’OpenAI et Anthropic, ont déjà mis en place des restrictions pour empêcher ce type de dérives. Par exemple, DALL-E et Claude refusent explicitement de générer des images contenant des célébrités ou de supprimer des éléments protégés.
Google devra rapidement ajuster sa stratégie et mettre en place des garde-fous pour éviter une utilisation abusive de Gemini 2.0 Flash. Sans cela, l’entreprise risque de faire face à des sanctions réglementaires et à une perte de confiance de la part des utilisateurs et des partenaires.
Conclusion
L’affaire Gemini 2.0 Flash met en lumière les défis éthiques et légaux posés par les outils d’IA générative. Si ces technologies offrent des possibilités révolutionnaires, elles doivent être encadrées pour éviter tout abus. Google doit rapidement clarifier sa position et renforcer la sécurité de son modèle pour répondre aux inquiétudes croissantes. L’avenir de l’IA générative passera inévitablement par une régulation plus stricte et une meilleure gestion des risques.
