Décision de la cour d’appel de Francfort du 4 mars 2025 – Réf. 16 W 10/25
Lorsqu’un signalement d’un contenu illicite a déjà été effectué, le fournisseur d’hébergement doit également bloquer les contributions équivalentes dans leur sens. Aucun nouveau signalement n’est alors nécessaire. La cour d’appel de Francfort souligne ainsi la responsabilité du fournisseur d’hébergement concernant les médias et contenus illicites, en particulier les vidéos manipulées et la falsification de personnes. La cour d’appel de Francfort l’a clairement indiqué par sa décision du 4 mars 2025 dans une procédure d’urgence (Réf. 16 W 10/25).
En cas d’atteintes au droit sur Internet, par exemple via un mème ou des deepfakes, les fournisseurs d’hébergement doivent intervenir et bloquer les contenus concernés dès qu’ils ont connaissance des publications illicites. Les prestations des fournisseurs d’hébergement comprennent l’hébergement web, les serveurs, les sites internet, les noms de domaine, les adresses e-mail et l’accès à Internet, leur permettant ainsi de fournir l’accès à Internet. Il est important de distinguer le fournisseur d’hébergement, le fournisseur d’accès et le fournisseur de contenu, car tout ce qui se cache derrière ces offres est très complexe. Par ailleurs, il existe différentes offres dans le domaine de l’hébergement web et des solutions serveurs adaptées individuellement aux besoins des utilisateurs. La cour d’appel de Francfort a déjà tranché à ce sujet par un jugement du 25 janvier 2024 (Réf. : 16 U 65/22). Dans la continuité cohérente de cette jurisprudence, la cour d’appel de Francfort a décidé en procédure d’urgence que les exploitants de plateformes doivent également bloquer les contenus équivalents dans leur sens, sans qu’un nouveau signalement soit nécessaire, selon le cabinet d’avocats spécialisé en droit informatique MTR Legal Rechtsanwälte.
Vidéos deepfake avec contenu équivalent
Dans l’affaire en question, une vidéo deepfake avait été publiée sur une plateforme de réseaux sociaux. Cette vidéo deepfake a été réalisée à l’aide de la technologie et de l’IA deepfake, manipulant le visage et la voix de la personne concernée. Dans cette vidéo, un médecin célèbre était présenté, par des images et sons truqués, comme faisant la promotion d’un produit de perte de poids. En réalité, il n’avait aucun lien avec ce produit. Après un signalement de la personne concernée, l’exploitant de la plateforme a supprimé cette vidéo.
Peu de temps après, une nouvelle vidéo au contenu quasi identique est cependant apparue. Elle se différenciait uniquement par des détails, notamment une représentation légèrement modifiée et un autre titre, mais transmettait la même impression trompeuse générale. Ce type de falsification de contenus médiatiques et de vidéos constitue un problème croissant pour la protection de la réalité et la vie privée des individus. La création de tels contenus utilise des technologies avancées et de grandes quantités de données, où l’apprentissage des modèles d’IA joue un rôle central pour rendre l’application toujours plus réaliste. Cette vidéo a également été supprimée, mais seulement après un nouveau signalement. Les vidéos deepfake peuvent contribuer à la diffusion de fausses informations, rendant les mesures de protection efficaces contre ces manipulations d’autant plus importantes. La personne concernée a demandé à faire contraindre judiciairement la plateforme à ne plus diffuser à l’avenir ce type de contenu et a sollicité une ordonnance de référé.
Technologie et détection des vidéos deepfake
Le développement rapide des technologies deepfake repose sur l’utilisation de l’intelligence artificielle (IA) et d’algorithmes avancés d’apprentissage automatique. Ces procédés permettent de manipuler des vidéos et des fichiers audio de façon à paraître extrêmement réalistes, rendant la distinction avec des contenus authentiques difficile même pour des professionnels aguerris. En particulier, le fameux face swapping, qui remplace le visage d’une personne par celui d’une autre, est l’une des techniques les plus connues. Cela nécessite de grandes quantités de photos et de vidéos afin de reproduire aussi fidèlement que possible les expressions faciales, les gestes et le ton de la personne cible.
Fondements technologiques des deepfakes
La détection de telles falsifications représente un défi majeur pour les fournisseurs d’hébergement, les fournisseurs d’accès et autres prestataires de services web et serveurs. Les vidéos deepfake et les fichiers audio manipulés peuvent être utilisés intentionnellement pour diffuser des faux, des fake news ou pour nuire à la réputation de personnes. Les systèmes d’IA et les algorithmes employés deviennent de plus en plus sophistiqués, si bien que les méthodes classiques de contrôle atteignent souvent leurs limites.
Méthodes de détection des deepfakes
Plusieurs méthodes sont utilisées pour détecter les vidéos deepfake et autres falsifications. Celles-ci incluent notamment l’analyse des anomalies dans les expressions faciales, les mouvements et les conditions d’éclairage dans la vidéo. La vérification des métadonnées et l’utilisation d’outils spécialisés d’IA pour la détection des manipulations sont également courantes. Néanmoins, la détection reste un défi permanent car les techniques de création de deepfakes évoluent sans cesse.
Risques et mesures de protection pour les exploitants de plateformes
Pour les fournisseurs d’hébergement et les exploitants de plateformes, cela signifie qu’ils doivent non seulement réagir aux signalements, mais aussi prendre des mesures proactives pour prévenir la diffusion de contenus deepfake. Cela comprend l’utilisation de filtres de contenu, le contrôle régulier des contenus hébergés ainsi que la coopération avec des experts et les autorités. L’objectif est de garantir l’authenticité des médias présentés sur leurs serveurs et sites web et de détecter rapidement les manipulations.
L’utilisation des technologies deepfake présente des risques considérables pour la vie privée et la sécurité des personnes et des entreprises. Des vidéos, fichiers audio ou images manipulés peuvent être délibérément utilisés à des fins de tromperie, de chantage ou de diffusion de fausses informations. Il est donc essentiel pour les internautes d’adopter une approche critique envers les contenus numériques et d’utiliser des outils de vérification appropriés ou un contrôle de domaine en cas de suspicion de falsification.
Nécessité de la recherche et de la collaboration
Face à l’évolution rapide de l’IA deepfake et à la diffusion croissante de telles falsifications, il est indispensable que la recherche, les entreprises technologiques, les hébergeurs et les autorités collaborent étroitement. Ce n’est que par la combinaison de méthodes innovantes de détection, de progrès techniques et de cadres juridiques clairs que l’intégrité des contenus médiatiques numériques pourra être protégée durablement. Ensemble, nous créons un environnement en ligne fiable et sécurisé, où manipulation et faux n’ont pas leur place.
Aucun nouvel avertissement nécessaire
Le tribunal régional a d’abord rejeté la demande, estimant que la plateforme n’avait pas d’obligation continue d’intervention. Suite à la plainte immédiate du demandeur, la cour d’appel de Francfort a partiellement modifié cette décision. Selon la chambre, la plateforme n’est pas responsable de la première vidéo, mais l’est pour la seconde. Sur le plan juridique, il convient de noter que l’exploitant d’un site internet est considéré comme un fournisseur de contenu s’il contrôle, modifie ou publie des contenus propres ou tiers, ce qui implique une responsabilité particulière pour les contenus mis à disposition sur son site. La cour d’appel a motivé sa décision en précisant que la plateforme n’avait aucune connaissance de l’atteinte juridique avant le premier avertissement et qu’elle n’était donc pas tenue d’effectuer un contrôle préalable ou une suppression. Après retrait de la première vidéo, la situation a toutefois changé : à partir du moment où la violation du droit est connue précisément, le fournisseur d’hébergement a l’obligation de contrôler les contenus similaires et de les supprimer si nécessaire. Cette obligation a été violée car la seconde vidéo, pratiquement identique, n’a été bloquée qu’après un nouvel avertissement. La suppression aurait dû intervenir sans autre mise en demeure, a clairement indiqué la cour d’appel de Francfort.
Il a été également précisé qu’un fournisseur d’hébergement n’est en principe pas tenu de surveiller ou filtrer de manière préalable les contenus publiés par les utilisateurs. Une telle surveillance générale serait difficilement compatible avec la liberté d’expression et de communication sur internet. Selon les situations, notamment en raison de l’utilisation de systèmes d’IA ou de divers cadres techniques et juridiques, la responsabilité et les obligations de contrôle peuvent varier. Toutefois, dès que l’opérateur prend connaissance d’une atteinte juridique clairement identifiable, il doit bloquer le contenu concerné et prendre des mesures pour éviter une nouvelle diffusion sous forme identique ou similaire. La délimitation entre contenus licites et illicites ainsi que l’efficacité des mesures de protection pour les utilisateurs et les plateformes restent un défi. Cette obligation va au-delà de la simple suppression du contenu signalé.
Contenus similaires : détection et obligations légales des fournisseurs d’hébergement
Les contenus similaires sont ceux qui, malgré quelques modifications mineures comme un montage différent, une modification des couleurs, un format différent ou un texte légèrement modifié, produisent la même impression globale portant atteinte au droit, selon la cour d’appel. Pour détecter ces contenus, des techniques avancées et l’analyse de grandes quantités de données sont utilisées afin d’identifier de manière fiable les manipulations. Une plateforme ne peut donc pas prétendre qu’une vidéo nouvellement mise en ligne n’est pas techniquement identique si elle véhicule en fait le même message trompeur. Grâce à l’apprentissage des algorithmes et à l’emploi de l’IA, les systèmes peuvent de mieux en mieux distinguer la réalité des contenus manipulés. Dès le moment où l’exploitant est informé d’une atteinte juridique concrète, il doit prendre des mesures techniques et organisationnelles appropriées pour éviter les récidives. En pratique, la difficulté réside toutefois dans le fait que les méthodes de détection ne fonctionnent pas toujours sans erreur, ce qui rend les mesures de protection efficaces particulièrement importantes.
En pratique, cela signifie que les fournisseurs d’hébergement doivent non seulement réagir aux signalements, mais aussi lutter activement contre la diffusion de contenus trompeurs ou manipulés. Ils ne sont certes pas soumis à une obligation générale de surveillance, mais à une obligation de contrôle dépendant de la situation. Celle-ci prend effet dès que l’exploitant est informé d’une violation juridique concrète. Il doit alors non seulement supprimer la publication incriminée, mais aussi vérifier si des contenus similaires existent sur la plateforme et poursuivent la même violation du droit. À défaut, il peut être considéré comme un trouble-fête indirect et être contraint à cesser l’atteinte.
MTR Legal avocats conseille de manière exhaustive en droit informatique.
N’hésitez pas à nous contacter !
