Contrôle de chat: Pourquoi l’UE met en péril votre vie privée numérique

Imaginez que quelqu'un lise bientôt TOUS vos messages avant même qu'ils ne soient envoyés.

Chaque photo, chaque lien, chaque conversation privée, tout serait examiné, analysé et numérisé pour détecter tout contenu suspect. On dirait de la science-fiction dystopique? Malheureusement, pas. C’est précisément ce qui nous menace avec ce que l’on appelle le «contrôle par chat», sur lequel le Conseil des ministres de l’UE doit se prononcer le 14 octobre.

En plus d'une Pétition de dernière minute sur WeAct.org La société numérique est également largement opposée à ces projets.

Qu'est-ce que le contrôle de chat?

Les La Commission européenne a présenté un nouveau projet de règlement, qui créerait une infrastructure de surveillance sans précédent sous le couvert officiel de «lutte contre les abus sexuels commis contre des enfants».
L'idée de base semble d'abord compréhensible: L'objectif est d'empêcher la diffusion de matériel pédopornographique via Messenger et les réseaux sociaux.

Voilà, c'est compréhensible! Personne ne veut que de tels crimes se produisent. Mais les méthodes proposées pour cela sont le super-GAU numérique absolu.

Analyse côté client: Le bon nom pour la surveillance sur votre appareil

Le cœur du contrôle du chat est ce qu’on appelle le «client-side-scanning», un terme qui semble plus inoffensif qu’il ne l’est. En clair, cela signifie: Avant même que votre message ne soit crypté et envoyé, il est scanné directement sur votre smartphone ou votre ordinateur.

Vous utilisez WhatsApp, Signal ou Threema avec cryptage de bout en bout? C'est sûr, n'est-ce pas? Pas plus quand le contrôle de chat arrive. En effet, qu'apporte le meilleur chiffrement si vos messages sont déjà contrôlés avant le chiffrement? C'est comme si vous achetiez un coffre-fort avec des murs en acier, mais la porte est ouverte en permanence.

Des portes dérobées que personne ne peut contrôler

Le Chaos Computer Club (CCC) fait le point: L'analyse côté client n'est rien d'autre qu'une description enjolivée pour une surveillance directe sur votre terminal. Et pour que cela fonctionne, des failles de sécurité, appelées portes dérobées ou portes dérobées, doivent être intégrées intentionnellement dans le logiciel.

Maintenant, vous pouvez bien sûr penser à ce qui se passe si vous créez intentionnellement des failles de sécurité: Ils ne resteront pas longtemps secrets. Les cybercriminels, les États ennemis, les agences de renseignement, tous feraient la queue pour exploiter ces vulnérabilités. La porte-parole du CCC, Elina Eickstädt, met donc en garde à juste titre: «Nous ouvrons la porte à des attaques contre des infrastructures de communication sécurisées.»

Une collection peut être trouvée sur Netzpolitik.org: Depuis des années, des centaines de Experts en informatique, juristes, Protection des données, Organisations numériques, Entreprises de technologie, messagers, Représentants des Nations unies, Protecteurs d'enfants, Les gardiennes des standards d'Internet, dans le monde entier contre le contrôle du chat.

Une largeur incroyable le La société civile rejette le contrôle des chats, parce qu'elle deviendrait la machine de surveillance la plus grande et la plus dangereuse d'Europe.

Même les services secrets, Experts internationaux en sécurité, Scientifiques et recherche déconseillent de telles mesures. Par conséquent, si même les professionnels de la cybersécurité disent «préférez-vous le laisser faire», faut-il peut-être écouter?

La catastrophe des fausses informations

Mais ça devient encore plus absurde. En effet, le contrôle du chat doit rechercher non seulement du matériel d’abus connu, mais également des représentations jusqu’alors inconnues. À cette fin, il est prévu d’utiliser des systèmes d’IA, des systèmes notoirement sujets aux erreurs.

Qu'est-ce que cela signifie concrètement? millions de fausses nouvelles. Votre photo de vacances à la plage avec votre enfant? Peut être marqué comme suspect. Le mème drôle que vous avez partagé? Peut-être aussi. Un lien vers un site totalement inoffensif? Qui sait?

Les services d'enquête se noieraient dans une mer de faux positifs, tandis que les vrais cas s'évanouiraient dans les déchets de données.
Même les forces de l'ordre et les organisations de protection de l'enfance critiquent cette approche comme contre-productive. Si les personnes qui devraient bénéficier de la mesure disent «cela ne sert à rien», il faudrait peut-être réfléchir à nouveau.

Europe Calling discute des détails dans le dernier webinaire

La vidéo avec le titre #238 «Contrôle par chat – protection de l’enfance ou surveillance de masse?» est l'enregistrement d'un webinaire d'Europe Calling qui se penche de manière critique sur le projet législatif de l'UE relatif à Contrôle du chat exposer. Les principaux points du webinaire sont:

Des mesures de sécurité judicieuses («safety by design») sur des plateformes où les enfants et les adultes se rencontrent autrement sans protection (par exemple, les plateformes de jeux) au lieu d’une surveillance de masse inopinée de tous!

Surveillance massive: La loi proposée introduirait une surveillance de masse automatique et sans motif et la numérisation de toutes les communications électroniques privées (telles que le signal, WhatsApp, les courriels) dans l'UE, prétendument pour se protéger contre les abus sexuels commis contre des enfants.

Attaque contre les droits fondamentaux et le cryptage: Les experts appellent cela une attaque sans précédent contre la vie privée, la sécurité informatique, le secret des télécommunications et la présomption d'innocence. L’introduction obligatoire du «client-side-scanning» (surveillance sur son propre appareil avant l’envoi d’un message) est présentée comme suit: Une menace existentielle critiqué pour des services cryptés tels que Signal et comme un «crime mental».

Présence d'erreurs et abus: Il est averti que le système est extrêmement sujet aux erreurs et générerait un flot de faux positifs (jusqu'à un milliard d'affaires potentielles), ce qui surchargerait les forces de l'ordre. En outre, l'infrastructure de surveillance une fois mise en place pourrait facilement être utilisée à d'autres fins.

Urgence politique: Il est souligné qu'après le prétendu changement de position de la France, l'Allemagne est le pays décisif au sein du Conseil de l'UE. Les orateurs appellent les citoyens à contacter d'urgence les députés allemands pour demander le rejet de la loi.

Autres mesures: Au lieu de la surveillance de masse, des mesures ciblées et plus efficaces sont proposées, notamment:

Investissements massifs dans le travail social, la prévention et l'aide aux victimes.

Renforcement des unités de police spécialisées et concentration sur le Darknet, où opèrent des réseaux criminels.

Pour résumer, vous trouverez toute la vidéo ici:

Effets de Chilling: Quand l'autocensure devient normale

Imaginez que vous sachiez que chacun de vos messages est scanné. Est-ce que vous communiqueriez aussi librement? Probablement pas. C’est précisément ce qu’est le fameux «Chilling Effect», l’autocensure par peur de la surveillance.

Ce n'est pas seulement le cas d'Otto consommateur normal. Des lanceurs d'alerte qui dénoncent des dysfonctionnements? Il n'est plus possible de communiquer confidentiellement avec les journalistes. Les journalistes eux-mêmes? Perdre la protection des sources, qui est essentielle pour le travail d'investigation. Des militants dans des régimes autoritaires? Il n'y a plus de moyen de communication sécurisé.

Et c'est là que ça devient vraiment dangereux:

Une telle infrastructure de surveillance serait un cadeau pour les États autocratiques. Si l'UE montre comment mettre en œuvre l'analyse côté client, il ne faudra pas longtemps avant que les dictatures du monde entier réclament la même chose, juste pour réprimer l'opposition et la critique.

Que fait l'Allemagne?

Ici, c'est politiquement explosif. Jusqu'à présent, le gouvernement fédéral reste silencieux sur la position allemande. Ni le ministère de l'Intérieur, ni le ministère de la Justice, ni le ministère du Numérique ne se sont exprimés. C’est particulièrement piquant, car l’accord de coalition entre la CDU/CSU et le SPD indique que l’on veut «continuer à garantir la confidentialité des communications privées et l’anonymat sur le réseau».

Le gouvernement des feux de circulation était toujours contre le contrôle des chats. Maintenant, il y a le silence. Des ONG comme celle-ci CCC, D64 et l’alliance «Arrêter le contrôle des chats» tirent la sonnette d'alarme et demandent au gouvernement fédéral de s'en tenir au non. En effet, un veto allemand pourrait encourager d'autres pays de l'UE à voter également contre.

Le commissaire fédéral à la protection des données met également en garde

Particulièrement remarquable: Même les services officiels tirent la sonnette d'alarme. Le délégué fédéral à la protection des données et à la liberté de l'information (BfDI) a pris position sans ambiguïté: «L’analyse de l’ensemble du contenu des messages privés n’est pas une option. Le projet de règlement de la Commission dans sa forme initiale ne peut donc pas être mis en œuvre.»

Le BfDI met en garde contre le fait que le contrôle du chat «l'entrée dans une surveillance de masse sans motif«, et ce depuis que la loi a été débattue pour la première fois. Ce n'est pas une bagatelle: Si même la plus haute autorité fédérale de protection des données met en garde contre un projet de loi, toutes les sonnettes d'alarme devraient sonner.

Les experts en droit numérique sont d'accord

Le juriste, juge, activiste des droits numériques (et ancien député européen) Patrick Breyer est qui prend clairement position.

Dangers cachés supplémentaires

Le contrôle du chat a d'autres aspects problématiques qui restent souvent sous le radar:

Blocage du réseau et surveillance du comportement de navigation: Le projet de règlement prévoit que les fournisseurs d'accès à l'internet doivent bloquer les URL individuelles. Le problème? Pour ce faire, ils doivent surveiller de manière préventive le comportement de navigation de tous les clients. En outre, cela ne fonctionne pas du tout correctement sur le plan technique pour les connexions cryptées (HTTPS), qui sont aujourd'hui presque partout standard et sont expressément recommandées par l'Office fédéral de la sécurité dans le domaine des technologies de l'information.

Filtrage volontaire des services cloud: Particulièrement perfide: Les fournisseurs d’hébergement et les services d’informatique en nuage, tels que Dropbox ou Google Drive, doivent d’abord procéder eux-mêmes à une «analyse des risques». Ce n'est que lorsque les autorités jugent les mesures inadéquates qu'une injonction officielle est émise. Cela semble d’abord inoffensif, mais cela incite énormément les entreprises à utiliser «volontairement» des systèmes de filtrage sujets aux erreurs, sans les garanties procédurales qui s’appliqueraient en cas d’injonctions des autorités. Le TFV met en garde contre le fait que les droits fondamentaux des utilisateurs tombent ainsi complètement sous la table.

Les professionnels de l'informatique s'y opposent: Ce n'est pas seulement la société civile qui tire la sonnette d'alarme. L'ensemble des professionnels de l'informatique, des chercheurs en sécurité de premier plan et des scientifiques du monde entier rejettent catégoriquement le contrôle du chat comme une menace pour la démocratie. Si tant d'experts sont d'accord, vous devriez peut-être écouter.

Un autre aspect est souvent négligé: Pour mettre en œuvre le contrôle du chat, il faudrait probablement une vérification obligatoire de l'âge pour tous les services de communications numériques. Vous devez donc prouver votre âge avant de pouvoir utiliser WhatsApp, Signal ou toute autre application.

Le problème? Tous les systèmes de vérification de l'âge disponibles sont Droits numériques européens (EDRi) «une menace pour la liberté d’expression, l’autonomie et la vie privée». Soit vous devez télécharger des documents personnels (qui sont ensuite stockés quelque part) ou utiliser des données biométriques telles que des scans faciaux. L'anonymat sur le net? C'était une fois.

Les Société pour les Libertés (GFF) met également en garde: Ceux qui n'ont pas de papiers d'identité ou qui ne veulent pas confier leurs données biométriques à une entreprise seront exclus des technologies de communication élémentaires. Les lanceurs d’alerte, les victimes de harcèlement, les victimes de persécutions politiques dépendent tous de communications anonymes. Le contrôle du chat vous priverait de cette possibilité.

Quelle serait l'alternative?

Les organisations réclament à juste titre: Au lieu de miser sur de prétendues solutions techniques miracles, il faut investir dans une véritable prévention et soutenir les personnes concernées. Plus de ressources pour les services d'enquête, une meilleure prise en charge des victimes, l'éducation et l'éducation! Ce sont des mesures qui ont fait leurs preuves.

Cela ne veut pas dire qu'il ne faut pas lutter contre la maltraitance des enfants. Au contraire! Mais on ne peut pas sacrifier la sécurité numérique de 500 millions de citoyens de l'UE pour une mesure que les experts qualifient d'inefficace et même contre-productive.

Le TFV résume les choses en ces termes: Le projet de règlement poursuit un objectif essentiel pour la protection des enfants et de leurs droits en luttant contre les violences sexuelles à l'égard des enfants. Toutefois, l'efficacité des mesures proposées suscite de sérieux doutes. Le contrôle du chat n'est tout simplement pas le bon outil pour cette préoccupation importante.

Que pouvez-vous faire d'autre maintenant?

L’alliance «Arrêter le contrôle des chats» a publié un guide, comment vous pouvez contacter les ministères, les groupes politiques et les députés du Bundestag concernés. Utilisez-les. Mets la pression. Partagez le sujet sur vos réseaux sociaux.

Il y a aussi une Pétition de dernière minute sur WeAct.org avec laquelle nous, en tant que société numérique, Notre rejet de ces plans pouvoir signaler.

Le vote du 14 octobre n'est pas une mince affaire. Il ne s'agit pas moins que de l'avenir de la vie privée numérique en Europe. Les droits fondamentaux ne devraient pas être négociables, surtout sous le couvert de la protection de l’enfance, même si les organisations de protection de l’enfance s’y opposent.

TL:DR

Le contrôle du chat est une leçon sur la façon dont les intentions bien intentionnées peuvent déboucher sur des cauchemars autoritaires. Personne ne veut que les enfants soient maltraités. Mais les mesures proposées sont comme brûler une maison pour tuer une araignée, sauf que c'est dans cette maison que réside toute notre infrastructure numérique.

Le cryptage ne fonctionne que s'il n'a pas de portes dérobées. La confiance dans la communication numérique ne fonctionne que si elle est vraiment privée.
Et surtout: Les droits fondamentaux ne fonctionnent que s'ils s'appliquent également en temps de crise.

Restez vigilant. Restez bruyant. Et surtout:
Ne permettez pas que la surveillance devienne la norme.

Sources & Liens supplémentaires: