Susținerea actuală pentru Chat Control (sursă imagine)

Din timp în timp, la nivel internațional apar tot felul de inițiative nătăflețe legate de reglementarea comunicațiilor pe internet. Spun nătăflețe deoarece adesea par făcute de persoane de vârsta a treia care nu înțeleg cum funcționează internetul și nu realizează cum măsurile pe care le-ar dori implementate pot avea rezultate nedorite. Dacă prin 2012 mare parte din internet era ocupat cu a milita împotriva ACTA (Anti-Counterfeiting Trade Agreement) sau SOPA (Stop Online Piracy Act), în 2025 a venit vremea unei inițative colocvial numite Chat Control, o inițiativă la nivelul Uniunii Europene ce dorește, printre altele, desecretizarea conversațiilor purtate în cadrul aplicațiilor de mesagerie (ca, de exemplu, WhatsApp sau Facebook Messenger).

 În cazul particular al aplicațiilor de mesagerie, ceea ce se dorește este implementarea unei metode de scanare a mesajelor și imaginilor transmise pentru detectarea unor comportamente ilegale și potențial periculoase pentru populație. Intențiile din spatele Chat Control par bine intenționate: protejarea minorilor de abuzuri, detectarea comportamentelor extremiste și prevenirea actelor de terorism ori împiedicarea accesului minorilor la conținut nepotrivit vârstei lor.

Deoarece comunicațiile prin intermediul acestor aplicații sunt, de regulă, criptate cu algoritmi standard (considerați a fi impenetrabili de specialiștii din domeniu), acest lucru ar fi posibil prin scanarea conținutului post-decriptare - concret, însăși aplicația în sine s-ar ocupa de acest lucru. Folosind algoritmi de inteligență artificială, acestea ar trebui să raporteze conținutul care intră sub incidența legii. Evident, acest lucru înseamnă, practic, violarea secretului corespondenței și reprezintă o ingerență la adresa intimității persoanei, în final fiind o schemă de supraveghere în masă a populației. În mod interesant, ar urma să fie exceptate de la acestea chiar politicienii (pe lângă alte categorii profesionale), sub pretextul secretului de serviciu.

Ca programator, deși nespecialist în criptologie, văd însă câteva probleme care ar face ineficientă această inițiativă și ar face ca singurii cu adevărat afectați de aceasta să fie cetățenii de bună credință:

1. Funcția de scanare trebuie implementată în aplicații 

Cum spuneam, aplicații precum WhatsApp, Signal sau Telegram comunică criptat pentru a face imposibilă interceptarea mesajelor (de "hackeri", mai ales), drept urmare scanarea pentru conținutul ilegal ar trebui să fie implementată în partea finală a firului de comunicație, adică în însăși aplicația mobilă. Aplicații precum Signal sunt open-source, ceea ce înseamnă că pot fi modificate de oricine (care deține abilitățile necesare - cum ar fi subsemnatul). Drept urmare, dacă aș fi băiat rău și aș vrea să fac niște lucruri rele, aș descărca sursele Signal, aș elimina componenta care se ocupă de scanarea conținutului mesajelor mele și aș comunica nestingherit cu ceilalți băieți răi din gașcă. Singurii care ar rămâne descoperiți ar fi cetățenii de bună credință, care ar putea intra în belele pentru că...

2. Algoritmii de inteligență artificială sunt impreciși 

Acum câțiva ani, Facebook mă anunță că mi-a șters această fotografie deoarece încalcă standardele comunității:

Acum imaginează-ți că trimiți, într-un grup de WhatsApp, o fotografie cu bebelușul tău iar un clanker (termen peiorativ pentru inteligența artificală) decide că acea fotografie este subiectul unui schimb de material pornografic cu minori și îți trimite mascații pe capul tău.

3. Scanarea în masă a internetului pur și simplu nu funcționează

Sursă imagine: CBS News

Atacurile teroriste din Christchurch din 2019. Un bărbat intră în două moschei din Noua Zeelandă și ucide, într-un atac armat, 51 de persoane, rănind altele 40. Autorul atacului, Brenton Harrison Tarrant, postase în mod repetat încă începând cu un an înainte despre intețiile sale, și chiar a publicat un manifest cu puțin timp înainte de atac, pentru ca apoi să transmită masacrul live pe Facebook. Deși postările sale erau publice, acest lucru nu a putut împiedica uciderea celor 51 de oameni, cu toate că autorul chiar postase informații personale care îl puteau identifica.

Realitatea e că pe internet circulă o cantitate uriașă de informație și ar fi naiv să crezi că ai putea, cumva, analiza în mod eficient tot acest trafic. Nu reușesc să înțeleg cum cei care vin cu astfel de inițiative își imaginează că ar putea funcționa, din punct de vedere tehnic, ceea ce își doresc să vadă implementat. Poate ar trebui să îi întrebe pe cei de la Meta despre cât de dificil este de moderat conținutul generat de utilizatori și cât de des se întâmplă să apară false-positives sau, dimpotrivă, conținutul neregulamentar să treacă pe sub radar.

Mai multe despre inițiativa Chat Control și ce poți face în privința acesteia poți afla de pe site-ul https://fightchatcontrol.eu.