Dezbateri parlamentare

Domnul Vasile-Daniel Suciu:

30. Proiectul de Lege privind utilizarea responsabilă a tehnologiei în contextul fenomenului deepfake; PL-x 471/2023.

Dacă din partea iniţiatorilor doreşte cineva să ia cuvântul? Nu.

Comisia pentru tehnologia informaţiei şi Comisia pentru cultură, vă rog, raportul comun.

Domnul Iulian Bulai (din sală):

Procedură!

Domnul Vasile-Daniel Suciu:

Pe procedură, domnul Moşteanu.

Domnul Liviu-Ionuţ Moşteanu:

Deepfake-ul e o problemă importantă care trebuie reglementată într-un mod care să poată fi şi aplicat, să funcţioneze, să ne asigurăm că avem o lege cu care instituţiile statului pot să lucreze, care să nu predispună la abuzuri.

E o discuţie care a trecut foarte repede prin comisii.

Şi fac un apel la toţi colegii din Parlament, să retrimitem acest proiect două săptămâni la comisie, să avem o nouă serie de dezbateri în comisii.

Două săptămâni ne vor ajuta să facem acest proiect, cum spuneam, să şi funcţioneze, un proiect la care cred că vom vedea unanimitate.

Şi, vă rog, haideţi să fim de acord să retrimitem acest proiect la comisie pentru două săptămâni, pentru a face un proiect beton.

Mulţumesc.

Domnul Vasile-Daniel Suciu:

Aş fi preferat să faceţi această solicitare la începutul şedinţei, dar este atributul dumneavoastră şi acum.

Stimaţi colegi,

Vă rog să vă pregătiţi cartelele.

Retrimitere la comisie, două săptămâni, a PL-x 471/2023.

Vot, vă rog.

Cu 65 de voturi pentru, 92 contra şi 5 abţineri, propunerea dumneavoastră nu a întrunit numărul de voturi.

Rămăsesem la rugămintea mea ca cineva de la Comisia pentru tehnologia informaţiei şi de la Comisia pentru cultură să prezinte raportul comun.

Domnul Bulai?

Vă rog.

Domnul Iulian Bulai:

Mulţumesc, domnule preşedinte.

Raport comun asupra Proiectului de Lege privind utilizarea responsabilă a tehnologiei în contextul fenomenului deepfake

În conformitate cu prevederile art. 95 din Regulamentul Camerei Deputaţilor, republicat, Comisia pentru cultură, arte, mijloace de informare în masă şi Comisia pentru tehnologia informaţiei şi comunicaţiilor au fost sesizate spre dezbatere în fond cu Proiectul de Lege privind utilizarea responsabilă a tehnologiei în contextul fenomenului deepfake.

Senatul, în calitate de primă Cameră sesizată, a adoptat proiectul, în şedinţa din 26 iunie 2023.

În luna decembrie a fost adoptat şi la comisiile din cadrul Camerei Deputaţilor, proiect adoptat cu majoritatea voturilor existente.

Vă mulţumesc.

Domnul Vasile-Daniel Suciu:

Şi eu vă mulţumesc.

Intervenţii din partea grupurilor parlamentare.

Domnul Coleşa, din partea Grupului AUR.

Domnul Ilie-Alin Coleşa:

Mulţumesc, domnule preşedinte de şedinţă.

Deci, sub pretextul luptei împotriva deepfake-ului, a falsului, se legiferează posibilitatea unor grave abuzuri din partea majorităţii parlamentare.

Dacă într-adevăr această iniţiativă legislativă ar fi dorit lupta împotriva falsului şi a minciunii sub orice formă - text, audio sau video -, atât pe reţelele sociale, dar şi în toată mass-media, chiar şi în cea plătită de PSD şi PNL, am fi susţinut-o.

Această iniţiativă legislativă defineşte însă deepfake-ul doar ca o contrafacere a unui conţinut de tip imagine audio sau video, nu şi sub formă de text şi nu când e vorba de un mesaj fals, grosolan, fără a avea loc o prelucrare audio sau video, deci o definiţie incompletă faţă de Regulamentul Uniunii Europene din 2022, la care această lege face referire.

Realitatea este că se creează posibilitatea unor abuzuri din partea autorităţilor statului, în special ANCOM sau CNA.

Chiar şi autorităţile statului au recunoscut, prin Institutul Naţional de Cercetare-Dezvoltare în Informatică, că detecţia falsurilor audio sau video este foarte greu de făcut, folosind cei mai noi algoritmi în inteligenţa artificială şi cu un grad mare de erori.

Deci, dacă nici specialiştii, folosind cei mai noi algoritmi, nu pot să detecteze în mod corect, cum ar putea oamenii care prin această lege sunt incriminaţi şi li se aplică o amendă extrem de mare să o facă, să detecteze? Nu pot, evident.

Ca atare, această lege nu va produce decât abuz sau frică. De cine? ANCOM, de exemplu, o instituţie condusă de nişte iluştri politruci - Zgonea, care este... a fost condamnat penal sau Pavel Popescu, pe care l-am văzut de atâtea ori răspândind deepfake de la această tribună.

Ca atare, Grupul AUR va vota contra.

Domnul Vasile-Daniel Suciu:

Domnul Bulai.

Domnul Iulian Bulai:

Vă mulţumesc, domnule preşedinte.

Stimaţi colegi,

Stimate colege,

Guvernatorul României, domnul Isărescu, este victimă a deepfake - acum 3 zile.

Grindeanu, ministrul dumneavoastră, este victimă a deepfake - cum că susţine vânzarea de acţiuni pe nişte platforme financiare.

STB-ul - Societatea de Transport Bucureşti - este victimă.

Nu se rezolvă nimic, pentru că avem instituţii eşuate, nu pentru că nu avem legislaţie.

Tot ce se poate reglementa pentru a elimina deepfake-ul din spaţiul public din România există reglementat şi se poate face mâine, dacă CNA-ul împreună cu ANCOM-ul ar funcţiona. Nu funcţionează! Pentru că oamenii care au ajuns acolo nu-şi fac treaba şi nu aplică legea.

Şi iată cum Grindeanu, care acum poate este victimă, pentru că nu şi-a făcut treaba la ANCOM atunci când a condus instituţia... (Aplauze.) ...acum suferă... (Aplauze.) ...de acest abuz. (Vociferări.)

Ce vreau să spun? Din 2021 avem o directivă care se numeşte AVSM - Audio Video Social Media - care dă CNA-ului competenţă de intervenţie, în cadrul platformelor online, pentru a elimina abuzuri.

ANCOM-ul poate să oblige platformele în a elimina aceste tipuri de manipulări, dacă doreşte. Nu se vrea. (Vociferări.)

De asemenea, SRI-ul poate să-şi facă foarte bine treaba, dincolo de orice legislaţie care este redundantă.

Nu a fost consultat mediul jurnalistic, nu au fost consultaţi specialiştii.

În plus, se limitează la ideea de deepfake generat de inteligenţa artificială.

STB-ul a fost făcut printr-un operator creativ, nefolosind inteligenţa artificială.

Deci nu-şi va atinge obiectul acest tip de legislaţie, pentru că nu este făcut în consultare cu cei care pot să genereze plusvaloare.

În plus...

Domnul Vasile-Daniel Suciu:

Mulţumesc.

Domnul Iulian Bulai:

...încă un lucru, domnule preşedinte, ca să ştie colegii şi colegele ce votează.

Se propune pedeapsa cu 6 luni până la 2 ani de închisoare pentru realizarea de fake-uri, adică act artistic.

Nu realizarea este problema, distribuirea lui cu rea-intenţie...

Domnul Vasile-Daniel Suciu:

Mulţumesc...

Domnul Iulian Bulai:

...în sens manipulatoriu.

Altfel...

Domnul Vasile-Daniel Suciu:

...domnule Bulai.

Domnul Iulian Bulai:

...pedepsim creatorii de filme şi de produse culturale.

Vă rog să întoarcem la comisie.

Altfel, vom face mai mult rău decât să găsim soluţii.

Mulţumesc.

Domnul Vasile-Daniel Suciu:

Haideţi să intercalăm puţin.

Domnul Muncaciu şi după aceea vom reveni la un domn de la USR.

Domnul Sorin-Titus Muncaciu:

Doresc să vă atrag atenţia asupra acestei legi, deoarece există o chestiune foarte serioasă. Este vorba de primul amendament, dreptul la free speech - dreptul la cuvânt liber.

Acum, dacă noi nu aplicăm criterii serioase pentru definirea deepfake şi dacă din punct de vedere tehnologic nu amendăm acest lucru, lăsăm ANCOM-ul să decidă fără niciun fel de linii directoare, adică guidelines.

Şi, atunci, vreau să vă spun, ca unul dintre aceia care am fost victima ANCOM-ului, care a oprit, în timpul alegerilor din 2020, revista noastră, timp de 6 luni, că acest lucru nu este de joacă, pentru că aici avem de a face cu o atitudine pe care ANCOM-ul nu ar trebui să o aibă decât în cadrul legii, adică să existe criterii clare pentru care ANCOM-ul poate să oprească un website.

Eu sunt de acord că aceste deepfake-uri, cele făcute în scopuri pecuniare, bineînţeles că trebuie pedepsite, dar vă aduc încă o dată aminte asupra pedepsei cu libertatea. Nu se justifică să iei libertatea unor oameni pentru vini, pentru acţiuni neviolente.

Nu suntem de acord ca să fie pedeapsă cu închisoarea pentru fapte neviolente. Se pot amenda, se pot scoate din...

Există alte măsuri, nu trebuie neapărat să pedepsim cu închisoarea, asta vreau să vă spun.

Domnul Vasile-Daniel Suciu:

Domnule Miruţă, vă rog.

Domnul Radu-Dinel Miruţă:

Un proiect făcut de amatori de la un capăt până la celălalt.

Există această situaţie în lume cu deepfake, există inteligenţă artificială, însă, în acest moment, modul în care a fost propus acest proiect nu rezolvă scopul pentru care el a fost invocat.

În acest moment, nu există nicio instituţie în România care să poată clasifica că un material informatic este sau nu este fake.

Şi, atunci, întrebarea mea e - cum va funcţiona?

ANCOM spune că nu poate să facă treaba asta, CNA spune că nu poate să facă treaba asta, SRI nu poate să facă treaba asta, DNSC nu poate să facă treaba asta.

PSD ce vrea să facă? PSD - vine campania electorală şi nu vrea să fie înjurat pe stradă.

O să găsească lumea metode şi prin alte mijloace.

Singura soluţie pentru a limita această problemă - existentă, de altfel - este printr-o abordare la nivel european, astfel încât furnizorii de conţinut - platformele acestea care propagă prin mediul electronic, prin mediul online, conţinutul respectiv, să aibă capacitatea de a identifica în formatul acela electronic conţinutul, că este creat artificial. Iar pentru acest lucru trebuie o colaborare între companiile care produc conţinut şi între companiile care livrează conţinut.

Altfel nu se va rezolva această problemă.

Şi este un pic ciudat ca dumneavoastră să vreţi să ţineţi aşa Dunărea, cu pieptul, crezând că dacă vorbiţi de la tribuna Parlamentului că opriţi subiectul acesta, el se va şi opri.

Nu vă pricepeţi la digitalizare, cum nu v-aţi priceput nici la agricultură, nici la energie şi cum nu vă pricepeţi de fapt la nimic, de 30 de ani, în ţara asta, domnilor de la PSD.

Domnul Vasile-Daniel Suciu:

Mulţumesc.

Domnule Grosaru, vă rog.

Domnul Andi-Gabriel Grosaru:

Mulţumesc, domnule preşedinte.

Stimaţi colegi,

Ne-am încălzit foarte tare în a discuta în jurul unui concept, un concept împrumutat din alt sistem legislativ.

În primul rând, Constituţia României spune că limba română este limba oficială a României.

Dacă este să citim acest proiect de lege, o să vedem la art. 1 că spune că: "prezenta lege reglementează difuzarea oricărui conţinut vizual şi/sau audio generat sau manipulat..." etc.

În 4 articole, stimaţi colegi, din care jumătate de pagină... 4 articole pe două pagini, din care pe jumătate de pagină avem numai sancţiuni, în condiţiile în care nu am reglementat aspectele ce ţin de utilizarea tehnologiei, utilizarea proprietăţii intelectuale, care sunt incidente, cu privire la acest model, aspectele ce ţin de comunicare, nu în ultimul rând, impactul lor asupra canalelor de transmisie a oricărui tip de informaţie.

Deci este un proiect de lege care deocamdată ar trebui să mai... să se mai lucreze asupra lui.

Aşa cum este el reglementat, încalcă inclusiv aspectele de norme şi tehnică legislativă.

Drept pentru care, aşa cum vă spuneam, recomand să îl trimitem la comisie, pentru a se mai lucra asupra lui.

Mulţumesc.

(Domnul deputat Antonio Andruşceac solicită să ia cuvântul.)

Domnul Vasile-Daniel Suciu:

Domnule Andruşceac, numai o secundă, domnule Andruşceac, au vorbit...

Domnul Antonio Andruşceac (din sală):

Lăsaţi, că e loc să vorbesc două minute! (Vociferări.)

Domnul Vasile-Daniel Suciu:

Nu, ce este? (Vociferări.)

Nu există cu "se poate".

Numai o secundă, au vorbit 2 colegi de la AUR...

Domnul Antonio Andruşceac (din sală):

Şi ce dacă...? E voie.

Domnul Vasile-Daniel Suciu:

Nu e voie, domnule Andruşceac. (Vociferări.)

Numai o secundă...

Întrucât timpul alocat acestei şedinţe a expirat, vom relua discuţia pe articole într-o şedinţă ulterioară.

Ne revedem la ora 11.30, la şedinţa de vot final.

Mulţumesc.