Uniunea Europeană face un pas decisiv în lupta împotriva dezinformării generate de inteligența artificială.
Începând cu 2 august, conținutul creat cu AI și prezentat ca fiind autentic va trebui marcat în mod vizibil, iar companiile care nu respectă noile reguli riscă amenzi de până la 15 milioane de euro sau 3% din cifra de afaceri globală, potrivit The Guardian.
Măsura face parte din AI Act, prima legislație europeană dedicată inteligenței artificiale, și vine pe fondul exploziei fenomenului deepfake, care a adus în spațiul online imagini, videoclipuri și înregistrări false cu politicieni și alte personalități publice.
Ce se schimbă din 2 august
Noile reguli obligă dezvoltatorii și companiile să informeze utilizatorii atunci când interacționează cu un chatbot bazat pe inteligență artificială sau când vizualizează imagini, videoclipuri, înregistrări audio ori texte generate de AI.
Toate materialele sintetice create pentru a părea reale vor trebui marcate vizibil și vor conține un filigran digital care să indice originea lor artificială.
De asemenea, textele privind subiecte de interes public vor trebui etichetate dacă au fost generate de inteligența artificială și nu au beneficiat de verificare editorială umană.
Sistemele AI lansate pe piața europeană după 2 august trebuie să respecte imediat noile reguli, în timp ce platformele deja existente beneficiază de o perioadă de grație de patru luni.
Unul dintre negociatorii AI Act, eurodeputatul Sergey Lagodinsky, spune că miza depășește protecția consumatorilor: „Nu este doar o chestiune de protecție a consumatorilor, ci și de protejare a democrației. Transparența acestor informații este esențială pentru a păstra democrația și autenticitatea faptelor din mediul online.”
Deepfake-urile care au alarmat Europa
Noile reguli vin după o serie de falsuri digitale care au făcut înconjurul internetului și au demonstrat cât de ușor poate fi manipulată opinia publică.
Printre cele mai cunoscute exemple se numără:
· o înregistrare audio falsă în care liderul opoziției din Slovacia, Michal Šimečka, părea că discută despre fraudarea alegerilor;
· videoclipuri trucate în care președintele Franței, Emmanuel Macron, apărea dansând într-un club de noapte din anii ’80;
· imagini false cu fostul lider laburist britanic Keir Starmer insultând membri ai propriului partid.
Amenzi uriașe pentru companiile care ignoră legea
Companiile care nu respectă obligațiile privind transparența riscă sancțiuni de până la 15 milioane de euro sau 3% din cifra de afaceri anuală globală.
Comisia Europeană a pus deja la dispoziția firmelor modele standard de etichete, însă fiecare companie își poate crea propriul sistem de identificare, cu condiția să respecte cerințele AI Act.
Regulile nu se aplică materialelor personale publicate de utilizatori și nici operelor evident artistice, satirice sau de ficțiune.
Marile companii din tehnologie spun că susțin identificarea conținutului fals, însă avertizează că noile reguli riscă să fie aplicate excesiv.
Potrivit Computer and Communications Industry Association (CCIA), orientările publicate de Comisia Europeană în luna iulie extind foarte mult definiția unui deepfake.
„Eticheta era destinată conținutului înșelător. Această distincție a dispărut, astfel încât aproape orice va trebui etichetat – un peisaj modificat într-o reclamă ajunge să fie tratat la fel ca un discurs politic manipulat. La fel ca bannerele privind cookie-urile, dacă etichetele apar peste tot, utilizatorii încetează să le mai observe. Asta nu protejează pe nimeni, ci doar împovărează activitatea comercială”, a precizat sursa citată.
Reprezentanții industriei spun că cele mai mari schimbări nu vor fi pe rețelele sociale, unde multe platforme etichetează deja conținutul creat cu AI, ci în domenii precum publicitatea, cinematografia și industria editorială.
„Ne putem aștepta la mult mai multe etichete în sectoare care nu sunt asociate în mod obișnuit cu inteligența artificială, iar povara va cădea în special asupra celor mai puțin familiarizați cu reglementările privind AI”, a mai afirmat sursa citată.
Google și Meta au început deja să se adapteze
Google a lansat încă din 2023 instrumentul SynthID, care permite identificarea imaginilor generate cu inteligență artificială prin intermediul unui filigran digital invizibil. Compania susține că tehnologia a fost aplicată deja pe peste 100 de miliarde de imagini și pe echivalentul a 60.000 de ani de înregistrări audio.
Atât Google, cât și Meta au semnat codul voluntar de bune practici elaborat de Comisia Europeană pentru respectarea AI Act.
Meta afirmă că dezvoltă standarde comune pentru identificarea conținutului audio și video generat cu AI.
Vicepreședintele companiei pentru politici publice în Europa, Markus Reinisch, avertizează însă că utilizatorii riscă să fie bombardați cu prea multe avertismente.
„Trebuie să evităm o situație în care conținutul online este însoțit de tot mai multe etichete și avertismente diferite, care ajung să copleșească utilizatorii, în timp ce sporesc și complexitatea reglementărilor pentru furnizori”, a declarat Markus Reinisch.
Comisia Europeană: AI aduce beneficii, dar și riscuri fără precedent
Vicepreședinta executivă a Comisiei Europene, Henna Virkkunen, spune că inteligența artificială reprezintă una dintre cele mai importante tehnologii ale momentului, însă modelele cele mai avansate generează și riscuri majore.
„Europa a anticipat această evoluție. Prin AI Act am creat un cadru clar, bazat pe evaluarea riscurilor și conceput pentru a rezista în timp, astfel încât inteligența artificială să fie demnă de încredere. Acest cadru oferă inovatorilor certitudine juridică și, în același timp, protejează interesul public”, a explicat Henna Virkkunen.
Giganții tehnologici încep să se adapteze noilor reguli europene privind inteligența artificială. Cu doar câteva zile înainte ca prevederile AI Act să intre în vigoare, Google și Meta anunță instrumente și măsuri prin care utilizatorii vor putea identifica mai ușor imaginile, videoclipurile și fișierele audio generate cu AI.
În centrul acestor eforturi se află transparența, o cerință-cheie a legislației europene, care obligă platformele să informeze utilizatorii atunci când conținutul este creat sau modificat cu ajutorul inteligenței artificiale.
Încă din 2023, Google a lansat SynthID, un instrument care permite verificarea imaginilor generate cu inteligență artificială.
Compania afirmă că tehnologia utilizează un filigran digital invizibil, imposibil de observat cu ochiul liber, dar detectabil prin instrumente speciale. Până în prezent, Google spune că a aplicat acest sistem pe peste 100 de miliarde de imagini și pe echivalentul a 60.000 de ani de înregistrări audio.
Peste 180 de organizații au aderat la codul european de bune practici
Google și Meta, compania care deține Facebook și Instagram, au semnat codul voluntar de bune practici elaborat de Comisia Europeană pentru a facilita respectarea obligațiilor prevăzute de AI Act.
Potrivit Executivului european, peste 180 de organizații au aderat deja la documentul redactat de experți independenți sub supravegherea Oficiului UE pentru Inteligență Artificială.
Autoritățile europene consideră semnarea codului un semnal de bună-credință din partea companiilor. Organizațiile care aleg să nu îl semneze vor trebui să demonstreze prin alte metode că respectă cerințele impuse de legislația europeană.
Meta a introdus încă din 2024 politici prin care utilizatorii pot identifica imaginile fotorealiste generate cu inteligență artificială și spune că dezvoltă standarde comune pentru detectarea conținutului audio și video creat cu AI.
Compania avertizează însă că aplicarea excesivă a etichetelor ar putea avea efectul invers celui dorit.
„Trebuie să evităm o situație în care conținutul online este însoțit de tot mai multe etichete și avertismente diferite, care ajung să copleșească utilizatorii, în timp ce sporesc și complexitatea reglementărilor pentru furnizori”, a declarat Markus Reinisch, vicepreședinte Meta pentru politici publice în Europa.
Eurodeputatul Sergey Lagodinsky, unul dintre autorii AI Act, este convins că marile companii tehnologice se vor adapta fără dificultăți majore noilor obligații.
„Am un respect profund pentru industrie, dar, în foarte multe cazuri, companiile se plâng la început, iar după ce măsurile sunt implementate constată că acestea nu sunt atât de împovărătoare. Există întotdeauna o soluție”, a precizat Sergey Lagodinsky.
Din 2 august începe aplicarea AI Act
Noile obligații privind transparența fac parte din implementarea amplă a AI Act, regulamentul european care stabilește primul cadru juridic dedicat inteligenței artificiale.
Începând cu 2 august, sistemele AI introduse pe piața Uniunii Europene vor trebui să respecte noile reguli privind identificarea conținutului generat artificial.
Vicepreședinta executivă a Comisiei Europene responsabilă de politica tehnologică, Henna Virkkunen, afirmă că inteligența artificială are potențialul de a transforma economia și societatea, însă modelele cele mai avansate necesită reguli clare și mecanisme solide de control.
Noile reguli urmăresc să combată dezinformarea, să crească încrederea utilizatorilor și să stabilească un standard comun pentru dezvoltarea responsabilă a inteligenței artificiale în întreaga Uniune Europeană.
Sursa stirileprotv.ro