Legea inteligenţei artificiale şi ce riscă firmele care nu se conformează

De la serviciile publice, producție, comerț electronic, până la aria financiar-bancară și piețe de capital, nu există practic domeniu care, în acest moment, să nu fie supus impactului inteligenței artificiale. Soluțiile de business bazate pe AI au devenit deja, în scurta istorie de la apariția lor, un motor important al dezvoltării în diverse sectoare. 

Totul trebuie încadrat într-o legislație potrivită, iar primul set complet de legi care stabilește reguli pentru dezvoltarea, utilizarea și comercializarea inteligenței artificiale (AI) în spațiul european este Actul UE privind inteligența artificială (AI Act). Scopul acestuia este să asigure un echilibru între promovarea progresului tehnologic și protejarea vieții private, a siguranței și a drepturilor fundamentale ale omului.

Pe lângă stabilirea unor linii stricte pentru utilizarea soluțiilor bazate pe inteligența artificială, AI Act impune, de asemenea, sancțiuni severe în caz de neconformare. Este important ca firmele să înțeleagă aceste repercusiuni și să ia măsuri preventive pe măsură ce dezvoltă și implementează tehnologii de inteligență artificială, cum ar fi inteligența artificială vocală și modelele lingvistice de mari dimensiuni (LLM).

Evenimente din lumea reală care au expus riscurile inteligenței artificiale necontrolate

Chatbots rasiste 

Modelele lingvistice instruite necorespunzător au produs mesaje jignitoare prin ingestia de informații tendențioase.

Discriminare la angajare 

Din cauza prejudecăților de fond înrădăcinate în datele de formare, sistemele de recrutare bazate pe AI au produs rezultate distorsionate.

Accidente ale mașinilor autonome

Erorile de recunoaștere a imaginilor au cauzat greșeli grave pentru siguranța rutieră.

Orientările clare privind inteligența artificială în Europa sunt stabilite prin Legea AI Act. Aceasta pune accentul pe justiție, siguranță și transparență, atât pentru cei care creează, cât și pentru cei care utilizează produse AI la locul de muncă.

Consecințe importante ale AI Act asupra companiilor - Evaluarea riscurilor

Există mai multe diferenţe importante între software-ul convențional și sistemele reale de inteligență artificială conform AI Act. Ca să puteți identifica un sistem AI, este nevoie de un răspuns clar la întrebarea-cheie: soluția AI adoptată în compania dvs. se adaptează și funcționează independent? Potențează rezultatele prin “învățarea” din date? Sau aderă pur și simplu la regulile interne?

Instrumentul sau modelul utilizat de către o companie este, cel mai probabil, reglementat de legea privind inteligența artificială, dacă prezintă caracteristici de învățare automată. Rețelele neuronale și modelele lingvistice mari (LLM) sunt exemple în acest sens. Modelele de regresie, algoritmii de categorizare și alte Ai legate de domeniul afacerilor sunt, de asemenea, incluse.

Legea UE privind inteligența artificială aduce o abordare echilibrată, bazată pe evaluarea riscurilor, cu un set de standarde și obligații de adoptat gradual, bazate pe gradul de risc pentru drepturile fundamentale ale omului, pentru siguranță și pentru sănătate. 

Filozofia juridică transparentă a legii se aplică tuturor sectoarelor și întreprinderilor și se concentrează pe utilizarea preconizată a AI. În conformitate cu această abordare bazată pe risc, formularea finală a legii folosește acum un cadru de risc pe patru niveluri, care împarte gradul de risc în patru categorii, în locul unei distincții binare între risc scăzut și risc ridicat, prezentată în cadrul propunerii inițiale privind AI:

• "Riscuri inacceptabile", care vizează practici interzise
• "Riscuri ridicate", care duc la o serie de cerințe complexe și precise
• "Riscuri limitate", care vin cu cerințe de transparență specifice
• "Riscuri minime", în care părțile implicate sunt instruite să creeze în mod voluntar coduri de conduită, indiferent dacă acestea sunt instituite în UE sau într-o țară terță.

Anumite practici de folosire a inteligenței artificiale sunt considerate ca prezentând riscuri inacceptabile și sunt interzise în mod expres în temeiul articolului 5, pe baza acestui sistem de evaluare a riscurilor. Cazuri de utilizare precum evaluarea socială și manipularea comportamentală cognitivă potențial dăunătoare sunt incluse în lista cuprinzătoare a acestor comportamente interzise ale AI. Sancțiunile pentru implicarea în aceste activități interzise ale AI sunt severe.

Cerințe de conformitate cu legea privind inteligența artificială pentru companii

Legea prevede o serie de cerințe pentru sistemele de AI cu risc ridicat, printre care:

• Guvernanța informațiilor și a datelor pentru sistemele de gestionare a riscurilor
• Asigurarea transparenței înregistrărilor tehnice și accesul utilizatorilor la informații
• Securitatea cibernetică, fiabilitatea și precizia monitorizării umane
• Un sistem de gestionare a calității
• Evaluarea impactului asupra drepturilor fundamentale

Deși fac obiectul unei examinări mai reduse, sistemele cu risc limitat sunt evaluate în conformitate cu aceleași aspecte.

Conformarea la standarde industriale de tipul ISO/IEC 42001:2023 - AI Management System - poate ajuta firmele să îndeplinească unele dintre criteriile de conformitate din Legea UE privind IA.

Care sunt sancțiunile care rezultă din neconformarea la AI Act

Statele membre trebuie să stabilească sancțiuni eficiente, rezonabile și descurajante pentru încălcările regulamentelor privind IA.

Următoarele praguri sunt subliniate în regulament și trebuie luate în considerare:

• până la 35 de milioane EUR sau 7% din cifra de afaceri anuală totală a anului fiscal precedent, luându-se în considerare valoarea cea mai mare, pentru încălcarea obligațiilor privind datele sau a practicilor interzise;
• 3% din cifra de afaceri anuală totală a anului fiscal precedent sau până la 15 milioane EUR, pentru nerespectarea oricărei alte cerințe sau obligații din regulament;
• 7,5 milioane EUR sau 1,5% din cifra de afaceri anuală totală a anului fiscal precedent, pentru furnizarea de informații inexacte, incomplete sau eronate la solicitarea autorităților competente naționale.

Deoarece ar trebui să constituie un exemplu, instituțiile, agențiile și organizațiile UE vor fi, de asemenea, guvernate de regulamente și se pot confrunta cu sancțiuni. În cazul în care acestea nu se conformează, Autoritatea Europeană pentru Protecția Datelor va avea autoritatea de a le impune sancțiuni. 

Cum să vă pregătiți afacerea pentru conformarea la AI Act 

Pentru a gestiona și supraveghea în mod corespunzător sistemele AI, un număr tot mai mare de companii creează cadre extinse de administrare a AI. De obicei, aceste cadre cuprind:

• Regulamente interne pentru crearea și utilizarea AI
• Tehnici pentru supravegherea umană, gestionarea riscurilor și validarea datelor
• Regulamente pentru gestionarea datelor și reducerea parțialității

Politicile privind inteligența artificială ar trebui să fie în conformitate cu termenii și condițiile din contractele companiei, cu standardele etice și cu politicile IT generale. Acest lucru garantează faptul că inițiativele privind inteligența artificială sunt conforme cu standardele juridice și de reglementare încă de la început.

Calendarul AI Act și acțiunile viitoare

Februarie 2025: Toate aplicațiile AI care sunt interzise (cum ar fi sistemele discriminatorii sau manipulative) trebuie eliminate.

2026-2027: Vor fi aplicate treptat reglementările pentru sistemele AI cu risc ridicat (sectorul bancar, asistența medicală și resursele umane).

Până în 2030, Legea privind inteligența artificială va fi pe deplin aplicabilă și standardizată în toate statele membre ale UE.

Cuantumul sancțiunilor pentru neconformare este adesea stabilit de sistemele juridice naționale ale statelor membre, deoarece nu există o sursă centralizată de sancțiuni care să se aplice întregii uniuni. Pe de altă parte, Autoritatea Europeană pentru Protecția Datelor și, respectiv, Comisia, impun amenzi entităților din Uniune și furnizorilor de modele GPAI.

AI Act marchează un nou început pentru reglementarea tehnologiilor de inteligență artificială, indiferent de eventualele imperfecțiuni juridice vizate. Se preconizează că legea va avea un impact semnificativ asupra sectorului european al AI și, probabil, dincolo de acesta, datorită setului său distinct, extins și complet de reglementări. Va fi nevoie de timp pentru a vedea cât de bine este pusă în aplicare abordarea bazată pe riscuri a legii, iar aplicarea efectivă a legii nu va avea loc imediat.