Uniunea Europeana a votat interzicerea utilizării IA în supravegherea biometrică
Recent, oficialii Uniunii Europene au votat pentru implementarea unor propuneri de reglementări mai stricte privind IA, potrivit Reuters. Proiectul actualizat al legii „AI Act” include o interdicție a utilizării AI în supravegherea biometrică și impune ca sisteme precum ChatGPT de la OpenAI să dezvăluie când conținutul a fost generat de AI. Deși proiectul este încă neobligatoriu, oferă o indicație puternică asupra modului în care autoritățile de reglementare din UE se gândesc la IA.
Noile modificări aduse legii propuse de Comisia Europeană – care nu au fost încă finalizate – intenționează să protejeze cetățenii UE de potențialele amenințări legate de tehnologia „Machine Learning”.
Schimbările vin pe fondul proliferării sistemelor AI generative care imită conversațiile umane, cum ar fi ChatGPT și GPT-4 ale companiei OpenAI, care au declanșat apeluri controversate la acțiune în rândul oamenilor de știință, ce lucrează la proiecte legate AI, dar și al directorilor din industrie cu privire la potențiale riscuri. Cu toate acestea, „AI Act” propus de UE are o vechime de peste 2 ani, așa că nu este doar un răspuns rapid la creșterea popularității IA. Include prevederi care protejează împotriva altor tipuri de vătămări ale IA care sunt mai întemeiate în blocul comunitar.
Noul proiect al Legii AI include o prevedere care ar interzice companiilor să scoată date biometrice (cum ar fi fotografiile utilizatorilor) de pe rețelele sociale în scopuri de formare în recunoașterea facială. Știrile despre firme precum Clearview AI care folosesc această practică pentru a crea sisteme de recunoaștere facială au atras critici severe din partea susținătorilor confidențialității în 2020. Cu toate acestea, Reuters raportează că această regulă ar putea fi o sursă de dispută cu unele țări din UE care se opun interzicerii generale a IA în supravegherea biometrică.
Noul proiect al UE impune, de asemenea, măsuri de informare și transparență asupra IA generativă. Serviciile de sinteză a imaginilor, cum ar fi Midjourney, ar trebui să informeze în legătura cu conținutul generat de AI pentru a ajuta oamenii să identifice imaginile sintetizate. Proiectul de lege ar cere, de asemenea, ca companiile AI generative să furnizeze rezumate ale materialelor protejate prin drepturi de autor. În timp ce industria editorială susține această propunere, potrivit The New York Times, dezvoltatorii de tehnologie argumentează împotriva fezabilității sale tehnice.
În plus, creatorii de sisteme AI generative ar trebui să implementeze măsuri de protecție pentru a preveni generarea de conținut ilegal, iar companiile care lucrează la „aplicații cu risc ridicat” trebuie să evalueze impactul lor potențial asupra drepturilor fundamentale și asupra mediului. Proiectul actual al legii UE desemnează sistemele de inteligență artificială care ar putea influența alegătorii și alegerile drept „cu risc ridicat”. De asemenea, clasifică sistemele utilizate de platformele de social media cu peste 45 de milioane de utilizatori în aceeași categorie, cuprinzând astfel platforme precum Meta și Twitter.
Potrivit Reuters, Microsoft și IBM apreciază noile reguli propuse de parlamentarii UE, deși speră o perfecționare suplimentară a legislației propuse. „Credem că AI necesită bariere legislative, eforturi de aliniere la nivel internațional și acțiuni voluntare semnificative din partea companiilor care dezvoltă și implementează AI”, a declarat un purtător de cuvânt al Microsoft pentru presă.
