O serie de titluri senzaționaliste inducea în opinia publică ideea că Inteligența Artificială, a cărei utilizare în industria de securitate are mulți adepți datorită potențialelor beneficii ce le-ar putea aduce, ar fi fost interzisă în Uniunea Europeană. Din fericire știrea nu este reală sau, așa cum spunea Mark Twain despre zvonurile privind moartea sa, știrea a fost în mare măsură exagerată.

Într-adevăr, în urmă cu o săptămână, Comisia Europeană a publicat o propunere de reglementare a inteligenței artificiale.

Propunerea de reglementare a Comisiei Europene se referă la punerea pe piață, punerea în funcțiune și utilizarea inteligenței artificiale. Documentul nu impune un moratoriu total în privința utilizării tehnologiei de recunoaștere facială, dar stabilește o serie de restricții majore.

Restricții în utilizarea tehnologiilor de recunoaștere facială

La articolul 5 al propunerii sunt stabilite o serie de restricții în utilizarea inteligenței artificiale, care includ utilizarea sistemelor biometrice de identificare de la distanță în timp real în spații publice în scopul aplicării legilor, cu excepția cazurilor în care acest lucru este necesar pentru:

  • Căutarea victimelor unor acte criminale;
  • Prevenirea unor amenințări specifice și iminente la adresa securității fizice a persoanelor;
  • Detectarea, localizarea, identificarea sau acuzarea unor persoane suspectate de acte criminale.

În fiecare caz în parte va fi necesară obținerea unei autorizații speciale acordată de o autoritate competentă, cu excepția situațiilor justificate de o stare de urgență.

Definirea „inteligenței artificiale de mare risc”

Articolul 6 al propunerii de act normativ prezintă o listă a „tehnologiilor pe bază de inteligență artificială de mare risc” care ar putea fi extinsă pe viitor de către Comisie. Această listă include:

  • Sistemele de inteligență artificială care pot fi utilizate în calitate de componente de securitate ale unor produse, de exemplu produse folosite în contextul Regulamentului 300/2008 referitor la reglementările comune din domeniul securității aviației civile și din reglementarea europeană a dronelor;
  • Alte sisteme independente de inteligență artificială cu implicații asupra unor drepturi fundamentale, cum ar fi identificarea biometrică de la distanță, în timp real sau post-factum, dar și diferite instrumente de inteligență artificială utilizate în aplicarea legii.

Pentru folosirea inteligenței artificiale de mare risc vor exista reguli stricte. Se va permite utilizarea în Uniunea Europeană doar a tehnologiilor pe baza inteligenței artificiale de mare risc care au fost supuse unei evaluări de conformitate. Este posibil ca aceasta să fie inițial o auto-evaluare, urmată de un control al autorităților.

Reguli pentru utilizarea „inteligenței artificiale de mare risc”

  • Stabilirea unui sistem de management al riscului (art. 6);
  • Criterii de calitate pentru training, validare și testare a seturilor de date (art. 10);
  • Capabilități de înregistrare într-un jurnal pentru asigurarea trasabilității (art. 12);
  • Prevederi referitoare la transparență (art. 13);
  • Asigurarea unui control uman (art. 14);
  • Prevederi referitoare la robustețe și la securitatea cibernetică (art. 15);
  • Alte obligații pentru utilizatorii sistemelor de mare risc (art. 29), inclusiv asigurarea în cazul utilizării inteligenței artificiale de mare risc și a datelor generate conform scopului și utilizării declarate, dar și prevederi referitoare la jurnalul de logare și de transparență.

Confederația Europeană a Serviciilor de Securitate (CoESS) a participat în prima parte a anului 2020 la consultările organizate pe această temă la Bruxelles și și-a făcut publică poziția printr-un material publicat în prima parte a lunii iunie 2020.

ARIS este singura asociație profesională din România membră a CoESS.

În cazul în care aveți propuneri și sugestii, vă rugăm să ni le trimiteți  pe adresa office@arisonline.ro. Propunerile dumneavoastră pertinente pot înaintate Comisiei Europene prin intermediul CoESS.

Propunerea Comisiei Europene poate fi găsită aici.

Poziția publicată de CoESS în iulie 2020, o găsiți aici.