ES AI įstatymas. Kaip Europa reguliuoja dirbtinio intelekto naudojimą | AI versle #68

Kas yra AI aktas ir kodėl jis svarbus MVĮ (mažoms ir vidutinėms įmonėms)?

AI aktas yra pirmasis tokio pobūdžio reglamentas pasaulyje. Pirmasis, kuris išsamiai nagrinėja dirbtinį intelektą iš žmogaus centriniu požiūriu. Jis siekia užtikrinti, kad Europoje naudojami DI sistemos būtų saugios ir skatintų inovacijas, gerbdamos pagrindines teises, ypatingą dėmesį skiriant:

• sveikatos priežiūrai – pavyzdžiui, gerbiant pacientų duomenų privatumą,
• švietimui – laikantis Europos Sąjungos skatinamų vertybių ir vengiant diskriminacijos,
• valstybės sienų apsaugai – užtikrinant saugumą, nesukeliant piliečių teisių pažeidimų,
• viešosioms paslaugoms – laikantis geriausių duomenų apsaugos praktikų, teisės į informaciją ir aiškios komunikacijos.

MVĮ AI aktas pirmiausia suteiks didesnį teisinį aiškumą, nes aiškiai apibrėžia inovacijų sistemą: DI sistemų projektavimo, kūrimo ir taikymo principus. Tai palengvins įmonėms investuoti į DI sprendimus, sumažinant teisinius rizikos veiksnius. Be to, visoje Sąjungoje taikomi reglamentai užkirs kelią rinkos fragmentacijai.

Europos reglamentai dėl dirbtinio intelekto buvo priimti Europos Parlamento ir Europos Tarybos 2023 m. gruodžio 9 d. Dabar juos turi formaliai patvirtinti abi institucijos, kad jie įsigaliotų.

Pagrindiniai AI akto aspektai verslui

ES AI aktas įveda reikalavimų rinkinį DI sistemoms, priklausomai nuo rizikos lygio. Šie reikalavimai apima, be kita ko:

• skaidrumo ir vartotojų informavimo apie sąveiką su pokalbių robotais, biometriniais sistemomis ar emocijų atpažinimo technologijomis pareigą,
• sensyvių atributų naudojimo biometrinei kategorijai nustatyti draudimą,
• privalomą atitikties vertinimą prieš pateikiant į rinką aukštos rizikos sistemoms,
• privalomą registraciją ES duomenų bazėje — po AI akto įsigaliojimo, DI sistemos, naudojamos pagrindinėse srityse, tokiose kaip švietimas, užimtumas, sveikatos priežiūra ir teisėsauga, turės būti registruotos.

Gamintojai ir įmonės, naudojančios DI sistemas, taip pat turės stebėti riziką po jų pateikimo į rinką. Tai tiesiogiai paveiks įmones, kurios projektuoja ir įgyvendina DI sistemas.

DI sistemų rizikos lygiai pagal ES AI aktą

AI aktas klasifikuoja DI sistemas į keturias kategorijas, remiantis jų rizikos lygiu:

1. Nepriimtina rizika
2. Aukšta rizika
3. Ribota rizika
4. Minimalinė rizika

Pasižiūrėkime atidžiau, kaip bus apibrėžtos kiekviena grupė, kartu su sistemų pavyzdžiais ir jų klasifikacijomis.

Nepriimtina rizika

Europos Sąjunga visiškai draudžia naudoti technologijas, nurodytas AI akte kaip nepriimtinos rizikos sistemas. Tai daugiausia sistemos, sukurtos išnaudoti asmenų jautrumą pasiūlymams manipuliacijai ar apgaule, sistemos, suteikiančios dirbtiniam intelektui galimybę priimti sprendimus svarbiais klausimais, ir tos, kurios gali sukelti galios piktnaudžiavimą. Nepriimtinos rizikos DI pavyzdžiai apima:

• autonominius ginklus, veikiančius be žmogaus priežiūros,
• patikimumo vertinimo sistemas, naudojamas teisėsaugos institucijų,
• automatinės asmenų identifikavimo sistemos viešose erdvėse, pavyzdžiui, remiantis stebėjimo kamerų vaizdais,
• dirbtinio intelekto sistemos, kurios gali būti žalingos asmenims su fiziniais ar psichiniais negalavimais,
• DI, naudojamas teisėsaugos tikslais, su ribotomis išimtimis,
• dirbtinio intelekto sistemos, naudojančios žalingas “subliminalines” ir manipuliacines technikas.

Verslui paskutinė kategorija yra ypač svarbi. Būtent todėl skaidrumas sistemų, teikiančių pasiūlymus vartotojams ir klientams, veikloje bus esminis, siekiant atitikti naują Europos Sąjungos teisės aktą.

Aukšta rizika

Dirbtinis intelektas, klasifikuojamas kaip aukštos rizikos DI sprendimas, turės atitikti griežtus reikalavimus prieš pateikiant į rinką. Tai apima atitikties vertinimus ir griežtus testavimus prieš patvirtinant naudojimui. Ši rizikos kategorija apima aštuonias sritis, tokias kaip:

• autonominiai transporto priemonės,
• medicininės diagnostikos sistemos,
• prognozavimo algoritmai, palaikantys teisingumo sistemą,
• migracijos ir prieglobsčio valdymas, sienų kontrolė, taip pat
• užimtumo ir darbo jėgos valdymas.

Ribota rizika

Ribotos rizikos sistemoms, dažniausiai naudojamoms versle, teisės aktų leidėjai, laimei, skyrė daug mažiau dėmesio. Ši kategorija apima:

• DI pokalbių robotai – naudojami klientų aptarnavimui arba atsakymams į dažniausiai užduodamus klausimus laisvos formos pokalbio forma,
• emocijų atpažinimo sistemos – naudojamos, pavyzdžiui, siekiant surinkti duomenis apie klientų nuomones apie įmonę,
• biometrinės kategorijos nustatymo sistemos – pavyzdžiui, vertinant klientų lytį ar amžių fizinėje parduotuvėje,
• vaizdų, garso ar vaizdo generavimas – nepaisant grėsmės, kurią kelia giliųjų klastojimų technologijos, ši sritis bus taikoma ribotam reikalavimų rinkiniui.

Maža arba minimali rizika

Mažos rizikos DI sprendimai nėra reguliuojami teisės aktų. AI aktas tik paminės, kad tokių sprendimų kūrėjai ir vartotojai turėtų savanoriškai nustatyti naudojimo politiką. Tai taikoma tokiems sprendimams kaip:

• turinio rekomendavimo sistemos srautinio perdavimo paslaugose, arba
• pokalbių robotai svetainėse, atsakantys į tipiškus klientų klausimus.

Kokius reikalavimus AI aktas kelia sprendimams, naudojamiems mano įmonėje?

Norint patikrinti, ar dirbtinis intelektas, naudojamas įmonėje, atitinka AI aktą, turėtumėte:

• klasifikuoti jį į vieną iš keturių aukščiau aprašytų rizikos kategorijų,
• jei tai aukštos rizikos DI, atlikti atitikties vertinimą,
• naudoti gerą praktiką, susijusią su mažos rizikos DI.

Pasižiūrėkime į pavyzdžius, kaip dažnai naudojami DI sprendimai įmonėse. Kokius reikalavimus jie turės atitikti?

Klientų aptarnavimo pokalbių robotas, teikiantis pagrindinę informaciją apie produktus arba atsakantis į tipiškus klientų klausimus, greičiausiai bus klasifikuojamas kaip minimali rizika. Jis turės:

• informuoti vartotojus, kad jie bendrauja su DI,
• teikti galimybę būti nukreiptiems pas žmogaus konsultantą,
• laikytis bendrųjų reikalavimų dėl skaidrumo, nediskriminavimo ir kt.

Produktų rekomendavimo sistema elektroninėje prekyboje greičiausiai bus laikoma mažos rizikos sistema. Būtina informuoti klientus, kad jie gauna suasmenintas rekomendacijas ir suteikti galimybę jas išjungti.

Kitą vertus, automatinė medicininės diagnostikos sistema bus klasifikuojama kaip aukštos rizikos sistema. Ji turės būti griežtai įvertinta prieš pateikiant į rinką ir būti prižiūrima žmogaus. Be to, bus būtina stebėti jos veiklą ir pranešti apie incidentus.

Miesto nusikaltimų prevencijos sistema taip pat bus laikoma aukštos rizikos. Ji turės atitikti privatumo ir kitų pagrindinių teisių apsaugos reglamentus. Jos veikla turės būti nuolat prižiūrima žmogaus.

Nepaisant to, į kurią kategoriją pateks DI sprendimų priėmimo sistemos, neaišku. Tikėtina, kad DI remiama atrankos sistema, kuri savarankiškai priima sprendimus dėl samdymo, bus laikoma nepriimtinos rizikos DI sprendimu. Kita vertus, atrankos palaikymo sistema, padedanti žmonėms atlikti savo darbą, būtų laikoma aukštos rizikos sprendimu.

Vartotojų gerovės labui, taip pat galimų klasifikacijų pokyčių atveju, labai svarbu nuo pat pradžių etiniu ir atsakingu būdu priartėti prie DI sistemų kūrimo ir naudojimo.

Kokios bus pasekmės, jei nebus laikomasi AI akto?

Nesilaikymas AI akto gali sukelti dideles baudas įmonėms, svyruojančias nuo 35 milijonų eurų arba 7% pasaulinio apyvartos didelėms įmonėms iki 7,5 milijono eurų arba 1,5% MVĮ. Netinkamos DI sistemos gali būti pašalintos iš rinkos, o jų naudojimas gali būti ribojamas.

Kaip pasiruošti AI akto įsigaliojimui?

Taigi, kaip paruošti įmonę, kuri naudoja dirbtinį intelektą, AI akto įsigaliojimui 2025 m.? Štai keletas patarimų, kaip MVĮ ir startuoliai gali pasiruošti šiam momentui:

• sekti darbo pažangą ir reglamentų įgyvendinimo grafiką,
• įvertinti jau naudojamas DI sistemas ir pritaikyti jas naujiems reikalavimams,
• ypatingą dėmesį skirti etiniams aspektams DI projektavime.

Santrauka

AI akto įvedimas yra didelis pokytis DI ekosistemai Europoje. Tačiau su aiškiais ir nuosekliais taisyklėmis jis žada užtikrinti saugų ir etinį šios technologijos vystymąsi, kuris turėtų ypač pasitarnauti MVĮ ir startuoliams.

AI aktas, kuris įsigalios 2025 m., atneš reikšmingų pokyčių, kaip mažos ir vidutinės įmonės (MVĮ) gali pasinaudoti dirbtiniu intelektu. MVĮ tai pirmiausia reiškia būtinybę atidžiai apsvarstyti ir analizuoti naudojamus DI sprendimus, tiek atitikties reglamentams, tiek galimo poveikio klientams ir bendruomenei atžvilgiu.

Mažų verslų savininkams ir vadovams labai svarbu suprasti, kaip jų DI sistemos klasifikuojamos rizikos atžvilgiu ir kokių veiksmų reikia imtis, kad jos atitiktų artėjančius reglamentus. Pavyzdžiui, DI sistemos, naudojamos klientų valdyme ar rinkodaroje, anksčiau buvo naudojamos gana laisvai. Dabar joms reikės išsamaus atitikties AI aktui vertinimo. Tai gali sukurti naujas galimybes įmonėms, specializuojančioms technologijų teisinėje konsultacijoje, teikiant MVĮ paramą prisitaikant prie šių naujų reikalavimų.

Jei jums patinka mūsų turinys, prisijunkite prie mūsų užimtų bičių bendruomenės Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.