Akt o umělé inteligenci

Rozbalit box

Obsah boxu

Akt o umělé inteligenci (anglicky AI Act) je nařízení Evropské unie, které stanovuje historicky první komplexní právní rámec pro umělou inteligenci (AI). Jeho oficiální název je Nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci. Cílem nařízení je zajistit, aby systémy AI používané na trhu EU byly bezpečné, transparentní, nediskriminační a respektovaly základní práva a evropské hodnoty.

Nařízení zavádí tzv. přístup založený na riziku, což znamená, že povinnosti pro poskytovatele a uživatele AI se liší podle míry rizika, jaké daný systém představuje pro společnost. Některé praktiky jsou zcela zakázány, jiné (vysoce rizikové) podléhají přísné regulaci a další mají pouze povinnost transparentnosti.

-

colspan="2" style="text-align: center; font-size: 125%; font-weight: bold; background: #ccccff; padding: 5px;" -	colspan="2" style="text-align: center; background: #ccccff; font-weight: bold; padding: 5px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	colspan="2" style="text-align: center; background: #ccccff; font-weight: bold; padding: 5px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	colspan="2" style="text-align: center; background: #ccccff; font-weight: bold; padding: 5px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	colspan="2" style="text-align: center; background: #ccccff; font-weight: bold; padding: 5px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	colspan="2" style="text-align: center; background: #ccccff; font-weight: bold; padding: 5px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	colspan="2" style="text-align: center; background: #ccccff; font-weight: bold; padding: 5px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;" -	style="background: #e6e6ff; padding: 3px;"

⏳ Historie a časová osa

Cesta k přijetí Aktu o AI byla několikiletým legislativním procesem:

• Duben 2021: Evropská komise představila první návrh nařízení.
• Prosinec 2023: Po intenzivních jednáních (tzv. trialogu) dosáhly Evropský parlament, Rada Evropské unie a Komise politické dohody na finálním znění textu.
• Březen 2024: Nařízení drtivou většinou schválil Evropský parlament.
• Květen 2024: Nařízení finálně schválila Rada EU.
• Červenec 2024: Nařízení vstoupilo v platnost 20 dní po zveřejnění v Úředním věstníku EU.
• Polovina roku 2026: Většina ustanovení se stane plně účinnou a vymahatelnou (s dřívější účinností pro některé části, např. pro zakázané praktiky).

📝 Klasifikace rizik

Jádrem nařízení je rozdělení systémů AI do čtyř kategorií podle míry rizika.

🚫 Nepřijatelné riziko (Zakázané praktiky)

Tyto systémy jsou považovány za hrozbu pro lidi a budou zcela zakázány. Patří sem:

• Systémy pro sociální kredit|sociální bodování (social scoring) prováděné veřejnými orgány.
• AI, která využívá manipulativní techniky k obcházení lidské vůle.
• AI zneužívající zranitelnosti určitých skupin (děti, osoby se zdravotním postižením).
• Používání systémů vzdálené biometrické identifikace v reálném čase ve veřejně přístupných prostorách pro účely vymáhání práva (s úzce vymezenými výjimkami, jako je pátrání po obětech trestných činů nebo prevence teroristického útoku).

⚠️ Vysoké riziko

Sem spadají systémy AI, které mohou mít významný dopad na bezpečnost nebo základní práva. Musí splňovat přísné požadavky ještě před uvedením na trh a po celou dobu životnosti. Příklady zahrnují AI v oblastech:

• Kritické infrastruktury (např. doprava, energetika).
• Vzdělávání (např. hodnocení zkoušek).
• Personalistika (např. software pro třídění životopisů).
• Vymáhání práva a soudnictví.
• Zdravotnické prostředky.
• Demokratické procesy (např. systémy ovlivňující volby).

Poskytovatelé těchto systémů musí zajistit řízení rizik, vysokou kvalitu dat, technickou dokumentaci, lidský dohled, transparentnost a kybernetickou bezpečnost.

💬 Omezené riziko (Povinnost transparentnosti)

U těchto systémů je hlavní povinností transparentnost. Uživatelé musí být informováni, že interagují se systémem AI. Patří sem:

• Chatboti a jiné systémy, které komunikují s lidmi.
• Systémy pro rozpoznávání emocí a biometrickou kategorizaci.
• AI generující syntetický obsah (deepfake), který musí být jasně označen jako uměle vytvořený.

✅ Minimální riziko

Do této kategorie spadá naprostá většina systémů AI, jako jsou spamové filtry nebo AI ve videohrách. Nařízení pro ně nestanovuje žádné povinnosti, ale podporuje dobrovolné přijetí kodexů chování.

🤖 Pravidla pro modely pro všeobecné účely (GPAI)

Akt zavádí speciální pravidla pro základní modely, jako jsou velké jazykové modely (LLM), např. GPT-4. Tyto modely (označované jako GPAI) musí splňovat základní požadavky na transparentnost, včetně poskytování technické dokumentace a souhrnů o datech použitých pro trénink. Modely, které představují "systémové riziko", budou podléhat ještě přísnějším pravidlům a dohledu.

🏛️ Vymáhání a sankce

Dohled nad uplatňováním nařízení bude zajišťovat nově zřízený Evropský úřad pro umělou inteligenci (European AI Office) v rámci Evropské komise. Jemu bude radit Evropská rada pro umělou inteligenci složená ze zástupců členských států. V jednotlivých zemích budou za dohled odpovědné určené vnitrostátní orgány.

Za porušení pravidel hrozí vysoké pokuty, které mohou dosáhnout až 35 milionů eur nebo 7 % celosvětového ročního obratu společnosti, podle toho, která částka je vyšší.

Pro laiky

Představte si Akt o umělé inteligenci jako pravidla silničního provozu, ale pro roboty a chytré programy. Stejně jako pro různá vozidla platí různá pravidla, tak i pro různě "nebezpečnou" umělou inteligenci platí odlišné povinnosti:

• Zakázaná "vozidla" (nepřijatelné riziko): Některé typy AI jsou tak nebezpečné, že jsou úplně zakázané. Například systém, který by vás tajně bodoval za vaše chování (sociální kredit), nebo AI, která by manipulovala s dětmi. To je jako kdyby na silnicích byly zakázány tanky s ostrými náboji.
• Autobusy a kamiony (vysoké riziko): AI, která řídí kritickou infrastrukturu (elektrárny, dopravu) nebo rozhoduje o vaší hypotéce či přijetí na školu, musí projít přísnou "technickou kontrolou" a mít vždy lidský dohled. Je to jako řidič autobusu, který musí mít speciální zkoušky a dodržovat bezpečnostní přestávky.
• Osobní auta (omezené riziko): Když mluvíte s chatbotem nebo se díváte na video, které vytvořila AI (deepfake), musí být jasně "označeno", že se nejedná o skutečného člověka nebo reálné záběry. Je to jako auto, které musí mít poznávací značku, abyste věděli, o koho jde.
• Dětská odrážedla (minimální riziko): Většina AI, jako jsou spamové filtry nebo nepřátelé ve videohrách, nepředstavuje téměř žádné riziko. Pro ně žádná speciální pravidla neplatí.

Cílem je, abychom mohli využívat výhody umělé inteligence, ale zároveň byli chráněni před jejími největšími hrozbami.