Akt o sztucznej inteligencji – podstawowe założenia

Czym jest system AI?

Zrozumienie definicji "systemu AI" jest kluczowe dla zrozumienia zakresu AI Act. Określa ono, jakie technologie są objęte tą regulacją. Zgodnie z Rozporządzeniem, system AI to maszyna zaprojektowana do samodzielnego działania na różnych poziomach. Po uruchomieniu, taki system może się dostosowywać i na podstawie dostarczonych danych wyciągać wnioski, tworzyć prognozy, treści, rekomendacje lub podejmować decyzje, które mają wpływ na rzeczywistość fizyczną lub cyfrową.

Charakterystyczne cechy systemów AI, które odróżniają je od tradycyjnych systemów oprogramowania, obejmują:

• zdolność do wnioskowania i generowania wyników, takich jak predykcje, treści, zalecenia lub decyzje;
• autonomię działania, pozwalającą na funkcjonowanie z różnym stopniem niezależności od człowieka;
• zdolność adaptacji, umożliwiającą systemom AI uczenie się i ewolucję w czasie;
• działanie w oparciu o określone lub dorozumiane cele, które mogą być różne w zależności od kontekstu zastosowania.

Zastosowanie systemów AI jest wszechstronne i możliwe w wielu dziedzinach życia. Asystenci głosowi, rozumieją polecenia użytkowników i mogą wykonywać różnorodne zadania, od ustawiania alarmów po wyszukiwanie informacji online. Samochody autonomiczne mogą wykorzystywać AI do analizowania otoczenia i podejmowania decyzji o trasie oraz zapewnieniu bezpieczeństwa bez interwencji kierowcy. W sprzedaży internetowej AI znajduje zastosowanie w zaawansowanych systemach rekomendacji produktów, które, bazując na historii zakupów w zestawieniu z innymi dostarczonymi danymi (np. lokalizacją), proponują klientom dopasowane oferty. AI znajduje także szerokie zastosowanie w sektorze produkcji maszyn i w dziedzinie cyberbezpieczeństwa.

Natomiast nie wszystko, co jest zaawansowanym systemem, spełnia kryteria uznania za sztuczną inteligencję. Przykładowo, algorytm, który wykonuje określone operacje matematyczne, nie posiadający zdolności do uczenia się ani adaptacji, działając jedynie na podstawie z góry zaprogramowanych działań – nie spełni definicji AI. Podobnie nie spełnią definicji AI systemy alarmowe reagują na konkretne bodźce, takie jak wykrycie ruchu czy dymu, ale nie będące w stanie samodzielnie wnioskować ani dostosowywać swoich działań poza zaprogramowanymi instrukcjami.

Jak klasyfikować systemy AI?

AI Act podąża za podejściem opartym na ryzyku. Im wyższe ryzyko związane z systemem AI, tym bardziej rygorystyczne wymagania. Na tej podstawie możliwy jest następujący podział systemów AI:

1. Zakazane praktyki AI (systemy o niedopuszczalnym ryzyku) to te, które wykorzystują technologie sztucznej inteligencji w sposób, który może poważnie naruszać prawa i wolności jednostek. Będą nimi systemy AI, które wykorzystywane są do np. manipulowania zachowaniem osób, oceny społecznej (scoring społeczny), wnioskowania o emocjach w miejscu pracy czy kategoryzacji biometrycznej oparta na szczególnych kategoriach danych osobowych.
2. Systemy AI wysokiego ryzyka to te, które mają znaczący szkodliwy wpływ na zdrowie, bezpieczeństwo i prawa podstawowe jednostek. Obejmą one, między innymi, systemy używane do rekrutacji czy oceny pracowniczej, czy systemy AI przeznaczone do zarządzania krytyczną infrastrukturą cyfrową. Systemami AI wysokiego ryzyka będą także systemy związane z bezpieczeństwem elementu produktu objętego prawodawstwem harmonizacyjnym (np. zabawki z elementami AI).
3. Systemy AI stwarzające ryzyko przejrzystości to te, które będąc przeznaczone do bezpośredniej interakcji z osobami fizycznymi, generują lub manipulują tekstem, obrazem, dźwiękiem lub wideo (generatywne systemy AI), lub stanowią system rozpoznawania emocji.
4. Pozostałe systemy AI wymagają wypełnienia podstawowych obowiązków w zakresie przejrzystości.

Jakie są obowiązki dostawców systemów AI?

Najszerszy zakres obowiązków zostanie nałożony na dostawców systemów AI wysokiego ryzyka. Są oni zobowiązani do utworzenia systemu zarządzania ryzykiem, przeprowadzenia testów w realnych warunkach oraz opracowania systemu AI na podstawie odpowiednio zarządzanych zestawów danych. Muszą również udowodnić zgodność z wymaganiami poprzez przygotowanie i aktualizowanie dokumentacji technicznej, a także przeprowadzenie samooceny. Dodatkowo, obowiązują ich różne obowiązki rejestrowania przez cały okres użytkowania systemu AI. Wszystkie systemy AI muszą spełniać minimalne obowiązki zapewnienia przejrzystości, w tym informowanie użytkowników o interakcji z systemem AI.

Jakie są sankcje?

W ramach AI Act, ustawodawca unijny wprowadza surowe sankcje finansowe, podkreślając determinację w egzekwowaniu przestrzegania nowych regulacji dotyczących sztucznej inteligencji. Struktura kar jest umożliwia dostosowanie jej wysokości do skali działalności przedsiębiorstwa, co widać w przewidzianych sankcjach:

• w przypadku stosowania zakazanych praktyk AI, przedsiębiorstwa mogą zostać ukarane kwotą sięgającą nawet 35 milionów euro lub karą wynoszącą do 7% ich globalnego rocznego obrotu z ostatniego roku finansowego,
• za nieprzestrzeganie pozostałych wymagań i obowiązków określonych w Rozporządzeniu, kary mogą osiągnąć do 15 milionów euro lub 3% światowego obrotu rocznego,
• przedsiębiorstwa, które przekażą jednostkom notyfikowanym lub odpowiednim organom krajowym informacje nieprawidłowe, niekompletne lub wprowadzające w błąd, mogą zostać obciążone karą pieniężną do 7,5 miliona euro lub 1% ich globalnego obrotu z poprzedniego roku.

Tak wysokie sankcje mają na celu zapewnienie, że podmioty objęte zakresem AI Act, będą przestrzegać nowych przepisów, chroniąc tym samym interesy użytkowników.