KE: sztuczna inteligencja musi gwarantować bezpieczeństwo użytkowników

2020-02-19, 13:59 aktualizacja : 2020-02-19, 14:00
Komisja Europejska przedstawiła w środę tzw. białą księgę z propozycjami ram prawnych określających wykorzystanie sztucznej inteligencji. Zgodnie z dokumentem, zastosowania AI powinny przede wszystkim gwarantować bezpieczeństwo użytkowników.

Komisja zaproponowała stworzenie zasad prawnych dot. sztucznej inteligencji, opierającej się na "doskonałości i zaufaniu". KE zapewnia, że chce zachęcić tak instytucje publiczne, jak i przedsiębiorców, w tym małe i średnie firmy, do szybszego wdrażania sztucznej inteligencji. Żeby rozwijać AI, Unia powinna też inwestować w badania i pracę naukowców.

"Dzięki AI możemy poprawić jakość naszego życia. Zresztą technologia ta już jest stosowana i np. pomaga w lepszej i wcześniejszej diagnozie chorób, jak nowotwory, co jest niezwykle istotne dla mieszkańców. Sztuczna inteligencja może też pomóc Europie w osiągnięciu celów klimatycznych, choćby dzięki inteligentnym technologiom rolniczym czy inteligentnemu ogrzewaniu, która umożliwia obniżenie emisji dwutlenku węgla do atmosfery" – powiedziała w środę podczas spotkania z dziennikarzami przewodnicząca KE Ursula von der Layen.

Komisja podkreśla jednak także, że technologia niesie też za sobą ryzyko niewłaściwych zastosowań i nadużywania. Dlatego też UE powinna wprowadzić przepisy regulujące bezpieczeństwo jej użycia.

"Zarówno instytucje, jak i firmy oraz mieszkańcy muszą ufać technologii i czuć się bezpiecznie" – powiedział komisarz UE ds. przemysłu i rynku wewnętrznego Thierry Breton.

Zdaniem KE sztuczna inteligencja w UE powinna być skoncentrowana na człowieku. W praktyce oznacza to, że systemy AI powinny być przejrzyste, użytkownik powinien mieć świadomość ich wykorzystania i powinny one być nadzorowane przez człowieka. I to właśnie człowiek, a nie maszyna powinien podejmować ostateczne decyzje.

Komisja chce również objąć specjalną kontrolą stosowanie AI w systemach o wysokim ryzyku, czyli takich, które mogłyby naruszyć prawa obywateli, np. prawo do prywatności.

"Do takich systemów zalicza się np. dane medyczne, zawierające szczegółowe informacje o stanie zdrowia mieszkańców, dane dotyczące rekrutacji, dane policji czy organów ścigania" – powiedziała komisarz UE ds. cyfryzacji Marghrete Vestager. Zdaniem KE sztuczna inteligencja stosowana w tego typu systemach powinna zostać przetestowana i otrzymać certyfikację, zanim zostanie dopuszczona do stosowania.

Komisja odnosi się także do stosowania systemu rozpoznawania twarzy. Unijni urzędnicy zaznaczyli, że już dzisiaj zdalne zbieranie tzw. danych biometrycznych regulowane jest przez unijne przepisy ochrony danych, w tym RODO i zasadniczo zabronione. Może być stosowane tylko w wyjątkowych, należycie uzasadnionych i adekwatnych przypadkach, na podstawie prawa UE lub prawa krajowego. Komisja chce rozpocząć szeroką debatę na temat tego, jakie ewentualne okoliczności mogą uzasadniać takie wyjątki oraz czy i na jakich zasadach należy dopuścić wykorzystywanie systemu rozpoznawania twarzy w miejscach publicznych.

Dokument dotyczy również regulacji dotyczących wykorzystania AI w tzw. systemach niskiego ryzyka, jak np. gry online. W tej sytuacji KE proponuje wprowadzenie systemu dobrowolnego etykietowania dla firm, które stosują wyższe standardy. Z dokumentu Komisji wynika, że Unia ma wszelkie możliwości, żeby zostać globalnym liderem w zakresie rozwoju bezpiecznych systemów sztucznej inteligencji.

"Posiadamy świetne ośrodki badawcze, zabezpieczone systemy cyfrowe i ugruntowaną pozycję zarówno w obszarze robotyki, jak i produkcji i sektora usług w szerokim zakresie, od transportu, przez energię, systemy zdrowotne po politykę rolną” – zapewniła von der Layen. I dodała, że w ciągu najbliższej dekady na rozwój AI Unia chce przeznaczać 20 mld rocznie.

Tera "Biała księga" ws. sztucznej inteligencji zostanie poddana konsultacjom publicznym, które potrwają do 19 maja 2020 r. W oparciu o zebrane informacje zwrotne, Komisja podejmie dalsze kroki dot. rozwoju bezpiecznej AI w Unii Europejskiej. (PAP)

jowi/ malk/