schedules tabstyle

W lutym 2020 roku Komisja Europejska rozpoczęła w ramach konsultacji publicznych zbieranie opinii do powstających przepisów regulujących tworzenie i wdrażanie systemów sztucznej inteligencji. Prawie 4 lata później proces legislacyjny, z którego wyłonić ma się AI Act, nadal nie został zakończony. Dlaczego trwa to tak długo, jak wyglądały negocjacje od kuchni i czy ich rezultat będzie ostatecznie równoważył interesy obywateli, biznesu i państw członkowskich? Wykład odpowie na te i inne pytania związane z podejściem UE do tworzenia ram prawnych dla AI.

W ramach wykładu uczestnicy poznają tworzone przez Radę Europy regulacje w zakresie sztucznej inteligencji, w tym projekt Konwencji o sztucznej inteligencji oraz instrumenty tzw. prawa miękkiego. Wykład zapewni uczestnikom dogłębne zrozumienie tych przepisów i ich implikacji dla systemów prawnych państw członkowskich Rady Europy. W ramach zajęć przewidujemy praktyczne ćwiczenia obejmujące zastosowanie poznanych regulacji do hipotetycznych scenariuszy.

Przedmiotem zajęć będzie ocena mechanizmów sztucznej inteligencji (AI) w kontekście ochrony praw podstawowych, szczególnie w świetle międzynarodowych i unijnych standardów ochrony praw człowieka. Centralnym punktem refleksji będzie wpływ AI na takie prawa jak prawo do prywatności, ochrona danych osobowych, czy zapewnienie równego traktowania. Wykład obejmował będzie również wynikające z AI Act wymagania dotyczące zapewnienia zgodności systemów AI z prawami podstawowymi. Zajęcia obejmować będą analizę studium przypadku dotyczące dyskryminacyjnych (stronniczych) efektów oddziaływania AI na człowieka.

W ramach wykładu uczestnicy dowiedzą się, w jaki sposób AI może przyczynić się do ulepszania procesów biznesowych, w tym automatyzację i optymalizację. Szczególna uwaga położona zostanie na znaczenie etyki oraz transparentności w implementacji AI, w celu zapewnienia uczciwość i zaufanie w procesach decyzyjnych. Wyjaśniany, jak dostosowanie strategii AI do specyfiki danej branży i indywidualnych potrzeb przedsiębiorstwa może maksymalizować korzyści i minimalizować ryzyka. Omówiona zostanie również kwestia inwestycji w rozwój umiejętności pracowników w zakresie wykorzystania nowych technologii.

Częścią ekranowego życia stają się sztuczni ludzie (Metahumans/Digital humans/Virtual Influencers) wpływający na decyzje zakupowe i światopoglądowe konsumentów. W ramach wykładu uczestnicy dowiedzą się jak hiperrealistyczni, symulujący człowieka cyfrowi agenci wspierają wydajność wielu przedsiębiorstw, pozwalając na całkowitą kontrolę rynkowego wizerunku firmy? Omówimy biznesowy wymiar wirtualnych influencerów, branże podatne na automatyzację oraz przewagi „cyfrowych pracowników”. Uczestnicy dowiedzą się, w jaki sposób firmy wykorzystują ich do wzmocnienia świadomości marki i jakie są cechy interakcji paraspołecznej z wirtualnym influencerem. Przeanalizujemy techniki perswazji i przyjrzymy się skuteczności tych rozwiązań pod kątem niskich kosztów ich wytworzenia. Rozwój generatywnej sztucznej inteligencji umożliwia też wpływowym osobom stworzenie i posługiwanie się swoim klonem AI replikującym cechy fizyczne, głos i osobowość umożliwiającym interaktywną, imersyjną relację z fanami oraz pomnożenie dochodów. Zastanowimy się, jak wytwarzane technologicznie poczucie bliskości wpływa na dobrostan użytkowników i skuteczność sprzedaży.

Podczas zajęć omówione zostaną zasady stosowania AI Act, w szczególności jego zakres podmiotowy i terytorialny. Omówimy pojęcie dostawcy i użytkownika systemu sztucznej inteligencji. Na przykładach przedstawimy nieoczywiste konsekwencje przyjętego zakresu stosowania AI Act oraz praktyczne problemy egzekucji postanowień AI Act. Skupimy się również na praktycznych problemach związanych z zastosowaniem AI Act do systemów AI znajdujących się poza terytorium Unii Europejskiej (np. zlecenie „obliczeń” poza terytorium UE, kwestia wykorzystania wyników działania systemu).

W ramach wykładu przedstawiona zostanie wynikająca z AI Act klasyfikacja systemów AI. W oparciu o rzeczywiste przykłady systemów AI szeroko omówione zostaną przypadki zabronionego wykorzystania systemów AI oraz poszczególne kategorie systemów AI wysokiego ryzyka. Wykład ilustrowany będzie konkretnymi, rzeczywistymi przykładami poszczególnych kategorii systemów AI.

W ramach zajęć omówimy wynikające z AI Act wymagania dla systemów AI wysokiego ryzyka. W ramach tego wykładu skupimy się przede wszystkim na wymaganiach dot. zapewnienia przejrzystości działania systemu AI, rejestracji zdarzeń, zapewnienia nadzoru człowieka, czy określenia poziomu dokładności i solidności systemu. Zajęcia prowadzone będą przez dwóch wykładowców – prawnika oraz ekspertkę z zakresu data science & technicznych aspektów AI. W ramach zajęć przedstawimy zatem konkretne, praktyczne sposoby realizacji wymagań AI Act (np. omówimy, jakie są konkretne sposoby i narzędzia do zapewnienia transparentności i wyjaśnialności poszczególnych kategorii systemów AI, czy w jak w praktyce opisać poziom dokładności systemu).

W ramach wykładu uczestnicy poznają cele i korzyści systemu zarządzania sztuczną inteligencją. Przedstawiony zostanie model normy ISO/IEC 42001 i wynikające z niej wymagania. Skoncentrujemy się na omówieniu możliwości wykorzystania normy ISO/IEC 42001 jako narzędzia zapewniającego realizację wymagań wynikających z AI Act. W ramach wykładu omówiona zostanie również zasady prowadzenia oceny skutków stosowania sztucznej inteligencji. Przedstawimy również kluczowe rozwiązania techniczne i organizacyjne mające ograniczyć ryzyko związane z wykorzystaniem technologii AI.

Zajęcia skupiać się będą na praktycznych aspektach zastosowania podejścia opartego na ryzyku w celu zapewnienia ochrony praw podstawowych określonych w prawie pierwotnym Unii Europejskiej, w szczególności w Karcie Praw Podstawowych, z uwzględnieniem orzecznictwa Trybunału Sprawiedliwości UE oraz wytycznych Agencji Praw Podstawowych UE. Zaprezentowane zostaną cechy wspólne oraz odmienności podejść opartych na ryzyku zdefiniowanych w DPbD, DPiA oraz FRIA, a także porządkująca rola tzw. soft law i normalizacji w procesie projektowania i implementacji systemów AI. Zajęcia przeprowadzone zostaną w formie analizy studium przypadku.

Zajęcia uwzględniają różne scenariusze przeprowadzenia obowiązkowej oceny zgodności systemów sztucznej inteligencji na gruncie projektowanego rozporządzenia. Przedstawione zostaną m.in. zagadnienia udziału w ocenie zgodności jednostek notyfikowanych, sporządzania deklaracji zgodności UE i oznakowania CE.