Program

W lutym 2020 roku Komisja Europejska rozpoczęła w ramach konsultacji publicznych zbieranie opinii do powstających przepisów regulujących tworzenie i wdrażanie systemów sztucznej inteligencji. Prawie 4 lata później proces legislacyjny, z którego wyłonić ma się AI Act, nadal nie został zakończony. Dlaczego trwa to tak długo, jak wyglądały negocjacje od kuchni i czy ich rezultat będzie ostatecznie równoważył interesy obywateli, biznesu i państw członkowskich? Wykład odpowie na te i inne pytania związane z podejściem UE do tworzenia ram prawnych dla AI.

W ramach wykładu uczestnicy poznają tworzone przez Radę Europy regulacje w zakresie sztucznej inteligencji, w tym projekt Konwencji o sztucznej inteligencji oraz instrumenty tzw. prawa miękkiego. Wykład zapewni uczestnikom dogłębne zrozumienie tych przepisów i ich implikacji dla systemów prawnych państw członkowskich Rady Europy. W ramach zajęć przewidujemy praktyczne ćwiczenia obejmujące zastosowanie poznanych regulacji do hipotetycznych scenariuszy.

Przedmiotem zajęć będzie ocena mechanizmów sztucznej inteligencji (AI) w kontekście ochrony praw podstawowych, szczególnie w świetle międzynarodowych i unijnych standardów ochrony praw człowieka. Centralnym punktem refleksji będzie wpływ AI na takie prawa jak prawo do prywatności, ochrona danych osobowych, czy zapewnienie równego traktowania. Wykład obejmował będzie również wynikające z AI Act wymagania dotyczące zapewnienia zgodności systemów AI z prawami podstawowymi. Zajęcia obejmować będą analizę studium przypadku dotyczące dyskryminacyjnych (stronniczych) efektów oddziaływania AI na człowieka.

W ramach wykładu uczestnicy dowiedzą się, w jaki sposób AI może przyczynić się do ulepszania procesów biznesowych, w tym automatyzację i optymalizację. Szczególna uwaga położona zostanie na znaczenie etyki oraz transparentności w implementacji AI, w celu zapewnienia uczciwość i zaufanie w procesach decyzyjnych. Wyjaśniany, jak dostosowanie strategii AI do specyfiki danej branży i indywidualnych potrzeb przedsiębiorstwa może maksymalizować korzyści i minimalizować ryzyka. Omówiona zostanie również kwestia inwestycji w rozwój umiejętności pracowników w zakresie wykorzystania nowych technologii.

Częścią ekranowego życia stają się sztuczni ludzie (Metahumans/Digital humans/Virtual Influencers) wpływający na decyzje zakupowe i światopoglądowe konsumentów. W ramach wykładu uczestnicy dowiedzą się jak hiperrealistyczni, symulujący człowieka cyfrowi agenci wspierają wydajność wielu przedsiębiorstw, pozwalając na całkowitą kontrolę rynkowego wizerunku firmy? Omówimy biznesowy wymiar wirtualnych influencerów, branże podatne na automatyzację oraz przewagi „cyfrowych pracowników”. Uczestnicy dowiedzą się, w jaki sposób firmy wykorzystują ich do wzmocnienia świadomości marki i jakie są cechy interakcji paraspołecznej z wirtualnym influencerem. Przeanalizujemy techniki perswazji i przyjrzymy się skuteczności tych rozwiązań pod kątem niskich kosztów ich wytworzenia. Rozwój generatywnej sztucznej inteligencji umożliwia też wpływowym osobom stworzenie i posługiwanie się swoim klonem AI replikującym cechy fizyczne, głos i osobowość umożliwiającym interaktywną, imersyjną relację z fanami oraz pomnożenie dochodów. Zastanowimy się, jak wytwarzane technologicznie poczucie bliskości wpływa na dobrostan użytkowników i skuteczność sprzedaży.

Podczas zajęć omówione zostaną zasady stosowania AI Act, w szczególności jego zakres podmiotowy i terytorialny. Omówimy pojęcie dostawcy i użytkownika systemu sztucznej inteligencji. Na przykładach przedstawimy nieoczywiste konsekwencje przyjętego zakresu stosowania AI Act oraz praktyczne problemy egzekucji postanowień AI Act. Skupimy się również na praktycznych problemach związanych z zastosowaniem AI Act do systemów AI znajdujących się poza terytorium Unii Europejskiej (np. zlecenie „obliczeń” poza terytorium UE, kwestia wykorzystania wyników działania systemu).

W ramach wykładu przedstawiona zostanie wynikająca z AI Act klasyfikacja systemów AI. W oparciu o rzeczywiste przykłady systemów AI szeroko omówione zostaną przypadki zabronionego wykorzystania systemów AI oraz poszczególne kategorie systemów AI wysokiego ryzyka. Wykład ilustrowany będzie konkretnymi, rzeczywistymi przykładami poszczególnych kategorii systemów AI.

W ramach zajęć omówimy wynikające z AI Act wymagania dla systemów AI wysokiego ryzyka. W ramach tego wykładu skupimy się przede wszystkim na wymaganiach dot. zapewnienia przejrzystości działania systemu AI, rejestracji zdarzeń, zapewnienia nadzoru człowieka, czy określenia poziomu dokładności i solidności systemu. Zajęcia prowadzone będą przez dwóch wykładowców – prawnika oraz ekspertkę z zakresu data science & technicznych aspektów AI. W ramach zajęć przedstawimy zatem konkretne, praktyczne sposoby realizacji wymagań AI Act (np. omówimy, jakie są konkretne sposoby i narzędzia do zapewnienia transparentności i wyjaśnialności poszczególnych kategorii systemów AI, czy w jak w praktyce opisać poziom dokładności systemu).

W ramach wykładu uczestnicy poznają cele i korzyści systemu zarządzania sztuczną inteligencją. Przedstawiony zostanie model normy ISO/IEC 42001 i wynikające z niej wymagania. Skoncentrujemy się na omówieniu możliwości wykorzystania normy ISO/IEC 42001 jako narzędzia zapewniającego realizację wymagań wynikających z AI Act. W ramach wykładu omówiona zostanie również zasady prowadzenia oceny skutków stosowania sztucznej inteligencji. Przedstawimy również kluczowe rozwiązania techniczne i organizacyjne mające ograniczyć ryzyko związane z wykorzystaniem technologii AI.

Zajęcia skupiać się będą na praktycznych aspektach zastosowania podejścia opartego na ryzyku w celu zapewnienia ochrony praw podstawowych określonych w prawie pierwotnym Unii Europejskiej, w szczególności w Karcie Praw Podstawowych, z uwzględnieniem orzecznictwa Trybunału Sprawiedliwości UE oraz wytycznych Agencji Praw Podstawowych UE. Zaprezentowane zostaną cechy wspólne oraz odmienności podejść opartych na ryzyku zdefiniowanych w DPbD, DPiA oraz FRIA, a także porządkująca rola tzw. soft law i normalizacji w procesie projektowania i implementacji systemów AI. Zajęcia przeprowadzone zostaną w formie analizy studium przypadku.

Zajęcia uwzględniają różne scenariusze przeprowadzenia obowiązkowej oceny zgodności systemów sztucznej inteligencji na gruncie projektowanego rozporządzenia. Przedstawione zostaną m.in. zagadnienia udziału w ocenie zgodności jednostek notyfikowanych, sporządzania deklaracji zgodności UE i oznakowania CE.

Skuteczne wdrożenie systemu AI w organizacji to przede wszystkim temat biznesowy wymagający zaangażowanie liderów obszarów biznesowych oraz właściwego zarządzanie danymi i ich jakością, oraz podnoszenia umiejętności cyfrowych w całej organizacji. Podczas wykładu zostaną omówione kluczowe filary, na których warto oprzeć transformację w kierunku data-driven i wykorzystania AI.

W ramach wykładu szczegółowo omówimy wynikające z art. 10 AI Act wymagania dotyczące jakości i zarządzania danymi na potrzeby trenowania modeli AI. Omówimy między innymi wymagania dotyczące adekwatności, bezbłędności, kompletności danych, czy odpowiedniego doboru danych – np. w kontekście geograficznym, funkcjonalnym, behawioralnym. Wykład prowadzony będzie przez dwóch wykładowców – prawnika oraz ekspertkę z zakresu data science. W ramach wykładu przedstawimy zatem nie tylko wymagania prawne, lecz przede wszystkim pokażemy rzeczywiste metody realizacji takich wymagań. Przedstawimy między innymi rzeczywiste metody doboru, weryfikacji i uzupełnienia danych, czy konsekwencje nieodpowiedniego doboru danych. Wykład ilustrowany będzie prezentacją konkretnych przypadków z praktyki.

W ramach wykładu słuchacze poznają zasady i specyfikę ochrony danych osobowych na poszczególnych etapach życia projektu AI. Następnie te zagadnienia zostaną szczegółowo omówione z perspektywy regulacyjnej z uwzględnieniem orzecznictwa i praktyki rynkowej. Uczestnicy zdobędą wiedzę potrzebną do tego, aby identyfikować potencjalne ryzyka prawne, związane z ochroną danych osobowych w projektach AI oraz te problemy rozwiązywać.

W trakcie wykładów słuchacze poznają wymagania dot. ochrony danych dla systemów AI. Następnie słuchacze poznają zasady budowy procesu wdrożeniowego, który zapewni zgodność nie tylko z RODO, ale i innymi przepisami. Omówimy mechanizmy data protection by design i data protection impact assessment w kontekście wdrażania systemów AI. Przedstawione zostaną dobre praktyki i wytyczne znajdujące zastosowanie do zapewnienia zgodności systemu AI z regulacjami dot. ochrony danych osobowych.

W ramach wykładu słuchacze poznają techniczne aspekty funkcjonowania generatywnej AI, w tym tworzenia tzw. deep fake. Zaprezentowane zostanie, w jaki sposób, przy pomocy jakich narzędzi powstają współcześnie materiały multimedialne.
Słuchacze dowiedzą się też jak AI wykorzystywana jest jako narzędzie twórcze i co oferuje artystom dzięki wykorzystaniu GAN (Generative Adversarial Network), które pozwalają na generowanie unikalnych dzieł artystycznych. W jaki sposób tworzone są za pomocą AI animacje, teksty literackie czy muzyka oraz jak zachować równowagę między kreatywnością AI a ludzką twórczością.
Następnie uczestnicy poznają zastosowania generatywnej AI w biznesie, jak również ryzyka związane z wykorzystaniem deep fake przez cyberprzestępców.

W podsumowaniu zajęć nastąpi przegląd prognoz dotyczących rozwoju generatywnej AI oraz wyzwań związanych z popularyzacją tej technologii.

W ramach wykładu szeroko omówione zostaną przewidziane w dyrektywie 2019/790 o prawie autorskim na jednolitym rynku cyfrowym wyjątki dotyczące eksploracji tekstu i danych (text and data mining – TDM). Omówimy praktyczne aspekty zastosowania wyjątków TDM do trenowania modeli AI, jak również zasady zastrzegana praw do TDM. Przedstawione zostaną również wymagania dotyczące wykorzystania utworów do trenowania modeli wynikające z AI Act.

Generatywna Sztuczna Inteligencja, mimo że dopiero na samym początku swojej drogi rozwoju weszła do powszechnego użytku wielu profesji zajmujących się najszerzej pojmowanym zjawiskiem tworzenia. Pierwsze doświadczenia pokazały, że jakkolwiek ma ona swoje istotne ograniczenia, wręcz niewątpliwe wady, z pewnością będzie narzędziem w dalszym ciągu udoskonalanym. Ponieważ narzędzie to jest w każdym wymiarze zupełnie odmienne od dotychczas stosowanych, powstaje na tym tle szereg pytań pilnie wymagających odpowiedzi. Chodzi o wątpliwości w rodzaju: jak prawidłowo korzystać z narzędzi generatywnej AI, jak tworzyć polityki bezpiecznego korzystania, czy możliwe jest korzystania z wytworów SI, czy legalne jest trenowanie narzędzi AI na danych pozyskanych z Internetu, jak oznaczać treści współwygenerowane przez AI. Tego rodzaje zagadnienia będą przedmiotem zajęć.

W ramach zajęć prześledzimy cały proces wdrażania systemu AI, od wyboru właściwej metody AI dla dostępnych danych oraz właściwej metryki liczenia błędu, przez preprocessing danych, trenowanie modelu i weryfikację, po uruchomienie i utrzymanie systemu AI, w kontekście praw własności intelektualnej. Na konkretnym przykładzie zidentyfikujemy dobra własności intelektualnej, jakie spotkać możemy na poszczególnych etapach rozwoju i wdrożenia systemu AI (programy komputerowe, bazy danych, know–how, wynalazki). Przedstawiamy zasady ochrony oraz modelowe rozwiązania w zakresie dysponowania prawami wyłącznymi do takich dóbr. Rozważania prowadzić będziemy zarówno z punktu widzenia wykonawcy systemu AI, jak i zabezpieczenia interesów zamawiającego.

W ramach wykładu omówimy praktyczne i prawne aspekty przygotowywania umów na wdrożenia systemów sztucznej inteligencji (AI) w różnych obszarach biznesu. Porównamy umowy na wdrożenie systemu AI z umowami na wdrożenie oprogramowania i zwrócimy uwagę na specyficzne zagadnienia, które są związane z systemami AI takie jak ochrona danych, własność intelektualna oraz odpowiedzialność cywilna. Przedstawimy różnicę pomiędzy perspektywą zleceniobiorcy wdrażającego system AI a perspektywą użytkownika.
Pokażemy, jakie są modele wdrożeń systemów AI, w tym modele wdrożeń z dostosowaniem systemu do potrzeb użytkownika i z użyciem jego danych. Na koniec omówimy wpływ AI Act na proces wdrażania systemu AI i na ryzyka związane z jego funkcjonowaniem. Słuchacze zapoznają się z dobrymi praktykami i rekomendacjami dotyczącymi wdrażania systemu AI, a także będą mogli zadawać pytania i dyskutować na temat praktycznych kwestii dotyczących umów na wdrożenia.

Wykład prowadzony jest przez dwóch ekspertów – prawnika oraz specjalistę z zakresu technicznych aspektów cyberbezpieczeństwa.

W ramach wykładu słuchacze poznają wymagania prawne dotyczące zapewnienia cyberbezpieczeństwa systemów AI, w tym wymagania wynikające z AI Act, dyrektywy NIS i NIS 2 oraz dyrektywy w sprawie odporności sektorów krytycznych. Szczególna uwaga poświęcona zostanie regulacjom prawnym dot. cyberbezpieczeństwa wyrobów medycznych.
Następnie omówimy konkretne metody ataków na systemy AI oraz techniczne i organizacyjne metody zapewnienia cyberbezpieczeństwa systemów AI. Skupimy się na praktycznych aspektach realizacji wymagań AI Act w zakresie cyberbezpieczeństwa.

Słuchacze poznają również przykłady wykorzystania systemów AI przez cyberprzestępców w celu prowadzenia ataków, jak również możliwości wykorzystania technologii AI w celu zapewnienia cyberbezpieczeństwa.

Rozwój sztucznej inteligencji stanowi wyzwanie dla prawa patentowego. Po pierwsze, pojawia się pytanie, kto jest twórcą wynalazku, powstającego z wykorzystaniem sztucznej inteligencji. Czy w ogóle możemy wskazać w takich przypadkach twórcę? Po drugie, powstaje pytanie, czy powszechne zastosowanie sztucznej inteligencji nie wpływa na sposób rozumienia przesłanek ochrony patentowej. Jak powinniśmy dzisiaj rozumieć nieoczywistość (poziom wynalazczy)? Czy zakładamy, że znawca danej dziedziny, oprócz tradycyjnych narzędzi, ma również do dyspozycji systemy sztucznej inteligencji? Wreszcie, czy sztuczna inteligencja wpływa na to, jak wykonywane są badania patentowe? Na te i inne pytania, postaram się odpowiedzieć w trakcie wykładu o sztucznej inteligencji i prawie patentowym, sięgając do przykładów z orzecznictwa urzędów patentowych i sądów europejskich, amerykańskich oraz innych wybranych państw, gdzie powoli pojawiają się odpowiedzi na nurtujące nas pytania.

W ramach zajęć słuchacze zdobędą podstawową wiedzę dot. wymogów prawnych i regulacyjnych, które trzeba realizować w związku z rozwojem i wdrażaniem systemów AI w branżach Healthcare i Life Science. Omówione zostaną wymogi prawne i regulacyjne w całym cyklu życia produktu, w tym: kwalifikacja i klasyfikacja systemów AI / ML jako wyrobów medycznych oraz jako high-risk AI, obowiązki producentów wyrobów / wyrobów IVD wykorzystujących AI (QMS, RMS, dokumentacja techniczna, ocena kliniczna wyrobów-badania kliniczne wyrobów i badanie działania wyrobów IVD, obowiązki dot. jakości danych treningowych i walidacyjnych, wymogi dot. przejrzystości i wytłumaczalności), certyfikacja wyrobów medycznych i high-risk AI, dalsze trenowanie modelu AI / ML po zakończeniu oceny zgodności, nadzór po wprowadzeniu do obrotu (post-market surveillance).

Celem zajęć jest przybliżenie słuchaczom najnowszych osiągnięć neurotechnologii dzięki zastosowaniu sztucznej inteligencji. Na zajęciach poruszymy w szczególności nową tematykę neuropraw i prawa do prywatności myśli, a także kwestie cyborgizacji i transhumanizmu.
W szczególności zajęcia będą dotyczyły takich zagadnień jak:

• Interfejsy mózg – komputer: czym są i jakie wyzwania prawne są w nim związane?
• Konsekwencje monitorowania i wpływania na mózg człowieka w kontekście obowiązujących przepisów prawa (RODO, Akt o usługach cyfrowych, projekt Aktu o Sztucznej Inteligencji).
• Czy są „neuroprawa” i czy rzeczywiście są potrzebne?
• Prawo do prywatności myśli.
• Kwestie równości i dyskryminacji neurotechnologicznej.
• Neurotechnologiczne rozwiązania problemu przestępczości.
• Wpływ, jaki neurotechnologia mieć na wydajność poznawczą i sposób pracy prawnika.
• Wyzwania, możliwości i pytania stojące przed zawodami prawniczymi i praktyką prawniczą związane z neurotechnologii.

W ramach zajęć słuchacze szkoły prawa AI poznają najważniejsze kwestie dot. zastosowań sztucznej inteligencji w branży finansowej, obejmującej bankowość i pożyczki, rynek kapitałowy, ubezpieczenia oraz alternatywne finanse i inwestycje.
Dodatkowo przedstawione zostaną uwarunkowania prawne związane z wykorzystywaniem AI w sektorze finansowym. Słuchacze poznają zarówno polskie, jak i europejskie normy prawne, a także stanowiska organów nadzoru, w szczególności Komisji nadzoru Finansowego.
Na zajęciach omówione zostaną również przykłady praktyczne użycia AI dla procesów takich jak m.in.:
• zautomatyzowana ocena zdolności kredytowej;
• bot trading, w tym w ramach hft;
• inteligentne zarządzanie portfelem;
• analiza danych finansowych i trendów rynkowych;
• monitorowanie transakcji dla celów AML i przeciwdziałania oszustwom;
• nadzór i zarządzanie ryzykiem.

W ramach tych zajęć słuchacze dowiedzą się, w jaki sposób sztuczna inteligencja jest wykorzystywana w militariach na całym świecie oraz jak prawo międzynarodowe, a zwłaszcza prawo konfliktów zbrojnych, ocenia to zjawisko. Podczas zajęć omówimy najważniejsze kwestie, które były przedmiotem debat na forum ONZ przez państwa, organizacje społeczne i specjalistów z zakresu sztucznej inteligencji, etyki i psychologii w ciągu ostatnich 10 lat. Głównym tematem naszych dyskusji będą "LAWS" - autonomiczne systemy śmiercionośnej broni, a także pytanie o dopuszczalność ich użycia w kontekście prawa międzynarodowego. Postawimy trudne pytania i będziemy dążyć do znalezienia odpowiedzi nawet poza ramami prawnymi.

W ramach zajęć zostanie przedstawione kompleksowo zagadnienie odpowiedzialności za działania systemów AI zarówno na gruncie prawa polskiego, jak i unijnego. Zaprezentowane zostaną zarówno obowiązujące regulacje, jak i te, które najprawdopodobniej zostaną uchwalone w przyszłości. Omówione zostanie w szczególności projekt Dyrektywie Parlamentu Europejskiego i Rady w sprawie dostosowania przepisów dotyczących pozaumownej odpowiedzialności cywilnej do sztucznej inteligencji (dyrektywa w sprawie odpowiedzialności za sztuczną inteligencję), jak również przepisy dotyczące odpowiedzialności za produkty niebezpieczne i stosowne przepisy AI Act.

Pewną część wykładu poświęcono także wpływowi rozwoju AI i jej regulacji na rynek ubezpieczeniowy – w szczególności w zakresie możliwości ubezpieczenia się od szkód spowodowanych przez systemy wysokiego ryzyka.

W oparciu o przedstawione opisy rzeczywistych zastosowań systemów AI uczestnicy dokonają klasyfikacji systemów AI w kontekście AI Act. Uczestnicy zidentyfikują zabronione wykorzystanie systemów AI oraz systemy AI wysokiego ryzyka. Warsztaty prowadzone będą przy wykorzystaniu platformy MURAL.

W ramach warsztatów uczestnicy wykorzystując wiedzę zdobytą podczas wykładów zmierzą się z zadaniem zastosowania zasad procesu oceny zgodności systemów sztucznej inteligencji z wymaganiami AI Act.

Zadaniem grupy będzie stworzenie polityki bezpiecznego korzystania dla przedsiębiorstwa z narzędzi sztucznej inteligencji. Powinna ona być stworzona na podstawie ogólnych zasad prawnoautorskich oraz warunków korzystania z konkretnego narzędzia generatywnej AI. W przypadku braku możliwości pełnego wyeliminowania ryzyk prawnych zadaniem grupy będzie podkreślenie takich zachowań użytkowników narzędzi, które przyczynią się do ich zminimalizowania.

W ramach warsztatu słuchacze analizować będą studium przypadku dotyczące wdrożenia systemu AI, w kontekście ochrony danych osobowych. Zadaniem słuchaczy będzie między innymi przygotowanie fragmentu dokumentacji dotyczącej zapewnienia zgodności projektu AI z regulacjami ochrony danych osobowych.

Warsztat nakierowany będzie na przeprowadzenie oceny w oparciu o model wdrożeniowych data protection by design, począwszy od fazy koncepcyjnej, a skończywszy na założeniach fazy utrzymaniowej. Ocena będzie przeprowadzona na podstawie spreparowanego projektu wdrożenia narzędzia opartego na AI.