Unia Europejska fundamentalnie zmieniła krajobraz technologiczny, wprowadzając rozporządzenie w sprawie sztucznej inteligencji. Jako pierwsze na świecie tak obszerne ramy prawne dla AI, dokument ten odcina się od teoretycznych debat i nakłada bardzo konkretne, operacyjne obowiązki na firmy, które tworzą, wdrażają lub komercyjnie wykorzystują sztuczną inteligencję na rynku unijnym.
Cała architektura tego prawa opiera się na kategoryzacji ryzyka. Zamiast regulować samą technologię jako taką, AI Act dyscyplinuje sposób jej wykorzystania. Systemy stwarzające niedopuszczalne ryzyko dla bezpieczeństwa lub praw podstawowych człowieka – takie jak modele wykorzystujące techniki podprogowe czy służące do oceny obywatelskiej (social scoring) – są całkowicie zakazane. Nie ma tu żadnej ścieżki legalizacji.
Dla sektora biznesowego najważniejszym obszarem są systemy "wysokiego ryzyka". Jeśli Twoja organizacja wykorzystuje AI w krytycznych procesach decyzyjnych, na przykład do zautomatyzowanej analizy CV podczas rekrutacji, oceny zdolności kredytowej klientów czy w zarządzaniu infrastrukturą, wkraczasz w strefę ścisłego nadzoru. Zgodność z prawem wymaga tutaj prowadzenia rygorystycznej dokumentacji technicznej, zapewnienia stałego nadzoru człowieka nad maszyną (human-in-the-loop) oraz gwarancji, że dane użyte do trenowania modeli nie pogłębiają dyskryminacji.
Co więcej, bezprecedensowy wręcz rozwój modeli generatywnych wymusił nowe obowiązki w zakresie transparentności. Nawet najprostsze komercyjne zastosowania, takie jak chatbot biura obsługi, podlegają regulacjom. Klient musi mieć absolutną jasność, że konwersuje z automatem. Dla dostawców technologii audytowanie swoich podwykonawców z zakresu AI nie jest już tylko dobrą praktyką, stało się koniecznością prawną, za usunięcie naruszeń której grożą kary rzędu do 35 milionów euro lub stanowiące procent globalnego obrotu firmy.
Legal Monkeys dostarcza informacji o polskim prawie. Nie jest kancelarią i nie udziela porad prawnych.