Krótka odpowiedź (TL;DR)
AI Act nakazuje, aby osoba fizyczna była poinformowana, że wchodzi w interakcję z systemem AI, chyba że jest to oczywiste z okoliczności. Obowiązek obejmuje chatboty obsługujące klientów, formularze samoobsługowe, asystentów w aplikacjach i systemy publikujące treści informacyjne w sprawach publicznych.
1. "Przecież każdy widzi, że to bot" nie zawsze wystarczy
Art. 50 AI Act działa prosto: użytkownik ma wiedzieć, czy rozmawia z człowiekiem, czy z systemem. Wyjątek dla sytuacji oczywistych nie powinien być traktowany jako furtka. Im bardziej chatbot przypomina konsultanta, im bardziej zbiera dane i im bardziej jego odpowiedź wpływa na prawa użytkownika, tym bardziej potrzebny jest jasny komunikat.
Dla polskiej praktyki administracyjnej dobrym punktem odniesienia jest orzecznictwo o jawności działania organów. NSA w „głównym celem przepisów ustawy o dostępie do informacji publicznej jest kontrola władzy publicznej" → III OSK 2427/24 podkreślił funkcję kontroli. Chatbot w urzędzie lub spółce komunalnej nie powinien zaciemniać, kto faktycznie obsługuje sprawę.
2. Co powinien zawierać komunikat?
Najlepszy komunikat jest krótki, widoczny i powiązany z funkcją systemu: "Rozmawiasz z asystentem AI. Odpowiedzi są generowane automatycznie i mogą zostać zweryfikowane przez pracownika". Przy sprawach prawnych, finansowych albo zdrowotnych warto dodać, kiedy użytkownik może zażądać kontaktu z człowiekiem.
Nie chodzi o baner w regulaminie. NSA w „prawo podmiotowe do informacji publicznej jest obiektywne" → III OSK 1061/24 akcentował, że uprawnienie informacyjne nie zależy od wygody podmiotu zobowiązanego. Podobnie w AI Act: informacja ma być dostępna w momencie interakcji, a nie ukryta w stopce.
3. Deepfake, tekst publiczny i materiały marketingowe
AI Act osobno reguluje deepfake oraz tekst generowany przez AI i publikowany w celu informowania opinii publicznej o sprawach interesu publicznego. Jeśli firma tworzy syntetyczne wideo prezesa, wygenerowany głos konsultanta albo automatyczny artykuł o zmianie prawa, powinna oznaczyć sztuczne pochodzenie treści. Wyjątki dotyczą m.in. twórczości artystycznej i treści po kontroli redakcyjnej z przypisaną odpowiedzialnością.
To ważne dla portali, marketplace'ów i instytucji publicznych. W sprawie III OSK 1209/22 NSA wymagał, aby organ uprawdopodobnił brak posiadania informacji, zamiast tylko to deklarować. Analogicznie, organizacja używająca AI powinna umieć wykazać, które treści były generowane, kto je zatwierdził i jak poprawiano błędy.
4. Najciekawszy take: transparentność jest funkcją zaufania, nie checkboxem
Użytkownik nie musi znać architektury modelu. Musi wiedzieć, czy odpowiedź pochodzi od człowieka, czy z automatu, i co może zrobić, gdy automat się myli. Najgorszy wzorzec to "AI jako niewidzialny pracownik": działa szybciej, ale odbiera użytkownikowi możliwość sensownego zakwestionowania wyniku.
Praktyczna lista kontrolna
- umieść komunikat o AI w miejscu rozpoczęcia rozmowy, nie wyłącznie w regulaminie.
- oddziel chatbot informacyjny od systemu podejmującego decyzje lub przyjmującego oświadczenia.
- zapewnij łatwą eskalację do człowieka przy reklamacjach, sprawach prawnych i błędach.
- oznacz syntetyczne obrazy, głos, wideo i teksty informujące o sprawach publicznych.
- zachowuj logi wersji promptów, odpowiedzi, korekt i zatwierdzeń redakcyjnych.
Najczęstszy błąd
Najczęstszy błąd to komunikat widoczny tylko przy pierwszym wejściu na stronę. Jeżeli użytkownik wraca bezpośrednio do okna rozmowy, korzysta z aplikacji mobilnej albo trafia z linku reklamowego, nadal powinien rozumieć, że odpowiada system AI.
Źródła
AI Act, rozporządzenie (UE) 2024/1689, art. 50; orzecznictwo NSA o jawności, kontroli i rzetelności odpowiedzi informacyjnej.