Generatywna sztuczna inteligencja w wielu firmach pojawiła się szybciej niż regulaminy, procedury bezpieczeństwa i polityki zarządzania danymi.
Pracownicy wykorzystują modele AI do streszczania dokumentów, tłumaczenia umów, przygotowywania prezentacji, analizowania danych, pisania kodu czy tworzenia korespondencji dla klientów.
Z biznesowego punktu widzenia trudno się temu dziwić. Narzędzia potrafią znacząco skracać czas wykonywania wielu zadań.
Problem zaczyna się jednak wtedy, gdy organizacja nie wie, jakie informacje pracownik przekazuje zewnętrznemu modelowi.
Może to być fragment umowy, korespondencja klienta, dane osobowe, informacje finansowe albo treść poufnego dokumentu.
I właśnie na tym etapie może pojawić się ryzyko – jeszcze zanim AI wygeneruje jakąkolwiek odpowiedź.
Polska ustawa o AI weszła w życie 11 sierpnia 2026 roku
Ustawa z 3 lipca 2026 r. o systemach sztucznej inteligencji została ogłoszona w Dzienniku Ustaw pod pozycją 1003 i zasadniczo weszła w życie 11 sierpnia 2026 roku.
Jej znaczenie polega przede wszystkim na stworzeniu krajowych mechanizmów związanych z funkcjonowaniem unijnego AI Act.
Ustawa powołuje m.in. Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji – KRiBSI, która ma pełnić funkcję jednego z kluczowych organów krajowego nadzoru rynku systemów AI.
Nie wszystkie przepisy zaczęły jednak obowiązywać jednocześnie.
Część regulacji dotyczących m.in. kontroli, postępowań przed KRiBSI, kar administracyjnych oraz opinii indywidualnych ma zacząć działać od 28 października 2026 roku.
Dlatego firmy nie powinny traktować dostosowania do nowych regulacji jako projektu, który można zamknąć poprzez przygotowanie jednego dokumentu.
AI compliance nie ma jednej daty granicznej
Równolegle do polskiej ustawy obowiązuje unijny AI Act – rozporządzenie (UE) 2024/1689.
Poszczególne jego przepisy są wdrażane etapami.
Od 2 sierpnia 2026 roku zaczęły mieć zastosowanie m.in. określone w art. 50 obowiązki dotyczące przejrzystości niektórych systemów i treści generowanych przez AI.
Nie oznacza to jednak, że każda treść, przy której powstaniu wykorzystano AI, musi zostać opatrzona identycznym komunikatem.
Art. 50 różnicuje obowiązki zależnie od rodzaju systemu i sposobu wykorzystania treści. Przewiduje m.in. określone obowiązki dotyczące informowania użytkowników o interakcji z AI, oznaczania treści syntetycznych oraz ujawniania niektórych treści typu deepfake. W przypadku tekstów publikowanych w celu informowania opinii publicznej przewidziano również wyjątek dla materiałów poddanych kontroli redakcyjnej, za które odpowiedzialność ponosi osoba fizyczna lub prawna.
Dla przedsiębiorstw oznacza to jedno: AI compliance będzie procesem, a nie pojedynczym terminem w kalendarzu.
Największe ryzyko może pojawić się zanim AI odpowie
W debacie o sztucznej inteligencji bardzo dużo uwagi poświęca się halucynacjom modeli.
AI może przecież:
-
wygenerować błędną informację,
-
powołać się na nieistniejące źródło,
-
nieprawidłowo zinterpretować dane,
-
stworzyć zbyt daleko idący wniosek.
To istotne ryzyka.
Ale z punktu widzenia bezpieczeństwa przedsiębiorstwa problem może wystąpić znacznie wcześniej.
Wystarczy, że pracownik skopiuje do narzędzia cały dokument, mimo że do wykonania zadania potrzebny jest jedynie jego niewielki fragment.
– Część ryzyka powstaje jeszcze przed odpowiedzią modelu, w chwili gdy pracownik przekazuje do zewnętrznego systemu umowę, korespondencję klienta, dane osobowe, informacje finansowe czy inne poufne treści – zwraca uwagę Paweł Sokołowski, radca prawny z kancelarii IT Legal, ekspert prawny współpracujący z Anonimizerem.
To zmienia sposób myślenia o bezpieczeństwie AI.
Nie wystarczy sprawdzać tego, co model wygenerował.
Trzeba również kontrolować to, co wcześniej do niego wysłano.
RODO nadal obowiązuje, gdy firma korzysta z AI
AI Act nie zastępuje istniejących regulacji dotyczących ochrony danych.
Jeżeli pracownik przekazuje do systemu AI dane osobowe, przedsiębiorstwo nadal musi uwzględniać wymagania wynikające z RODO.
Jedną z podstawowych zasad jest minimalizacja danych.
W praktyce organizacja powinna zadać sobie pytanie:
Czy model rzeczywiście potrzebuje wszystkich informacji zawartych w tym dokumencie, żeby wykonać zadanie?
Jeżeli odpowiedź brzmi „nie”, należy rozważyć ograniczenie zakresu danych jeszcze przed ich przekazaniem.
Źródłowy komentarz ekspercki zwraca uwagę właśnie na tę zależność: zakres informacji przekazywanych do AI powinien być adekwatny i ograniczony do tego, co potrzebne do realizacji konkretnego celu.
Wersja enterprise nie rozwiązuje wszystkiego
Firmy coraz częściej wybierają biznesowe wersje popularnych narzędzi AI.
Może to być dobry kierunek.
W zależności od dostawcy wersje enterprise mogą oferować bardziej rozbudowane mechanizmy bezpieczeństwa, zarządzania użytkownikami czy przetwarzania danych.
Nie rozwiązują jednak automatycznie podstawowego problemu.
Jeżeli pracownik przekazuje modelowi informacje, których w ogóle nie powinien mu przekazywać, wybór bezpieczniejszego planu usługowego nie zastępuje właściwego zarządzania danymi.
– Korzystanie z wersji enterprise może ograniczać część ryzyk związanych ze sposobem przetwarzania danych przez dostawcę, ale nie rozwiązuje za firmę podstawowego pytania: czy model w ogóle potrzebuje wszystkich informacji zawartych w dokumencie – zauważa Paweł Sokołowski.
Shadow AI: pracownicy korzystają z narzędzi poza kontrolą firmy
Kolejnym problemem jest skala nieformalnego wykorzystywania AI.
W materiale eksperckim przywołano dane wskazujące, że 54% pracowników korzystających z narzędzi AI nie informuje o tym swoich pracodawców.
To właśnie zjawisko określane jest coraz częściej jako shadow AI.
Jest ono odpowiednikiem znanego od lat shadow IT – sytuacji, w której pracownicy wykorzystują technologie niezatwierdzone lub niekontrolowane przez organizację.
W przypadku generatywnej AI może wyglądać bardzo niewinnie.
Pracownik chce zaoszczędzić czas.
Zakłada konto w darmowym narzędziu.
Wkleja fragment dokumentu.
Otrzymuje odpowiedź.
Kopiuje ją do firmowego raportu.
Z perspektywy użytkownika zadanie zostało wykonane szybciej.
Z perspektywy przedsiębiorstwa mogą pojawić się jednak pytania:
-
jakie dane zostały przekazane,
-
do jakiego systemu,
-
na jakim koncie,
-
na jakich warunkach były przetwarzane,
-
czy rezultat został sprawdzony,
-
czy firma w ogóle wiedziała o wykorzystaniu AI.
64% firm korzystających z AI sięga po darmowe narzędzia
Problem nie dotyczy niewielkiej grupy użytkowników.
Według danych przypisywanych raportowi PARP i Uniwersytetu Jagiellońskiego 64% polskich przedsiębiorstw korzystających z AI sięga po darmowe i ogólnodostępne narzędzia, podczas gdy tylko 38% deklaruje posiadanie polityki określającej zasady przekazywania danych narzędziom sztucznej inteligencji.
Pokazuje to sporą różnicę pomiędzy tempem adopcji technologii a zdolnością firm do jej kontrolowania.
W wielu organizacjach AI pojawia się oddolnie.
Nie dlatego, że zarząd uruchomił wielomiesięczny program transformacji.
Po prostu jeden pracownik odkrył, że model może przygotować podsumowanie dokumentu w kilkadziesiąt sekund.
Potem korzysta z niego kolejna osoba.
A następnie cały zespół.
Pierwsze pytanie: gdzie AI jest już używane?
Dlatego tworzenie polityki AI powinno rozpocząć się od audytu faktycznego wykorzystania narzędzi.
Firma powinna ustalić:
- jakich modeli używają pracownicy,
- do jakich zadań,
- jakiego rodzaju dane do nich przekazują,
- czy korzystają z kont prywatnych czy firmowych,
- które procesy zawierają element AI,
- i kto odpowiada za rezultat.
Dopiero po poznaniu rzeczywistego sposobu wykorzystania technologii można tworzyć sensowne zasady.
Samo wysłanie pracownikom regulaminu z informacją „nie przekazuj poufnych danych do AI” może być niewystarczające.
Pracownik musi jeszcze wiedzieć, co firma uznaje za dane poufne, z jakich narzędzi może korzystać i jak ma wykonać zadanie, jeśli dokument zawiera informacje wrażliwe.
Firma powinna stworzyć listę dozwolonych narzędzi AI
Jednym z najprostszych elementów AI Governance może być stworzenie katalogu zatwierdzonych rozwiązań.
Pracownik powinien bez trudu znaleźć odpowiedź na pytanie:
Czy mogę używać tego narzędzia do pracy?
Lista może rozróżniać narzędzia zależnie od przeznaczenia.
Przykładowo jedno rozwiązanie może być dopuszczone do tworzenia treści marketingowych na podstawie publicznych informacji, ale niedopuszczone do analizy umów zawierających dane klientów.
Inny system może zostać zaakceptowany do pracy z bardziej wrażliwymi materiałami przy zastosowaniu określonej konfiguracji.
Ważne jest więc nie tylko jakie AI, ale również do czego.
Anonimizacja danych przed przekazaniem ich do AI
Jednym ze sposobów ograniczenia zakresu przekazywanych informacji może być anonimizacja lub – zależnie od przypadku – pseudonimizacja dokumentu przed jego wykorzystaniem w zewnętrznym systemie.
Może to oznaczać usunięcie lub zastąpienie m.in.:
-
imion i nazwisk,
-
adresów,
-
numerów identyfikacyjnych,
-
danych kontaktowych,
-
numerów rachunków,
-
nazw klientów,
-
innych informacji poufnych.
Istotne jest jednak, aby nie traktować anonimizacji jako rozwiązania wszystkich problemów.
Nie zastępuje ona oceny prawnej, analizy ryzyka, właściwej konfiguracji narzędzia ani kontroli człowieka.
Może natomiast być jednym z elementów ograniczających zakres danych wejściowych.
Na rynku rozwijają się również rozwiązania umożliwiające przygotowanie dokumentów do pracy z AI lokalnie, bez wcześniejszego wysyłania pełnej treści do zewnętrznej chmury. Jednym z przykładów takiej kategorii rozwiązań jest polski Anonimizer. Źródłowy materiał zastrzega jednak, że wybór konkretnego narzędzia powinien wynikać z analizy ryzyka i potrzeb organizacji.
Polityka AI bez narzędzi może pozostać tylko dokumentem
Załóżmy, że firma zapisuje w procedurze:
Przed użyciem AI należy usunąć z dokumentu wszystkie dane osobowe i poufne.
Brzmi rozsądnie.
Ale w jaki sposób pracownik ma to zrobić?
Jeżeli wymaga to ręcznego przeglądania kilkudziesięciu stron i mozolnego usuwania informacji, istnieje ryzyko, że procedura będzie przestrzegana wybiórczo.
Dlatego zasady organizacyjne powinny iść w parze z rzeczywistym sposobem ich realizacji.
– Jeżeli firma wymaga od pracownika ograniczenia zakresu danych przed użyciem AI, powinna zapewnić mu realny sposób wykonania tego obowiązku – podkreśla Paweł Sokołowski.
To dobra zasada dotycząca całego AI Governance.
Polityka ma znaczenie dopiero wtedy, gdy pracownik jest w stanie stosować ją podczas codziennej pracy.
Nie można przerzucić całej odpowiedzialności na pracownika
Wprowadzanie AI do organizacji rodzi pokusę stworzenia bardzo prostego systemu:
firma pozwala korzystać z narzędzi, ale odpowiedzialność za bezpieczeństwo przerzuca na użytkownika.
To niewystarczające.
Jeżeli przedsiębiorstwo dopuszcza generatywną AI, powinno określić co najmniej:
-
dozwolone narzędzia,
-
zasady dotyczące danych,
-
ograniczenia zastosowania,
-
sposób kontroli rezultatów,
-
odpowiedzialność za zatwierdzenie treści.
W materiale eksperckim wskazano, że wobec organów nadzoru to co do zasady organizacja – jako administrator danych lub podmiot korzystający z systemu – pozostaje kluczowym podmiotem odpowiedzialnym. Świadomość zasad przez pracownika ma natomiast znaczenie m.in. przy ocenie odpowiedzialności pracowniczej oraz tego, czy pracodawca wdrożył odpowiednie zabezpieczenia organizacyjne.
AI literacy – pracownicy muszą rozumieć narzędzia, których używają
AI Act zawiera również obowiązek związany z tzw. AI literacy, czyli kompetencjami dotyczącymi sztucznej inteligencji.
Art. 4 rozporządzenia wymaga, aby dostawcy i podmioty stosujące systemy AI podejmowali działania na rzecz zapewnienia odpowiedniego poziomu kompetencji osób obsługujących i wykorzystujących takie systemy w ich imieniu.
Nie oznacza to, że każdy pracownik musi zostać specjalistą od uczenia maszynowego.
Powinien natomiast rozumieć m.in.:
-
że AI może popełniać błędy,
-
że dane wejściowe mają znaczenie,
-
że nie każdy dokument można swobodnie wkleić do modelu,
-
że rezultat może wymagać sprawdzenia,
-
jakie reguły obowiązują w jego organizacji.
Szkolenie z „10 najlepszych promptów do ChatGPT” nie wyczerpuje więc tematu AI literacy.
Co firma powinna zrobić teraz? Checklista AI compliance
Przedsiębiorstwo nie musi zaczynać od kupowania kolejnego systemu.
Znacznie lepszym punktem wyjścia będzie odpowiedź na kilka konkretnych pytań.
1. Czy wiemy, z jakich narzędzi AI korzystają pracownicy?
Nie tylko tych oficjalnie kupionych przez organizację.
2. Czy mamy listę narzędzi dozwolonych i niedozwolonych?
Pracownik nie powinien sam zgadywać.
3. Czy określiliśmy rodzaje danych, których nie wolno przekazywać do zewnętrznych modeli?
Reguły powinny być zrozumiałe również dla osób spoza działu prawnego.
4. Czy ustaliliśmy, kiedy dane należy ograniczyć, zanonimizować lub pseudonimizować?
I czy pracownik ma narzędzie, które pozwala mu to zrobić?
5. Czy wiemy, które materiały wygenerowane przez AI wymagają kontroli człowieka?
Im większe ryzyko biznesowe, tym większe znaczenie weryfikacji.
6. Czy wiadomo, kto odpowiada za końcowy rezultat?
Nie wystarczy stwierdzenie „zrobiło to AI”.
7. Czy szkolimy pracowników również z ryzyka, a nie tylko z obsługi narzędzi?
AI literacy powinno obejmować ograniczenia technologii.
8. Czy możemy odtworzyć przebieg procesu w przypadku incydentu?
Warto wiedzieć, kto, kiedy i do czego wykorzystał określone rozwiązanie.
AI compliance powinno zaczynać się od danych, nie od technologii
Nowe regulacje mogą skłaniać przedsiębiorstwa do szybkiego poszukiwania kolejnych produktów zapewniających „zgodność z AI Act”.
To jednak odwraca kolejność.
Najpierw firma powinna wiedzieć, jak wykorzystuje AI.
Potem – jakie ryzyka się z tym wiążą.
Następnie – jakie zasady są potrzebne.
Dopiero na końcu można ustalić, jakie rozwiązania techniczne pomogą te zasady egzekwować.
To właśnie jedna z najważniejszych tez komentarza Pawła Sokołowskiego:
AI compliance nie powinno zaczynać się od wyboru narzędzia.
Pytanie nie brzmi już: „czy używamy AI?”
W wielu przedsiębiorstwach odpowiedź jest oczywista.
AI jest już używane.
Czasami oficjalnie.
Czasami na prywatnym koncie pracownika.
Czasami w jednym dziale.
Czasami w prawie całej organizacji.
Nowa sytuacja regulacyjna sprawia, że przedsiębiorstwa powinny przejść do następnego pytania:
czy naprawdę wiemy, jak AI jest używane w naszej firmie i jakie dane do niego trafiają?
Bo największym problemem może nie być dziś brak firmowej polityki AI.
Problemem może być polityka, która istnieje na papierze, podczas gdy codzienna praktyka wygląda zupełnie inaczej.
FAQ – ustawa o AI, AI Act i dane firmowe
Kiedy weszła w życie polska ustawa o systemach sztucznej inteligencji?
Ustawa z 3 lipca 2026 r. o systemach sztucznej inteligencji została ogłoszona w Dzienniku Ustaw pod poz. 1003 i zasadniczo weszła w życie 11 sierpnia 2026 roku. Niektóre jej regulacje zaczną obowiązywać później.
Czym jest KRiBSI?
KRiBSI to Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przewidziana w polskiej ustawie jako element krajowego systemu nadzoru nad rynkiem systemów AI.
Czy pracownik może wklejać dane osobowe do ChatGPT?
Nie ma jednej odpowiedzi dla każdego przypadku. Znaczenie mają m.in. rodzaj danych, cel przetwarzania, wykorzystywana usługa, konfiguracja i zasady obowiązujące w organizacji. Jeżeli przetwarzane są dane osobowe, przedsiębiorstwo musi uwzględniać również obowiązki wynikające z RODO.
Czy korzystanie z ChatGPT Enterprise rozwiązuje problem ochrony danych?
Nie automatycznie. Rozwiązania biznesowe mogą oferować dodatkowe mechanizmy bezpieczeństwa, ale organizacja nadal powinna określić, czy przekazywanie konkretnego zakresu informacji do modelu jest potrzebne i dopuszczalne.
Co to jest shadow AI?
Shadow AI oznacza wykorzystanie narzędzi sztucznej inteligencji poza pełną wiedzą albo kontrolą organizacji, np. gdy pracownik korzysta z prywatnego konta w niezatwierdzonej usłudze do realizowania zadań służbowych.
Czy wszystkie treści stworzone przez AI trzeba oznaczać?
Nie. Art. 50 AI Act przewiduje różne obowiązki zależnie od rodzaju systemu, treści i sposobu jej wykorzystania. Przepisy zawierają również wyjątki, m.in. dotyczące niektórych tekstów poddanych kontroli redakcyjnej.
Co oznacza AI literacy?
AI literacy to odpowiedni poziom wiedzy i kompetencji dotyczących sztucznej inteligencji u osób wykorzystujących lub obsługujących systemy AI. Art. 4 AI Act zobowiązuje dostawców i podmioty stosujące AI do podejmowania działań w celu zapewnienia odpowiedniego poziomu takich kompetencji.
Czy anonimizacja dokumentu wystarczy, aby bezpiecznie korzystać z AI?
Nie zawsze. Może ograniczać zakres przekazywanych danych, ale nie zastępuje oceny ryzyka, podstawy prawnej przetwarzania, właściwego wyboru narzędzia ani weryfikacji wyniku przez człowieka.
Zostaw komentarz