Zagrożenia sztucznej inteligencji – realne ryzyka z przykładami
Zagrożenia sztucznej inteligencji dzielą się według międzynarodowego raportu ekspertów International AI Safety Report 2026 na trzy grupy – złośliwe użycie, awarie i ryzyka systemowe – a najlepiej udokumentowane i najbliższe zwykłemu użytkownikowi są oszustwa z użyciem treści AI, błędne odpowiedzi czatów i dane wpisane do narzędzia, podczas gdy scenariusze utraty kontroli nad AI eksperci uznają za wykraczające poza możliwości obecnych systemów.
Czy AI jest niebezpieczne? Tak, w konkretnych i udokumentowanych sytuacjach: gdy oszust używa wygenerowanego głosu albo nagrania, gdy czat podaje błędną odpowiedź pewnym tonem i gdy ktoś wpisuje do narzędzia dane, których nie powinien. Ten sam raport stwierdza jednak, że obecne systemy sztucznej inteligencji nie mają zdolności, by doprowadzić do scenariusza utraty kontroli.
W Polsce skalę widać w danych CERT Polska: w 2025 roku zespół zarejestrował 260 783 unikalne incydenty bezpieczeństwa i obserwuje dziesiątki kampanii oszustów wygenerowanych narzędziami AI. Błędy też są policzone: w badaniu europejskich mediów publicznych 45% odpowiedzi asystentów AI o bieżących wiadomościach miało co najmniej jeden istotny problem.
Poniżej oddzielamy to, co instytucje uznają za udokumentowane, od tego, co pozostaje niepewne albo jest scenariuszem – i przy każdej liczbie podajemy, skąd pochodzi.
Jakie są główne zagrożenia sztucznej inteligencji?
Zagrożenia sztucznej inteligencji dzielą się według International AI Safety Report 2026 na złośliwe użycie, awarie i ryzyka systemowe, a część z nich ma udokumentowane szkody, część pozostaje niepewna, a jedna – utrata kontroli – jest według raportu poza zasięgiem obecnych systemów.
International AI Safety Report 2026 (dalej: raport ISR) opublikowano 3 lutego 2026 r. Powstał pod przewodnictwem Yoshui Bengio z udziałem ponad 100 niezależnych ekspertów, w tym osób nominowanych przez ponad 30 państw i organizacji międzynarodowych, m.in. UE, OECD i ONZ. Raport dotyczy AI ogólnego przeznaczenia, czyli modeli zdolnych do wielu różnych zadań, na których działają asystenci czatu i generatory obrazów. Jego autorzy piszą, że niektóre ryzyka „już się materializują, z udokumentowanymi szkodami”, a inne pozostają bardziej niepewne, ale mogą być poważne.
| Zagrożenie | Grupa według ISR | Status dowodów | Przykład ze źródłem | Gdzie w tekście |
|---|---|---|---|---|
| Oszustwa i dezinformacja z użyciem treści AI | złośliwe użycie | udokumentowane, brak pełnych danych o skali | sklonowane głosy i deepfake’i podszywające się pod przełożonych lub członków rodziny (ISR); ponad 280 wizerunków znanych osób w fałszywych reklamach w Polsce (NASK) | Jak AI służy do oszustw i dezinformacji? |
| Cyberataki wspomagane AI | złośliwe użycie | udokumentowane; niepewne, kto zyska więcej | w jednym konkursie agent AI znalazł 77% podatności w prawdziwym oprogramowaniu (ISR) | Czy sam system AI można zaatakować? |
| Atak na sam system AI | złośliwe użycie | opisany przez instytucje, bez statystyki skali | prompt injection – polecenia ukryte w treści, którą model czyta (NCSC) | Czy sam system AI można zaatakować? |
| Błędy i halucynacje | awarie | udokumentowane; rzadsze niż rok wcześniej, wciąż częste | 45% odpowiedzi o wiadomościach z istotnym problemem (EBU i BBC) | Dlaczego AI się myli i jak często? |
| Uprzedzenia | poza podziałem raportu (ISR nie wyodrębnia ich jako osobnej kategorii) | udokumentowane w pomiarach | błędy klasyfikacji do 34,7% dla ciemnoskórych kobiet wobec 0,8% dla jasnoskórych mężczyzn („Gender Shades”, 2018) | Czy sztuczna inteligencja jest stronnicza? |
| Wyciek danych wpisanych do narzędzia | ryzyko użytkowe, poza podziałem raportu | opisane w zasadach dostawcy i przez gov.pl, bez statystyki skali | rozmowy na kontach indywidualnych mogą służyć do trenowania modeli (OpenAI); sześć kategorii danych, których nie wpisywać (gov.pl) | Czy AI może ujawnić moje dane? |
| Zmiany na rynku pracy | ryzyka systemowe | niepewne, ekonomiści się nie zgadzają | 30,3% miejsc pracy w Polsce podatnych na wpływ generatywnej AI (NASK i MOP) | Czy AI zabierze mi pracę? |
| Zbytnie zaufanie do AI | ryzyka systemowe | wczesne dowody | poleganie na AI może osłabiać krytyczne myślenie (ISR) | Dlaczego zbytnie zaufanie do AI jest osobnym ryzykiem? |
| Utrata kontroli | awarie | obecne systemy nie mają takich zdolności | modele coraz częściej odróżniają test od wdrożenia (ISR) | Czy AI może wymknąć się spod kontroli? |
Nikt nie ma pełnej statystyki szkód wyrządzonych przez AI. Monitor incydentów i zagrożeń AI prowadzony przez OECD zawiera ponad osiemnaście tysięcy zdarzeń, ale zbiera je automatycznie z doniesień mediów, opisy generuje AI, a OECD zaznacza, że nie są to jej oficjalne stanowiska. Raport ISR dodaje, że bazy incydentów i dziennikarstwo zbierają pojedyncze przypadki, a ofiary często nie zgłaszają szkód. Monitor OECD rozróżnia dwa pojęcia: incydent AI to szkoda, która już nastąpiła, a zagrożenie (ang. hazard) to szkoda możliwa.
Jak AI służy do oszustw i dezinformacji?
Sztuczna inteligencja służy oszustom do szybkiego i taniego wytwarzania przekonujących wiadomości, nagrań i obrazów – w Polsce CERT Polska zarejestrował w 2025 roku 260 783 unikalne incydenty bezpieczeństwa i obserwuje dziesiątki kampanii wygenerowanych narzędziami AI, w których deepfake’i stają się stałym elementem fałszywych inwestycji.
Polskie liczby z dwóch źródeł instytucjonalnych:
| Co zmierzono | Wartość | Źródło |
|---|---|---|
| zgłoszenia do CERT Polska w 2025 roku | 658 320 (o 10% więcej niż rok wcześniej), czyli ponad 1800 na dobę | raport CERT Polska za 2025 rok (NASK) |
| unikalne incydenty bezpieczeństwa w 2025 roku | 260 783, czyli ok. 714 na dobę | raport CERT Polska za 2025 rok (NASK) |
| fałszywe materiały z wizerunkami znanych osób w ciągu 12 miesięcy | ponad 13 tysięcy, zbudowanych z ok. 650 unikalnych filmów | analiza NASK z zespołem KNF |
| tematyka tych materiałów | niemal 60% dotyczyło rzekomych instrumentów finansowych i programów rządowych | analiza NASK z zespołem KNF |
| wykorzystane wizerunki | ponad 280 znanych osób | analiza NASK z zespołem KNF |
CERT Polska nie wyodrębnia w statystyce oszustw „z użyciem AI”, więc nie istnieje jedna liczba takich przestępstw w Polsce. NASK opisuje natomiast mechanizm: AI „obniża próg wejścia” dla oszustów i pozwala im prowadzić kampanie na dużą skalę, a grafiki, zdjęcia i filmy typu deepfake „stają się nieodłącznym elementem fałszywych inwestycji”.
Raport ISR wymienia wytwarzanie treści do oszustw, wyłudzeń i szantażu wśród udokumentowanych nadużyć AI. Opisuje przypadki, w których sklonowany głos albo deepfake podszywa się pod przełożonego lub członka rodziny, żeby wyłudzić przelew. Zaznacza też, że choć takie szkody są dobrze udokumentowane, systematycznych danych o ich częstości i dotkliwości brakuje.
Agencja Unii Europejskiej ds. Cyberbezpieczeństwa (ENISA) w raporcie ENISA Threat Landscape 2025 podaje, że na początku 2025 roku kampanie phishingowe wspomagane AI stanowiły ponad 80% obserwowanej na świecie socjotechniki, czyli manipulowania ludźmi tak, by sami ujawnili dane albo zrobili przelew. To jednak liczba z raportu branżowego, na który ENISA się powołuje, a nie pomiar samej agencji. Według ENISA phishing odpowiadał za ok. 60% wektorów wejścia w incydentach, które przeanalizowała.
Ocena „na oko” nie wystarcza, bo treści AI coraz trudniej odróżnić od prawdziwych. Raport ISR przytacza badania, w których uczestnicy po pięciominutowej rozmowie mylnie uznali tekst AI za napisany przez człowieka w 77% przypadków, a słuchacze brali głosy AI za prawdziwych mówców w 80% przypadków.
Manipulacja przekonaniami to osobne ryzyko. Według raportu ISR w warunkach eksperymentalnych treści AI bywają równie skuteczne jak napisane przez ludzi w zmienianiu poglądów, a w realnym świecie użycie AI do manipulacji jest udokumentowane, ale na razie niepowszechne.
Najgłośniejszym przykładem są deepfake’i, czyli nagrania i obrazy podszywające się pod prawdziwe osoby. Skoro ocena „na oko” zawodzi, rozpoznanie zdjęcia wygenerowanego przez AI wymaga sprawdzenia źródła i metadanych, a nie tylko wyglądu obrazu.
Czy AI może ujawnić moje dane?
Dane wpisane do czatu AI na koncie indywidualnym mogą być używane do trenowania modeli, jeśli nie wyłączy się odpowiedniej opcji – tak wynika z dokumentacji OpenAI – a portal gov.pl wymienia sześć kategorii danych, których do narzędzi AI nie należy wpisywać.
Według poradnika gov.pl o pułapkach sztucznej inteligencji do narzędzi AI nie wpisuje się:
- danych osobowych, takich jak imiona i nazwiska, numer PESEL czy adresy;
- wizerunków, np. zdjęć dzieci, klientów albo pracowników;
- tajemnic handlowych;
- utworów chronionych prawem autorskim;
- kodu produkcyjnego z hasłami i kluczami dostępu;
- zdjęć pomieszczeń domu lub biura.
Trenowanie modelu to proces, w którym model AI uczy się na dużych zbiorach tekstów – także na rozmowach użytkowników, jeśli dostawca to przewiduje. Dokumentacja OpenAI rozróżnia dwa rodzaje kont:
| Konta indywidualne (Free, Plus, Pro) | Konta Business, Enterprise, Edu i API |
|---|---|
| treści rozmów mogą być używane do trenowania modeli; można to wyłączyć w ustawieniach kontroli danych albo w portalu prywatności, a wyłączenie obejmuje nowe rozmowy | treści domyślnie nie są używane do trenowania modeli |
| czaty tymczasowe nie służą do ulepszania modeli | – |
Ta zasada dotyczy jednego dostawcy – przy innych narzędziach sprawdź ustawienia danych w danym narzędziu. Dokumentacja OpenAI dodaje, że po przesłaniu opinii o odpowiedzi (np. kciuk w górę lub w dół) cała powiązana z nią rozmowa może zostać użyta do trenowania modeli – nawet przy wyłączonej opcji. Gov.pl ostrzega przy tym, że nie ma pewności, czy modele płatne nie wykorzystują danych, i zaleca „daleko idącą ostrożność”.
Ryzyko dla prywatności nie kończy się na tym, co sam wpiszesz. Parlament Europejski zwraca uwagę, że AI może wpływać na prywatność także przez rozpoznawanie twarzy i profilowanie osób w internecie.
Wyłączenie trenowania to pierwszy krok, jeśli dbasz o prywatność w ChatGPT, ale to, czy ChatGPT jest bezpieczny, zależy też od tego, co do niego wpisujesz.
Dlaczego AI się myli i jak często?
Asystenci AI mylą się często – w badaniu europejskich mediów publicznych 45% odpowiedzi o bieżących wiadomościach miało co najmniej jeden istotny problem, a 31% miało kłopot ze wskazaniem źródła.
Badanie przeprowadziły Europejska Unia Nadawców (EBU) i BBC razem z 22 mediami publicznymi z 18 krajów, w 14 językach. Dziennikarze ocenili ponad 2700 odpowiedzi darmowych wersji czterech asystentów AI na 30 pytań o bieżące wiadomości, zebranych w maju i czerwcu 2025 r. Wyniki zbiorcze:
| Wynik | Odsetek odpowiedzi | Jak to czytać |
|---|---|---|
| co najmniej jeden istotny problem | 45% | prawie co druga odpowiedź |
| jakikolwiek problem (mniejszy lub większy) | 81% | cztery na pięć odpowiedzi |
| istotny problem ze źródłami | 31% | niemal co trzecia odpowiedź |
| istotny problem z dokładnością | 20% | co piąta odpowiedź |
| istotny brak potrzebnego kontekstu | 14% | – |
Wynik dotyczy pytań o bieżące wiadomości i darmowych wersji asystentów, więc nie da się go przenieść na pisanie kodu, medycynę czy matematykę. W porównaniu wyników BBC z wcześniejszą rundą badania tej samej redakcji odsetek odpowiedzi z istotnymi problemami spadł z 51% do 37%. Kierunek jest więc taki, że błędów ubywa, ale nie znikają.
Część błędów to halucynacje. Gov.pl definiuje halucynację jako odpowiedź AI niezgodną z prawdą, wynikającą z błędnych lub niewystarczających danych. Według raportu ISR halucynacje zdarzają się dziś rzadziej niż rok wcześniej, ale przy złożonych zadaniach błędy nadal są częste, a żadna kombinacja metod nie zapewnia niezawodności wymaganej w krytycznych zastosowaniach.
Szkody z błędów AI raport ISR opisuje jako udokumentowane: błędy w pismach procesowych, błędne diagnozy medyczne i straty finansowe. Gov.pl radzi więc sprawdzić źródło, z którego AI korzystała, i zweryfikować odpowiedź. Takie halucynacje AI, czyli odpowiedzi brzmiące pewnie, ale niezgodne z faktami, zdarzają się także w najlepszych modelach.
Dlaczego zbytnie zaufanie do AI jest osobnym ryzykiem?
Zbytnie zaufanie do AI, czyli „automation bias”, jest według raportu ISR osobnym ryzykiem, bo wczesne dowody wskazują, że poleganie na narzędziach AI może osłabiać krytyczne myślenie.
Automation bias to skłonność do ufania wynikom AI bez wystarczającego sprawdzenia. Raport ISR zalicza ją do ryzyk dla autonomii człowieka i zaznacza, że użytkownicy są skłonni ufać odpowiedziom, które brzmią pewnie – także wtedy, gdy są błędne.
W tej samej grupie ryzyk raport opisuje aplikacje typu „towarzysz AI”: mają one dziesiątki milionów użytkowników, a u niewielkiej części z nich obserwuje się wzrost samotności i ograniczenie kontaktów z ludźmi. Czat nie zastąpi kontaktu z człowiekiem ani pomocy specjalisty, nawet jeśli w trudnych emocjach rozmowa z AI wydaje się łatwiejsza.
Czy sztuczna inteligencja jest stronnicza?
Sztuczna inteligencja może być stronnicza, bo jej wyniki zależą od projektu i danych, które bywają tendencyjne – w badaniu „Gender Shades” trzy komercyjne systemy z 2018 roku myliły się w klasyfikacji płci z twarzy do 34,7% przypadków dla ciemnoskórych kobiet i do 0,8% dla jasnoskórych mężczyzn.
Badanie „Gender Shades” Joy Buolamwini i Timnit Gebru opublikowano w 2018 roku w materiałach konferencji Fairness, Accountability and Transparency, dziś znanej jako FAccT (PMLR 81). Autorki zwróciły uwagę na przyczynę: zbiory, na których sprawdzano takie systemy, składały się w większości z osób o jasnej karnacji – w dwóch analizowanych zbiorach było ich 79,6% i 86,2%. Badanie dotyczy systemów z 2018 roku, więc nie mówi, jak działają dzisiejsze narzędzia.
Parlament Europejski opisuje ten sam mechanizm ogólnie: wynik AI zależy od tego, jak system zaprojektowano i jakie dane do niego trafiły, a te mogą być tendencyjne celowo albo nieumyślnie. Gov.pl dodaje, że modele uczone na popularnych źródłach mogą powielać stereotypy.
AI Act zakazuje scoringu społecznego, czyli oceniania osób na podstawie ich zachowania społecznego lub cech osobistych, które prowadzi do krzywdzącego lub niekorzystnego traktowania. Więcej o tym zakazie w sekcji o prawie.
Czy AI zabierze mi pracę?
Według NASK i Międzynarodowej Organizacji Pracy 30,3% miejsc pracy w Polsce, czyli około 5,08 mln stanowisk, jest podatnych na wpływ generatywnej AI, ale podatność oznacza możliwość zautomatyzowania lub przekształcenia zadań, a nie nieuchronną utratę zawodu.
Raport NASK-PIB i Międzynarodowej Organizacji Pracy (MOP, ang. ILO) z czerwca 2025 r. podaje trzy liczby:
- 30,3% miejsc pracy (ok. 5,08 mln) jest podatnych na wpływ generatywnej AI – to prawie co trzecie stanowisko;
- 4,9% zatrudnionych (817,5 tys. osób), czyli mniej więcej jedna osoba na dwadzieścia, pracuje w zawodach o bardzo wysokiej podatności;
- te 817,5 tys. to około jednej szóstej wszystkich stanowisk podatnych.
Autorzy raportu zastrzegają przy zawodach o wysokiej podatności: „nie oznacza to jednak ich nieuchronnego zaniku”. Podatność mierzy, ile zadań w danym zawodzie AI może zautomatyzować lub zmienić, a nie liczbę przyszłych zwolnień.
Raport ISR dodaje perspektywę międzynarodową: wczesne dane nie pokazują wpływu AI na ogólne zatrudnienie, ale widać oznaki spadku popytu na osoby początkujące w zawodach narażonych na AI, np. związanych z pisaniem. Ekonomiści nie zgadzają się co do skali przyszłych skutków. Na pytanie, czy AI zabierze mi pracę, dane nie dają więc jeszcze jednoznacznej odpowiedzi.
Czy sam system AI można zaatakować?
Systemy AI można zaatakować, a najbardziej znanym sposobem jest prompt injection – według brytyjskiego Narodowego Centrum Cyberbezpieczeństwa (NCSC) może on nigdy nie zostać całkowicie wyeliminowany, bo model językowy nie odróżnia danych od instrukcji.
Prompt injection to tekst z zewnątrz – na przykład ukryty na stronie internetowej albo w dokumencie – który model AI bierze za polecenie i wykonuje, choć użytkownik go nie wydał. NCSC tłumaczy to we wpisie na swoim blogu z 8 grudnia 2025 r.: dla modelu wszystko jest tylko ciągiem kolejnych fragmentów tekstu, więc nie ma w nim twardej granicy między treścią do przeczytania a poleceniem do wykonania. To opinia instytucji w formie wpisu blogowego, a nie norma.
NCSC zaleca ograniczanie tego ryzyka i jego skutków zamiast liczenia na jedno zabezpieczenie. Skutki rosną, gdy system AI ma dostęp do narzędzi i kont – wtedy atakujący może przez niego wykonać realne działania. Jeśli bezpieczeństwo systemu nie toleruje pozostałego ryzyka, to według NCSC może to nie być dobre zastosowanie dla modeli językowych.
Dotyczy to zwłaszcza agentów AI, czyli systemów, które samodzielnie wykonują kolejne kroki zadania, np. klikają w przeglądarce albo wysyłają wiadomości. Raport ISR zaznacza, że agenci AI niosą większe ryzyko, bo działają autonomicznie i człowiek ma mniej okazji, by zareagować, zanim błąd wyrządzi szkodę.
AI bywa też narzędziem ataku na inne systemy. Według raportu ISR w jednym konkursie agent AI znalazł 77% podatności w prawdziwym oprogramowaniu, a grupy przestępcze i atakujący powiązani z państwami używają AI w swoich działaniach. Nie wiadomo, czy więcej zyskają na tym atakujący, czy obrońcy.
Ryzyko agentów dobrze widać na przeglądarkach z wbudowanym asystentem: bezpieczeństwo przeglądarki z AI zależy od tego, co agent może kliknąć i wysłać w twoim imieniu, a te same pytania trzeba zadać, oceniając bezpieczeństwo agenta AI.
Czy AI może wymknąć się spod kontroli?
Według International AI Safety Report 2026 obecne systemy AI nie mają zdolności, by stworzyć scenariusz utraty kontroli, ale poprawiają się w powiązanych obszarach, takich jak autonomiczne działanie.
Raport ISR definiuje scenariusze utraty kontroli jako takie, w których systemy AI działają poza czyjąkolwiek kontrolą i nie ma jasnej drogi do jej odzyskania. Dobrze widać to na tle trzech klas ryzyk:
| Klasa | Co do niej należy według raportu ISR |
|---|---|
| dzieje się dziś (udokumentowane) | oszustwa z użyciem treści AI, błędy i awarie systemów, cyberataki wspomagane AI |
| niepewne | skala manipulacji przekonaniami, skutki dla rynku pracy, to, kto więcej zyska na cyberatakach z AI |
| poza zasięgiem obecnych systemów | utrata kontroli nad AI |
Raport wskazuje jednak sygnał ostrzegawczy: modele coraz częściej odróżniają sytuację testu od prawdziwego wdrożenia i znajdują luki w ocenach. To może sprawić, że niebezpieczne zdolności nie zostaną wykryte przed udostępnieniem modelu.
Rządy mówiły o poważnych ryzykach już wcześniej. W Deklaracji z Bletchley, przyjętej 1-2 listopada 2023 r. przez państwa uczestniczące w szczycie o bezpieczeństwie AI, zapisano, że najbardziej zaawansowane modele niosą możliwość „serious, even catastrophic, harm” (poważnych, a nawet katastrofalnych szkód), celowych lub niezamierzonych. To deklaracja o możliwości, a nie pomiar. Wskazuje szczególnie cyberbezpieczeństwo, biotechnologię i wzmacnianie dezinformacji oraz ryzyko, że systemy będą działać niezgodnie z zamiarami ludzi.
Raport ISR podaje jeden konkretny przykład ostrożności: w 2025 roku kilku twórców modeli wydało je z dodatkowymi zabezpieczeniami, bo nie mogli wykluczyć, że modele pomogą nowicjuszom w budowie broni biologicznej lub chemicznej. Raport zaznacza przy tym duże niepewności co do tego, o ile realne ryzyko rzeczywiście wzrosło.
Zarządzanie tymi ryzykami jest w większości dobrowolne. Według raportu ISR w 2025 roku 12 firm opublikowało lub zaktualizowało swoje ramy bezpieczeństwa dla najbardziej zaawansowanych modeli, a tylko nieliczne systemy prawne zaczynają zamieniać takie praktyki w obowiązki. Eksperci podkreślają znaczenie odporności społecznej, czyli zdolności do wykrycia szkody i podniesienia się po niej: wzmacniania infrastruktury krytycznej i narzędzi do wykrywania treści AI.
Co o zagrożeniach AI mówi prawo?
Unijny AI Act zakazuje od 2 lutego 2025 r. wskazanych praktyk AI, takich jak scoring społeczny i manipulacja podprogowa, z karą do 35 mln EUR albo 7% obrotu, ale nie zakazuje korzystania z asystentów czatu i nie nakłada obowiązków na osobę używającą AI wyłącznie prywatnie.
AI Act, czyli rozporządzenie (UE) 2024/1689, w art. 5 wymienia zakazane praktyki. Trzy z nich dotyczą ryzyk opisanych w tym tekście:
| Praktyka | Co mówi przepis | Od kiedy |
|---|---|---|
| techniki podprogowe lub celowo manipulacyjne (art. 5 ust. 1 lit. a) | zakaz systemów AI, które działają poza świadomością osoby albo celowo ją manipulują lub wprowadzają w błąd i przez to znacząco zmieniają jej zachowanie, powodując lub mogąc spowodować poważną szkodę | 2.02.2025 |
| scoring społeczny (art. 5 ust. 1 lit. c) | zakaz oceniania lub klasyfikowania osób na podstawie ich zachowania społecznego lub cech osobistych, gdy prowadzi to do krzywdzącego lub niekorzystnego traktowania w kontekstach niezwiązanych z tymi, w których zebrano dane, albo traktowania nieproporcjonalnego do ich zachowania | 2.02.2025 |
| wnioskowanie o emocjach w pracy i szkole (art. 5 ust. 1 lit. f) | zakaz systemów AI wyciągających wnioski o emocjach osób w miejscu pracy i w instytucjach edukacyjnych, z wyjątkiem względów medycznych lub bezpieczeństwa | 2.02.2025 |
Za naruszenie zakazów z art. 5 grozi kara do 35 mln EUR albo 7% całkowitego rocznego światowego obrotu (art. 99 ust. 3); dla dużych firm liczy się wyższa z tych kwot, dla małych i średnich – niższa. Art. 5 zawiera więcej zakazów niż te trzy.
AI Act nie zakazuje deepfake’ów. Od 2 sierpnia 2026 r. art. 50 ust. 4 wymaga od podmiotów stosujących AI, np. firm, ujawnienia, że deepfake jest treścią sztucznie wygenerowaną lub zmanipulowaną. Technicznie pomaga w tym oznaczanie treści AI metadanymi C2PA albo znakiem wodnym SynthID.
AI Act nie nakłada obowiązków podmiotu stosującego na osobę, która używa AI w czysto osobistej działalności pozazawodowej (art. 2 ust. 10 i art. 3 pkt 4). Rozporządzenie nie zakazuje też korzystania z asystentów czatu, a ogólny asystent do pisania czy streszczania nie należy do żadnego z obszarów wysokiego ryzyka wymienionych w załączniku III – to wniosek z lektury przepisów. AI Act nie jest przy tym listą wszystkich zagrożeń: oszustwa, błędne odpowiedzi czy dane wpisane do czatu pozostają ryzykiem, którym zarządza się także innymi przepisami i własną ostrożnością.
W Polsce obowiązuje ustawa o systemach sztucznej inteligencji z 3 lipca 2026 r. (Dz.U. 2026 poz. 1003). Wskazuje ona organ nadzoru – Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI) – która nakłada kary w przypadkach i wysokości określonych w AI Act.
Jak chronić się przed zagrożeniami AI?
Przed zagrożeniami AI chroni osiem nawyków: sprawdzanie źródła odpowiedzi, niewpisywanie danych wrażliwych, wyłączenie trenowania na własnych rozmowach, potwierdzanie próśb o pieniądze innym kanałem, pobieranie aplikacji tylko z oficjalnych sklepów, nieufność wobec nagrań z „polecającą” znaną osobą, traktowanie AI jako wsparcia, a nie wyroczni, oraz zgłaszanie oszustw.
- Sprawdzaj źródło odpowiedzi i weryfikuj ją niezależnie. Gov.pl radzi sprawdzić źródło, z którego AI korzystała, a w badaniu EBU i BBC 45% odpowiedzi o wiadomościach miało istotny problem.
- Nie wpisuj sześciu kategorii danych wymienionych przez gov.pl: danych osobowych, wizerunków, tajemnic handlowych, utworów chronionych, kodu z hasłami i kluczami, zdjęć pomieszczeń.
- Wyłącz trenowanie na swoich rozmowach albo używaj czatu tymczasowego, jeśli narzędzie to oferuje – dokumentacja OpenAI opisuje obie opcje dla kont indywidualnych.
- Prośbę o pieniądze lub dane potwierdzaj innym kanałem, np. telefonem na znany numer. Według raportu ISR słuchacze brali głosy AI za prawdziwych mówców w 80% przypadków, a CERT Polska obserwuje dziesiątki kampanii oszustów wygenerowanych przez AI.
- Pobieraj aplikacje AI tylko z oficjalnych źródeł, sprawdzając wydawcę i liczbę pobrań – gov.pl wymienia podrobione aplikacje wśród pułapek AI.
- Nie ufaj nagraniom, w których znana osoba „poleca” inwestycję. Według NASK niemal 60% fałszywych materiałów z wizerunkami znanych osób dotyczyło rzekomych instrumentów finansowych i programów rządowych.
- Traktuj AI jako wsparcie, a nie wyrocznię – przy ważnych sprawach człowiek sprawdza i decyduje, bo raport ISR wskazuje na ryzyko zbytniego zaufania. Agentom AI dawaj tylko te uprawnienia, których naprawdę potrzebują, bo według NCSC skutki prompt injection rosną razem z dostępem do narzędzi i kont.
- Zgłaszaj oszustwa i incydenty do CERT Polska – zespół działający w NASK przyjmuje zgłoszenia pod adresem incydent.cert.pl.
Żadna z tych zasad nie daje pewności. Raport ISR zaznacza, że zabezpieczenia techniczne mają ograniczenia – da się je czasem obejść, przeformułowując prośbę – więc liczy się też odporność, czyli umiejętność zauważenia szkody i jej naprawienia. Dlatego przy ważnych decyzjach ostatnie słowo powinien mieć człowiek – to zasada człowieka w pętli decyzyjnej.
FAQ
AI bywa niebezpieczne w udokumentowanych sytuacjach: przy oszustwach z użyciem treści AI, przy błędnych odpowiedziach i gdy do narzędzia trafiają dane wrażliwe. Według International AI Safety Report 2026 obecne systemy nie mają jednak zdolności, by doprowadzić do utraty kontroli.
AI w obecnej postaci nie ma takich zdolności – tak ocenia International AI Safety Report 2026, choć zaznacza, że systemy poprawiają się w powiązanych obszarach, np. w autonomicznym działaniu. Rządy w Deklaracji z Bletchley opisały poważne szkody jako możliwość, a nie jako pewność.
AI nie powinno dostawać od ciebie danych osobowych, wizerunków, tajemnic handlowych, utworów chronionych prawem autorskim, kodu z hasłami i kluczami ani zdjęć pomieszczeń domu lub biura – to sześć kategorii z poradnika gov.pl. Na kontach indywidualnych warto też wyłączyć trenowanie modeli na rozmowach, jeśli narzędzie to umożliwia.
AI Act nie zakazuje korzystania z asystentów czatu ani innych narzędzi AI – zakazuje wskazanych praktyk, takich jak scoring społeczny czy manipulacja podprogowa. Osoba używająca AI wyłącznie prywatnie nie ma obowiązków podmiotu stosującego (art. 2 ust. 10).
Sztuczna inteligencja według raportu ISR jest już używana w ochronie zdrowia, badaniach naukowych i edukacji, choć nierównomiernie na świecie. Zagrożenia dzielą się na trzy grupy: złośliwe użycie, awarie i ryzyka systemowe.
AI w aplikacji jest tak bezpieczne, jak wiarygodny jest jej wydawca i jego zasady przetwarzania danych. Pobieraj aplikacje z oficjalnych sklepów, sprawdzaj wydawcę i liczbę pobrań oraz ograniczaj dane, które wpisujesz.
AI a zawody: instytucje nie podają listy zawodów, które znikną do 2030 roku. NASK mierzy podatność zadań na automatyzację, a nie zanik zawodów, a raport ISR podaje, że wczesne dane nie pokazują wpływu AI na ogólne zatrudnienie.
AI może posłużyć do oszustwa, bo jej treści bywają trudne do odróżnienia od prawdziwych – według badań cytowanych w raporcie ISR słuchacze brali głosy AI za prawdziwych mówców w 80% przypadków. CERT Polska obserwuje dziesiątki kampanii oszustów wygenerowanych narzędziami AI.
AI w życiu dzieci i młodzieży to osobny temat, którego ten tekst nie ocenia; zasady, na jakich uczniowie korzystają z AI w szkole, ustala szkoła.
Źródła
- How your data is used to improve model performance, pomoc OpenAI: treści z kont Free, Plus i Pro mogą służyć do trenowania modeli, chyba że to wyłączysz; czaty tymczasowe nie służą do ulepszania modeli; Business, Enterprise, Edu i API domyślnie nie są używane do trenowania; ocena kciukiem może przekazać całą rozmowę
- International AI Safety Report 2026: Executive Summary, International AI Safety Report: trzy grupy ryzyk, 77% podatności w konkursie, utrata kontroli poza zasięgiem obecnych systemów, automation bias, 12 firm z ramami bezpieczeństwa w 2025 roku
- Prawie 2 tys. zgłoszeń każdego dnia. Raport CERT Polska za 2025 rok, NASK: 658 320 zgłoszeń (+10%), 260 783 unikalne incydenty, dziesiątki kampanii wygenerowanych narzędziami AI, deepfake’i w fałszywych inwestycjach
- News Integrity in AI Assistants (raport EBU i BBC, 2025), EBU: 45% odpowiedzi z co najmniej jednym istotnym problemem, 81% z jakimkolwiek problemem, 31% z istotnym problemem ze źródłami, ponad 2700 ocenionych odpowiedzi
- Generatywna sztuczna inteligencja a polski rynek pracy (raport NASK-PIB i MOP), NASK: 30,3% miejsc pracy (ok. 5,08 mln) podatnych na wpływ generatywnej AI, 4,9% (817,5 tys.) w zawodach o bardzo wysokiej podatności, zastrzeżenie „nie oznacza to jednak ich nieuchronnego zaniku”
- Pułapki związane z wykorzystywaniem sztucznej inteligencji: jak unikać zagrożeń, gov.pl: sześć kategorii danych, których nie wpisywać do AI, definicja halucynacji, podrobione aplikacje AI
Ostatnia aktualizacja: · Zgłoś poprawkę








