Polskie i polskojęzyczne inicjatywy skupione na bezpieczeństwie i ryzykach związanych z zaawansowaną sztuczną inteligencją.
tags
—
9 min read
Baza ostatnio aktualizowana: czerwiec 2026
Dokument obejmuje polskie i polskojęzyczne inicjatywy skupione na bezpieczeństwie i ryzykach związanych z zaawansowaną sztuczną inteligencją – w szczególności na zagrożeniach egzystencjalnych, alignment, interpretability oraz governansie AI.
Status: Fundacja zarejestrowana w KRS 11 czerwca 2026 (nr KRS: 0001247485), siedziba w Poznaniu. Wcześniej działała jako projekt Fundacji Efektywnego Altruizmu.
Misja: Budowanie bezpiecznej przyszłości AI poprzez edukację, rozwój karier i łączenie polskich naukowców ze środowiskiem globalnym.
Działania:
Cykl webinarów AI Safety Poland Talks (17 odcinków w sezonie 2025–2026)
Meetupy w największych polskich miastach (Warszawa, Kraków, Wrocław, Poznań)
Doradztwo kariery w AI safety (career consulting 1-1)
Klub czytelniczy (Reading Club)
Współpraca z uczelniami (WUT, AGH, UAM)
Platforma Slack (polska społeczność AI safety online)
Status: Aktywna fundacja działająca na rzecz praw cyfrowych.
Misja: Ochrona praw człowieka w kontekście nowych technologii, w tym nadzoru, danych osobowych i systemów AI.
Działania związane z AI safety:
Monitoring wdrożenia AI Act w Polsce
Opinie do projektów ustaw (m.in. polska ustawa o systemach AI)
Rzecznictwo na rzecz przejrzystości algorytmów i zakazu masowej inwigilacji biometrycznej
Postulowanie włączenia organizacji praw człowieka do Społecznej Rady ds. AI
Charakter: Skupia się bardziej na bieżących zagrożeniach praw obywatelskich niż na x-risk, ale jest kluczowym głosem w debacie o regulacji AI w Polsce.
2. Ośrodki badawcze i akademickie
🟣 CCAI – Centre for Credible Artificial Intelligence (Politechnika Warszawska)
Status: Centrum otwarte w październiku 2025 r.; finansowanie ~30 mln PLN z programu MAB (Fundacja na rzecz Nauki Polskiej / FENG).
Dyrektor: prof. Przemysław Biecek
Misja: Tworzenie AI, które można rozumieć (interpretability, explainability), weryfikować (testy, ocena ryzyka) i kontrolować (zgodność z wartościami społecznymi).
Partnerzy: Fraunhofer Heinrich Hertz Institut (Berlin)
Obszary badań: Explainable AI (XAI), audyt modeli, weryfikacja formalna, bezpieczeństwo systemów ML.
Status: Państwowy instytut badawczy, powołany decyzją Rady Ministrów z 25 lutego 2025 r.; nadzorowany przez Ministerstwo Cyfryzacji i Ministerstwo Obrony Narodowej.
Misja: Zaawansowane technologie AI dla obronności, administracji publicznej i bezpieczeństwa państwa.
Finansowanie: 20 mln PLN na start z budżetu państwa.
Uwaga: Instytut skupia się głównie na AI dla bezpieczeństwa narodowego, nie na x-risk; jednak jego badania nad AI psychosis i zagrożeniami społecznymi AI są istotne dla szerszego pola AI safety.
🟣 Centrum Sztucznej Inteligencji UAM
Instytucja: Uniwersytet im. Adama Mickiewicza w Poznaniu
Działania: Współorganizacja meetupów AI safety (z AI Safety Polska), badania nad AI w matematyce i naukach ścisłych.
Kluczowe osoby: prof. Bartosz Naskręcki (Vice-Dziekan Wydziału Matematyki i Informatyki)
🟣 Koło naukowe Golem (Politechnika Warszawska)
Instytucja: Politechnika Warszawska – Wydział Elektroniki i Technik Informacyjnych
Działania: Współorganizacja warsztatów AI safety z AI Safety Polska (m.in. „Build Your Own GPT-2”), szkolenia z mechanistic interpretability.
🟣 WAIT – Wrocław AI Team
Instytucja: Środowisko badawczo-studenckie we Wrocławiu
Działania: Współorganizacja meetupów AI safety (rekordowa frekwencja ~160 osób w marcu 2026 r.)
Opis: Główny polskojęzyczny portal AI safety. Zawiera artykuły wprowadzające, informacje o wydarzeniach, ścieżki kariery i zasoby edukacyjne. Nowa wersja serwisu planowana na połowę 2026 r.
Opis: Regularny newsletter AI Safety Polska z aktualizacjami działalności, relacjami z wydarzeń i linkami do materiałów. Crosspostowany na EA Forum i LessWrong.
Opis: Polscy badacze (Tomek Korbak, Filip Sondej, Jan Betley i in.) regularnie publikują tutaj wyniki swoich badań w języku angielskim. Posty AI Safety Polska z aktualizacjami organizacyjnymi pojawiają się na EA Forum.
Opis: Kalendarz wszystkich wydarzeń AI Safety Polska (meetupy, webinary, warsztaty). 545 subskrybentów (stan: I kw. 2026).
5. Ważne osoby
Lista obejmuje Polaków i osoby działające w polskim środowisku AI safety. Wiele z nich prowadzi badania lub pracuje zagranicą, aktywnie wspierając polską społeczność.
Techniczne AI Safety i Alignment
Osoba
Afiliacja
Specjalizacja
Tomasz (Tomek) Korbak
OpenAI (Safety Systems Team)
Chain-of-thought monitorability, RLHF, alignment; pracował wcześniej w UK AISI; absolwent UW
Jan Betley
Truthful AI / niezależny
Emergent misalignment, LLM learning i reasoning; słynne badanie o emergent misalignment (Quanta Magazine)
Machine unlearning w LLM, CIR (Collapse of Irrelevant Representations)
Patryk Wielopolski
MATS London (Research Manager)
Sparse autoencoders, mechanistic interpretability, feature representations; dr nauk o AI
Jakub Kryś
SaferAI (Research Scientist)
Compute governance, adversarial ML, techniczne AI safety i governance; były MATS fellow
Jakub (K.) Nowak
AI Safety Polska (Executive Director)
Field-building, zarządzanie organizacją AI safety
Marcel Windys
AI Safety Polska (współzałożyciel)
Mechanistic interpretability, komunikacja AI safety, LLM alignment
Ekonomia, Governans i Ryzyko Systemowe
Osoba
Afiliacja
Specjalizacja
prof. Jakub Growiec
SGH Warszawa / NBP
Ekonomia transformatywnej AI, ryzyko egzystencjalne z perspektywy ekonomicznej, AGI i długookresowy wzrost; szacuje p(doom) na ok. 85%; autor tekstów spekulatywnych o AGI
prof. Przemysław Biecek
PW / UW (Dyrektor CCAI)
Explainable AI, interpretability, audyt modeli, odpowiedzialna AI; jeden z 2% najbardziej wpływowych naukowców wg Stanforda
prof. Aleksander Smywiński-Pohl
AGH Kraków
Ograniczenia LLM na ścieżce do AGI, filozofia AI
Socjologia, Bezpieczeństwo i Debata Publiczna
Osoba
Afiliacja
Specjalizacja
prof. Andrzej Zybertowicz
UMK Toruń / były doradca Prezydenta RP
Socjologia technologii, zagrożenia systemowe AI, postulat moratorium technologicznego; autor książek Samobójstwo Oświecenia? (2015), Cyber kontra real (2022), AI Eksploracja (2024)
Badacze związani z NASK
Osoba
Afiliacja
Specjalizacja
Karolina Seweryn
NASK
Safety LLM dla języków innych niż angielski, benchmark PL-Guard
Aleksandra Krasnodębska
NASK
Benchmarking bezpieczeństwa językowego modeli AI dla polskiego
Inne osoby i organizatorzy
Osoba
Rola / uwagi
Piotr Kędziora
Koordynator AI Safety Polska (Kraków); laureat hackathonu BlueDot AI Risk Content 2026
Zuzanna Topolska
Organizatorka meetupów AI Safety & EA w Warszawie
Bartosz Cywiński
Prezentował badania o eliciting secret knowledge from LLMs w ramach AISPL Talks
Maciej Chrabąszcz
Badania nad multi-layer prototypes for safety moderation
Chris Szulc
Dyrektor EA Poland; wsparcie instytucjonalne dla AI Safety Polska
Maciej Krystian Szymański
Bielik AI; Safety mechanisms w polskich LLM (projekt Sójka)
6. Kontekst regulacyjny
Polska implementuje unijny AI Act (rozp. UE 2024/1689). Kluczowe informacje:
Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI) – nowy organ nadzoru rynku AI, powołany ustawą uchwaloną przez Sejm w czerwcu 2026 r. (za: 421 posłów, przeciw: 3).
Społeczna Rada ds. AI – organ doradczy przy KRiBSI; organizacje pozarządowe (m.in. Panoptykon) postulują szeroką reprezentację środowisk praw człowieka.
Piaskownice regulacyjne – kontrolowane środowiska testowania innowacyjnych systemów AI, dostępne dla MŚP.
Termin kluczowy: 2 sierpnia 2026 – pełne wejście w życie wymogów dla systemów AI wysokiego ryzyka.
7. Uwagi i zastrzeżenia
Skupienie tematyczne: Dokument koncentruje się na zagrożeniach egzystencjalnych (x-risk), alignment i safety AI. Nie obejmuje całości polskiego ekosystemu AI (np. startupy AI, zastosowania komercyjne).
Dynamika: Polska scena AI safety jest bardzo młoda i szybko się rozwija. AI Safety Polska przeszła drogę od nieformalnej grupy Slack (2025) do zarejestrowanej fundacji (czerwiec 2026) w ciągu kilkunastu miesięcy.
Diaspora: Wielu polskich badaczy AI safety pracuje zagranicą (Londyn, USA), aktywnie angażując się w budowanie polskiej społeczności.
Granica AI safety / AI security: Część organizacji (np. NASK) działa na pograniczu cyberbezpieczeństwa i AI safety w ścisłym sensie.
Aktualność danych: Stan na czerwiec 2026 r. Zalecana weryfikacja linków i afiliacji ze względu na dynamiczny charakter środowiska.
Plik wygenerowany na podstawie publicznie dostępnych źródeł: aisafety.org.pl, EA Forum, LessWrong, dane prasowe, strony instytucji.