Twórcy AI ostrzegają świat przed AI: skąd ten paradoks i co z niego wynika

Najgłośniejsze ostrzeżenia przed sztuczną inteligencją nie pochodzą od jej przeciwników, tylko od ludzi, którzy ją budują, finansują i rozwijają – w tym od szefów laboratoriów, które jednocześnie wypuszczają coraz mocniejsze modele. Ten tekst pokazuje, skąd wziął się ten paradoks, jakie ryzyka stoją za tymi apelami, dlaczego część środowiska traktuje je sceptycznie i jak odróżnić sygnał od szumu, czytając kolejne nagłówki.

Skąd wzięły się ostrzeżenia twórców AI

Punktem, od którego temat trafił do głównego nurtu, był marzec 2023 roku. Future of Life Institute opublikował wtedy list otwarty wzywający laboratoria do co najmniej półrocznej przerwy w trenowaniu systemów potężniejszych niż GPT-4. List podpisało wiele osób ze świata nauki i technologii, a jego główny argument brzmiał: tempo rozwoju wyprzedza zdolność do zrozumienia i kontrolowania tych systemów. Przerwa nie nastąpiła, ale dyskusja o tym, czy w ogóle powinna, przeniosła się z konferencji naukowych do mediów ogólnych.

W tym samym roku Center for AI Safety opublikowało oświadczenie celowo skrócone do jednego zdania: ograniczanie ryzyka wyginięcia ludzkości z powodu AI powinno być globalnym priorytetem, obok innych zagrożeń na skalę społeczną, takich jak pandemie i wojna nuklearna. Pod tekstem podpisali się między innymi szefowie czołowych laboratoriów AI. Właśnie ten szczegół zrobił największe wrażenie – to nie aktywiści ani publicyści, tylko ludzie kierujący firmami, od których zależy tempo rozwoju tej technologii.

Trzecim symbolicznym momentem było odejście Geoffreya Hintona z Google w 2023 roku. Hinton, jeden z pionierów sieci neuronowych, tłumaczył, że chce móc swobodniej mówić o ryzykach, bez obaw, że jego wypowiedzi będą odbierane jako stanowisko pracodawcy. Gdy o zagrożeniach zaczyna mówić ktoś, kto przez dekady budował fundamenty współczesnego uczenia maszynowego, trudno zbyć to jako lęk laika przed nową technologią.

Środowisko jest podzielone, nie jednomyślne

Najlepiej widać to na przykładzie trzech laureatów Nagrody Turinga za rok 2018: Geoffreya Hintona, Yoshuy Bengio i Yanna LeCuna. Wszyscy trzej zostali wyróżnieni za prace nad głębokim uczeniem, które napędza dzisiejsze modele językowe. Hinton i Bengio należą do najbardziej rozpoznawalnych głosów ostrzegających przed poważnymi ryzykami, w tym przed utratą kontroli nad zaawansowanymi systemami.

LeCun reprezentuje stanowisko przeciwne. Jest znanym sceptykiem wizji katastroficznych i przekonuje, że obecne modele są dalekie od poziomu, który uzasadniałby obawy o przetrwanie ludzkości, a problemy bezpieczeństwa da się rozwiązywać inżynieryjnie, krok po kroku. Trzech ludzi z tym samym dorobkiem i dostępem do tej samej wiedzy dochodzi do odmiennych wniosków. To dobra wskazówka, że nie mamy do czynienia z naukowym konsensusem, tylko z otwartym sporem o ocenę niepewnej przyszłości.

Ten podział przebiega także wewnątrz firm i uczelni. Jedni badacze uważają, że ryzyka hipotetyczne trzeba badać już teraz, zanim systemy staną się zdolniejsze, bo później może być na to za późno. Inni odpowiadają, że trudno projektować zabezpieczenia przed czymś, co jeszcze nie istnieje, i że lepiej skupić się na problemach, które da się zmierzyć i przetestować na obecnych modelach.

Jakie ryzyka są wymieniane i które z nich już działają

W debacie miesza się kilka kategorii zagrożeń o bardzo różnym stopniu pewności. Część z nich to zjawiska, które już obserwujemy, część to scenariusze hipotetyczne, zależne od tego, jak rozwiną się przyszłe systemy. Rozdzielenie ich porządkuje całą dyskusję:

• Dezinformacja i deepfake – ryzyko bieżące. Generowanie przekonujących tekstów, obrazów, nagrań głosu i wideo jest tanie i dostępne, a fałszywe materiały są już wykorzystywane w oszustwach i kampaniach wpływu.
• Cyberataki – ryzyko bieżące i rosnące. Modele mogą pomagać w pisaniu kodu, także złośliwego, oraz w przygotowywaniu bardziej wiarygodnych wiadomości phishingowych.
• Rynek pracy – ryzyko bieżące, ale o niepewnej skali. Automatyzacja części zadań biurowych, tłumaczeń czy obsługi klienta już zmienia niektóre zawody, choć spór dotyczy tego, ile pracy zniknie, a ile się przekształci.
• Koncentracja władzy – ryzyko strukturalne. Trenowanie największych modeli wymaga ogromnych zasobów obliczeniowych i kapitału, co sprzyja skupieniu technologii w rękach nielicznych firm i państw.
• Broń biologiczna – ryzyko w dużej mierze hipotetyczne. Obawa dotyczy tego, że przyszłe modele mogłyby obniżyć barierę wiedzy potrzebnej do wyrządzenia szkód na dużą skalę.
• Utrata kontroli nad systemami autonomicznymi – ryzyko hipotetyczne i najbardziej sporne. Chodzi o scenariusz, w którym systemy działające samodzielnie realizują cele niezgodne z intencją twórców w sposób trudny do zatrzymania.

To właśnie ostatnie dwie kategorie przyciągają najwięcej uwagi mediów, choć pierwsze trzy dotykają ludzi już dziś.

Argumenty krytyków: marketing, regulacje i odwracanie uwagi

Paradoks firm ostrzegających przed własnym produktem ma też mniej szlachetne interpretacje. Pierwsza mówi, że ostrzeżenia działają jak marketing: technologia przedstawiana jako potencjalnie groźna dla cywilizacji wydaje się jednocześnie niezwykle potężna, co podnosi jej atrakcyjność w oczach inwestorów i klientów.

Druga interpretacja dotyczy regulacji. Krytycy zwracają uwagę, że wymagania dotyczące licencji, audytów czy kosztownych testów łatwiej spełnić dużym graczom z rozbudowanymi działami prawnymi niż małym firmom i projektom otwartym. Nawoływanie do regulacji może więc w praktyce utrwalać pozycję tych, którzy już prowadzą.

Trzeci argument, podnoszony często przez badaczy zajmujących się etyką technologii, mówi o odwracaniu uwagi. Dyskusja o hipotetycznym wyginięciu ludzkości przesłania szkody, które dzieją się teraz: stronnicze decyzje algorytmów, naruszenia prywatności, wykorzystywanie cudzych utworów do trenowania modeli czy warunki pracy osób oznaczających dane. Żaden z tych argumentów nie przesądza, że ostrzeżenia są nieszczere. Pokazują raczej, że intencje i skutki takich apeli mogą się rozmijać.

Co z tych ostrzeżeń wyszło w praktyce

Postulowanej przerwy nie było, ale debata przełożyła się na konkretne mechanizmy. Najbardziej rozbudowanym jest unijny AI Act, który klasyfikuje zastosowania sztucznej inteligencji według poziomu ryzyka i nakłada najdalej idące obowiązki na systemy używane w obszarach wrażliwych, a niektóre praktyki zakazuje całkowicie. Obejmuje też osobne wymagania dla modeli ogólnego przeznaczenia.

Kilka państw powołało instytuty bezpieczeństwa AI, których zadaniem jest ocena zaawansowanych modeli i rozwijanie metod ich testowania. Równolegle duże firmy ogłosiły dobrowolne zobowiązania dotyczące bezpieczeństwa, a w branży upowszechniły się testy przed wdrożeniem: sprawdzanie modeli pod kątem niebezpiecznych zdolności, zespoły próbujące celowo wymusić szkodliwe zachowania oraz publikowanie dokumentacji opisującej ograniczenia systemów. Skuteczność części tych mechanizmów, zwłaszcza dobrowolnych, pozostaje przedmiotem sporu, bo trudno je egzekwować.

Jak czytać takie ostrzeżenia jako użytkownik i jako firma

Dla zwykłego użytkownika najbardziej praktyczne jest skupienie się na ryzykach bieżących, bo to one mają realny wpływ na codzienność. Nagranie z głosem znajomej osoby proszącej o pilny przelew, zdjęcie z wydarzenia, które mogło się nie odbyć, czy przekonujący artykuł bez wskazanego źródła wymagają dziś tej samej ostrożności, co podejrzany e-mail. Nawyk weryfikowania informacji innym kanałem daje więcej niż śledzenie sporów o przyszłość superinteligencji.

Przy lekturze kolejnych apeli opłaca się zadać trzy pytania: kto mówi i jaki ma interes, czy chodzi o zjawisko już obserwowane, czy o scenariusz przyszły, oraz czy za ostrzeżeniem idą konkretne propozycje, czy tylko ogólny niepokój. Takie filtrowanie pozwala uniknąć zarówno paniki, jak i lekceważenia.

Firmy wdrażające AI mają bardziej namacalne zadania. Warto sprawdzić, czy planowane zastosowania nie podlegają obowiązkom wynikającym z AI Act, określić, jakie dane trafiają do zewnętrznych narzędzi, oraz ustalić, kto odpowiada za weryfikację wyników generowanych przez modele. Ostrzeżenia twórców AI nie muszą być dla firmy powodem do rezygnacji z tej technologii. Są raczej przypomnieniem, że odpowiedzialność za skutki wdrożenia zostaje po stronie tego, kto z niej korzysta.

Redakcja HotaruMiłośnicy nowych technologii

Redakcję Hotaru.pl tworzą doświadczeni copywriterzy, redaktorzy, specjaliści IT oraz pasjonaci nowych technologii. Łączy nas ciekawość świata, zamiłowanie do komputerów, elektroniki i oprogramowania, a także przekonanie, że nawet najbardziej złożone zagadnienia można wyjaśnić prostym i zrozumiałym językiem. Na bieżąco śledzimy rozwój sztucznej inteligencji, modeli LLM, sprzętu komputerowego oraz cyfrowych usług. Testujemy narzędzia, sprawdzamy informacje i oddzielamy rzeczywiste możliwości technologii od marketingowych obietnic. Każdy temat analizujemy z punktu widzenia specjalisty i użytkownika. Chcemy tworzyć treści rzetelne, praktyczne i przydatne, które pomagają lepiej rozumieć cyfrowy świat, podejmować świadome decyzje i wykorzystywać technologię w codziennym życiu.