Dario Amodei, szef spółki Anthropic, ostrzega przed zbyt szybkim rozwojem sztucznej inteligencji. Wtórują mu Sam Altman i Elon Musk. W Chinach minister bezpieczeństwa państwa publikuje artykuł o zagrożeniach ze strony SI. Tymczasem podmioty państwowe i niepaństwowe znajdują coraz kreatywniejsze zastosowania dla nowej technologii.

Wszystko zaczęło się od obszernego eseju, który Amodei opublikował 12 września na swoim blogu. Prezes Anthropica, stojącego za sztuczną inteligencją Claude, uznał rozwój SI za przebiegający tak szybko, że firmy nie mają już możliwości wbudowywania odpowiednich zabezpieczeń. Amodei wzywa branżę technologiczną, aby zwolniła i pozwoliła się bardziej uregulować. W tym celu proponuje trzystopniowe rozwiązanie.

Pierwszym jest zatrudnienie zewnętrznych audytorów, którym otrzymaliby uprawnienia dostępu takie same jak pracownicy firm. Drugi krok to ustalenie przez państwa demokratyczne wiążących regulacji dotyczących rozwoju SI. Ostatni punkt to globalne zasady, wypracowane wspólnie z Chinami. Amodei deklaruje, że Anthropic podjął już kroki w kierunku realizacji punktu pierwszego. Ku powszechnemu zaskoczeniu poparcie wyrazili zawzięci rywale Amodeia, Sam Altman z OpenAI i Elon Musk. Pomysł zewnętrznych audytorów spodobał się także w Microsofcie.

Nie wszyscy zgadzają się z tą oceną. Prezydent Donald Trump uznał obawy związane z szybkim rozwojem sztucznej inteligencji za kolejne oszustwo skrajnej lewicy. Dziwił się też, dlaczego prezesi firm z branży chcą regulacji, które jego zdaniem potencjalnie mogą doprowadzić ich do bankructwa. Według Trumpa obowiązujące przepisy są wystarczające, a najlepszym zabezpieczeniem, jakiego potrzebuje sztuczna inteligencja, jest „SILNY I MĄDRY (o wysokim IQ!) PREZYDENT, a Stany Zjednoczone mają tego w nadmiarze!”

Motywacje Trumpa są w tym przypadku jasne. W jego administracji panuje przekonanie, że szybki rozwój sztucznej inteligencji jest kluczowy w rywalizacji z Chinami. Kto wygra na tym polu, zwycięży w całej rozgrywce. Poza mediami społecznościowymi Trump przyznał dziennikarzom, że nie zamierza bagatelizować ostrzeżeń ze strony branży technologicznej, ale jego zdaniem korzyści zdecydowanie przeważą nad ryzykiem.

Tymczasem liczba ostrzeżeń ze strony ludzi pracujących nad sztuczną inteligencją rośnie. Ciekawy jest j wpis Jacoba Coxona, dawnego pracownika Anthropica, a obecnie OpenAI. Coxon dowodzi, że w branży rośnie przekonanie, iż do końca dekady SI będzie mogła nas zabić. Wtóruje mu jego dawny kolega z Anthropica, Evan Hubinger. Według niego prawdopodobieństwo, że SI będzie mogła zgładzić ludzkość w ciągu dekady, przekroczy 10%. Jego zdaniem Anthropic stara się ze wszystkich sił, ale jeszcze nie wpadł na pomysł, jak działać na wypadek pojawienia się „superinteligencji”.

Biorąc pod uwagę postępy, jakie czynią autonomiczne systemy bojowe na polach bitew wojny rosyjsko-ukraińskiej, należy stwierdzić, że SI już zabija ludzi na dużą skalę. Pytaniem pozostaje, co będzie, gdy powstanie „superinteligencja”, czy raczej sztuczna inteligencja ogólna, która osiągnie ludzki lub nadludzki poziom rozumowania i inteligencji. Dochodzimy tutaj do trapiącego Waszyngton koszmaru, jakim jest możliwość zwycięstwa Chin w tym wyścigu.

Jeśli kiedykolwiek się zastanawialiście, czy nas wspierać czy nie – teraz nadszedł moment na decyzję.

Od blisko dwóch lat utrzymujemy się głównie z Waszej hojności i zrezygnowaliśmy z reklam Google. Od kilku miesięcy nasze dochody nie zbliżają się do założonego progu i nasza „poduszka”, z której finansujemy wszystko poza podstawowymi kosztami utrzymania serwera i domeny, się kurczy.

W tym roku byliśmy w Berlinie na ILA i w Kielcach na MSPO. Na przyszły rok też mamy ambitne plany. Tymczasem koszty utrzymania serwisu idą w górę. Zależy nam aby Konflikty dalej były wolne od reklam Google, dlatego prosimy Was o wsparcie.

Jeśli chcecie dorzucić swoją cegiełkę, możecie zrobić to przez Patronite.pl lub Buycoffee.to.

LISTOPAD BEZ REKLAM GOOGLE 68%

W raporcie dla think tanku Center for a New American Security Jacob Stokes rozważa sposoby zapobieżenia takiemu scenariuszowi. Za kluczowe uznaje centra danych, bez których nie da się trenować zaawansowanych SI. Stąd też Stokes proponuje sabotaż albo cyberataki, a w ekstremalnej sytuacji nawet ataki lotnicze na centra danych. Te ostatnie rozwiązanie prowadziłoby do otwartej wojny, jak jednak zwraca uwagę Stokes – ataki hakerskie „są już w pewnym stopniu uznawane za normalne zachowanie państwa, nieprzekraczające progu wojny”.

Opór przed budową centrów danych ze strony lokalnych społeczności Trump uważa za antyamerykański spisek. Może być w tym ziarnko prawdy. Zespół bezpieczeństwa platformy X (dawny Twitter) przebadał farmę 200 tysięcy botów powiązanych z Chinami. Z tej grupy około 200 kont zaangażowanych było w „publikowanie treści w sposób, który mógłby wpłynąć na przebieg rzetelnej debaty na temat amerykańskiej polityki w zakresie sztucznej inteligencji i energii”. Gdy weźmie się pod uwagę dotychczasowe chińskie osiągnięcia na polu cyberataków i dezinformacji, nietrudno posądzić Pekin o działania postulowane przez Stokesa.

Warto jeszcze wspomnieć, że Stokes nie jest prawicowym jastrzębiem. Był członkiem zespołu doradczego do spraw bezpieczeństwa narodowego u boku Joe Bidena, gdy ten był wiceprezydentem w administracji Baracka Obamy.

Jakie są skutki ataków na serwerownie i centra danych, mogliśmy się już przekonać. W marcu i kwietniu podczas irańskich ataków na państwa Zatoki Perskiej zniszczeniu uległo kilka takich kompleksów. Dopiero w połowie września Amazon Web Services poinformował swoich użytkowników w Bahrajnie, że dane, które przechowywali w chmurze, zostały bezpowrotnie utracone. Jak w poniższym wpisie zwraca uwagę Łukasz Olejnik z King’s College London, firmy technologiczne zabezpieczały się na wypadek pożaru w pojedynczym budynku, a nie pełnoskalowych działań wojennych.

Realne i przesadzone zagrożenia

Odkąd duże modele językowe stały się ogólnodostępne, rośnie ich zastosowanie do celów wojskowych, wywiadowczych i propagandowych. Koronnym przykładem zagrożenia ze strony sztucznej inteligencji jest przypadek firmy Hugging Face. Amerykański startup poinformował w lipcu o ataku hakerskim na swoje serwery, gdzie umieszczono bibliotekę kodów dla SI. OpenAI szybko przyznało się, że za atakami stali trenowani tam agenci SI. Był to wewnętrzny eksperyment firmy, mający sprawdzić, jak sztuczna inteligencja poradzi sobie z takimi zadaniami. Eksperyment wymknął się spod kontroli, gdy agenci obeszli zabezpieczenia i przedostali się do Internetu.

Tak przynajmniej wygląda powszechnie przyjęta wersja. Jednak Marcel Salathé, kierujący centrum badań nad SI na politechnice w Lozannie, w rozmowie z dziennikiem Tagesanzeiger rzuca nieco inne światło na przypadek Hugging Face. Pracownicy OpenAI kazali sztucznej inteligencji nie tylko hakować, przede wszystkim usunęli większość zabezpieczeń i ograniczeń. Krótko mówiąc, SI została spuszczona ze smyczy. Salathé porównał to do wypuszczenia w powietrze samolotu z wyłączonymi systemami kontroli lotu. Pytanie „co mogło pójść źle?” jest w takiej sytuacji nie na miejscu.

Wydaje się, że podobna była przyczyna zhakowania firm przez sztuczną inteligencję Gemini, do którego doszło w maju. W trakcie „standardowego testu” Gemini znalazła w Internecie publicznie dostępne informacje i odgadła dane logowania, aby uzyskać dostęp do trzech stron internetowych, które uznała za objęte zakresem testu.

Przejdźmy jednak do coraz bardziej codziennych już zastosowań sztucznej inteligencji przez wojsko i służby specjalne, a także innych przypadków „użycia niezgodnego z założeniami” przez inne podmioty. Anthropic opublikował 10 września liczący 154 strony raport poświęcony wykrywaniu i przeciwdziałaniu niewłaściwemu wykorzystaniu sztucznej inteligencji. Jeden opisanych przypadków został już przez nas opisany. Dotyczył on próby wykorzystania Claude’a przez jemeńskich Hutich do napisania oprogramowania dla układu sterowania pocisków rakietowych.

Można wręcz spytać, czego w tym raporcie nie ma? Jest irańska próba stworzenia systemu naprowadzania pocisków na amerykańskie okręty wojenne, jest rosyjska uczelnia próbująca wykorzystać Claude’a do napisania oprogramowania sterującego rojem bezzałogowców w ramach państwowego grantu, są próby opracowania broni biologicznej. Przeszło połowa raportu dotyczy jednak wykorzystania sztucznej inteligencji w cyberoperacjach i operacjach wpływu, prowadzonych przez różnorodne grupy przestępcze, terrorystyczne, Federację Rosyjską i Chińską Republikę Ludową.

Szczególnie ciekawy jest przypadek Chin. Tamtejsze firmy technologiczne, wspierane przez państwo, są uznawana za najgroźniejszego rywala Doliny Krzemowej. Jednak chińskie podmioty bardzo chętnie korzystają z usług amerykańskich gigantów technologicznych, a chińskie firmy regularnie są oskarżane o „destylowanie” amerykańskich modeli. OpenAI, Anthropic i reszta przyznają również, że z adresów IP łączonych z chińskim wojskiem regularnie napływają szczegółowe zapytania o amerykański sprzęt i procedury wojskowe. W swoim raporcie Anthropic wspomina miedzy innymi o próbie użycia Claude’a do napisania oprogramowania wskazującego cele dla systemów walki elektronicznej i przełamania obrony powietrznej. Przypadek ten dotyczył nie tylko systemów THAAD i Patriot, ale także obrony powietrznej Tajwanu i tamtejszego systemu przeciwlotniczego Tien Kung.

Inny bardzo interesujący przypadek z Chin dotyczy zlecenia na przygotowanie systemu kierowania ogniem systemu przeciwtorpedowego. Żeby było jeszcze ciekawiej:

Dokument ten został sporządzony w celu uzyskania zgody chińskiego producenta sprzętu obronnego, co umożliwiłoby przejście do etapu certyfikacji technicznej i testów operacyjnych.
Po drugie, sprawca wykorzystał Claude’a do stworzenia ponad 200-stronicowej chińskojęzycznej propozycji technicznej wraz z prezentacją dla kadry kierowniczej.
Po trzecie, sprawca wykorzystał Claude’a do porównania własnego systemu z konkretnymi amerykańskimi programami przeciwtorpedowymi i przeciwokrętowymi w oparciu o informacje dostępne publicznie. Następnie wygenerował chińskojęzyczną prezentację na temat systemów US Navy, opartą na doniesieniach z otwartych źródeł.

Najzabawniejsze w tym wszystkim jest to, że w Stanach Zjednoczonych prace nad systemem przeciwtorpedowym dla obrony lotniskowców zawieszono kilka lat temu. Liderami na tym polu są Niemcy i Turcy. Atlas Electronic oferuje system Seaspider, który podobno w tym roku ma zostać zamówiony przez niemiecką Marine. Natomiast turecki Aselsan ma w ofercie przeciwtorpedę Tork.

Również chińska służba bezpieczeństwa nie stroni od użycia Claude’a. Raport Anthropica opisuje przerwanie wykorzystywania sztucznej inteligencji do inwigilacji wspólnot religijnych i ich przywódców. Na liście celów oprócz katolików, tybetańskich buddystów i sekty Falun Gong są grupy chrześcijan z Tajwanu, Japonii i Korei, ujgurska diaspora, a także działacze niepodległościowi z Mongolii Wewnętrznej.

Komu analizę wywiadowczą? Komu?

Z kolei The Wall Street Journal opisuje niezwykle interesujący przypadek firmy Zhengzhou Zhirong Network Technology (ZRON). Firma ta należy do licznego grona hakerów pracujących dla Pekinu. Czym ZRON wyróżnia się na tle konkurencji? Według dokumentów pozyskanych przez gazetę chodzi nie tyle o model biznesowy, ile o szerokie wykorzystanie sztucznej inteligencji. ZRON działa jako hakerzy do wynajęcia, samodzielnie wykrada dane, ale także działa jako broker danych zdobytych przez innych. Nie stroni także od OSINT-u. Na podstawie zdobytych danych firma przygotowuje raporty, które następnie sprzedaje chińskiej policji i bezpiece.

Taki model biznesowy jest odpowiedzią na zapotrzebowanie rynku. W Chinach oprócz ministerstw bez­pie­czeń­stwa publicznego i bez­pie­czeń­stwa państwa trzeba pamiętać jeszcze o komórkach bezpieki utrzymywanych przez władze regionalne i lokalne. Wszystkie te „firmy” oczywiście zawzięcie ze sobą walczą, a ten, kto wcześniej uzyska informacje albo trafnie wskaże na sprawę godną uwagi, może zdobyć cenne punkty.

A gdzie w tym wszystkim sztuczna inteligencja? ZRON przerabia tak duże ilości danych, że wykorzystuje SI do ich analizowania i segregowania. Dzisiaj to już powszechna praktyka. Chińska firma poszła jednak krok dalej. Według dokumentów, które oglądał WSJ, w ZRON to sztuczna inteligencja pisze oceny ryzyka i rekomendacje, ludzie tylko dostarczają jej danych. Te zaś obejmują korespondencję dyplomatyczną i biznesową z Rosji, Filipin, Watykanu i oczywiście Tajwanu, poufne pakistańskie notatki rządowe, dane amerykańskich dyplomatów. Nie zawsze jednak powstałe w ten sposób raporty spełniają oczekiwania odbiorców. Policja z niewymienianego miasta w środkowych Chinach, zamieszkanego przez dużą liczbę muzułmanów, chciała wiosną tego roku dowiedzieć się więcej o „kluczowych kwestiach związanych z podróżami między Chinami a Bliskim Wschodem w obecnej sytuacji geopolitycznej”. Raport przedstawiony przez ZRON nie zrobił dobrego wrażenia na odbiorcach.

Do analiz wywiadowczych przygotowanych przez sztuczną inteligencję należy podchodzić z bardzo dużą ostrożnością. Jak dowiedziało się CNN wiosną tego roku, Amerykanie o mało nie abordażowali chińskiego statku. Analizująca dane wywiadowcze SI błędnie uznała, że jednostka przewozi ładunek związany z irańskim programem nuklearnym. Operacja miała zostać wstrzymana dosłownie w ostatniej chwili. Byliśmy więc od krok od co najmniej poważnego kryzysu dyplomatycznego. Halucynacje SI przy analizie informacji wywiadowczych albo zarządzaniu arsenałem jądrowym od dłuższego czasu wskazywane są jako jedno z największych zagrożeń. W trakcie dotychczasowych eksperymentów sztuczna inteligencja okazała się znacznie bardziej chętna do podejmowania ryzykownych decyzji niż ludzie.

Za wielkim murem

Chińscy decydenci już w poprzedniej dekadzie obawiali się scenariusza jak z „Terminatora”. Dyskusje nad tym, jak poradzić sobie ze sztuczną inteligencją, trwają cały czas na szczytach Komunistycznej Partii Chin, a ich dotychczasowy wynik przedstawia artykuł opublikowany na łamach Chińskiego Czasopisma Cyberbezpieczeństwa przez ministra bezpieczeństwa państwa Chen Yixina. Minister wskazuje sześć głównych zagrożeń stwarzanych przez sztuczną inteligencję, w swoich priorytetach jest jednak bardzo odległy od Daria Amodeia.

Pierwsze i najważniejsze jest zagrożenie dla systemu komunistycznego. Chen obawia się, że „wrogie siły i osoby o złowrogich motywach” mogą wykorzystać SI do szerzenia dezinformacji i tworzenia podziałów społecznych, krótko mówiąc: do prowadzenia wojny kognitywnej obliczonej na obalenie władzy KPCh. Drugie zagrożenie to wykrywanie luk w zabezpieczeniach i ataki na infrastrukturę krytyczną. Trzecie zagrożenie to wykorzystanie SI w atakach hakerskich.

Czwarte zagrożenie ma charakter bardziej polityczny. Chen obawia się nakładania kontroli technologicznej przez państwa mające przewagę na polu sztucznej inteligencji i mocy obliczeniowej w celu ograniczenia dostępu innych krajów do zaawansowanych technologii. Trudno nie dopatrzyć się czytelnej aluzji do amerykańskich ograniczeń w eksporcie najbardziej zaawansowanych półprzewodników do Chin. Piaty punkt częściowo pokrywa się z pierwszym i dotyczy nowych zagrożeń dla zarządzania społeczeństwem i porządku publicznego. Chen zwraca uwagę, że regulatorzy i prawodawcy nie nadążają za rozwojem technicznym. Szóste i ostatnie zagrożenie jest bardzo często omawiane na naszych elektronicznych łamach. To zmiany w sposobie prowadzenia działań wojennych i narodziny wojny algorytmicznej. Ten, kto sprawniej wdroży na szeroką skalę SI, uzyska niespotykaną przewagę nad przeciwnikiem.

Jakie rozwiązania proponuje Chen? Zaskakująco podobne do Trumpa. Spowolnienie rozwoju nie wchodzi w grę. Rozwiązaniem jest natomiast wzmocnienie kontroli KPCh nad internetem i danymi oraz „przekształcenie przewagi przywództwa Partii w skuteczność zarządzania SI”. W Pekinie, tak samo jak w Waszyngtonie, sztuczna inteligencja jest w centrum dwustronnej rywalizacji. O jej wyniku przesądzi zaś to, kto przejmie kontrolę nad sztuczną inteligencją, danymi i informacjami. W takiej sytuacji nie dziwi, że propozycje Amodeia i reszty Doliny Krzemowej zostały w Zhongnanhai przyjęte wrogo i są postrzegane jako próba zabezpieczenia przez Amerykanów posiadanej przewagi albo zgoła zmonopolizowania rozwoju SI. Seth Center, który za prezydentury Bidena prowadził rozmowy z Chinami w sprawie uregulowania rozwoju sztucznej inteligencji, twierdzi na łamach The New York Timesa, że rozmowy „nas nie ocalą”.

Podobno globalne zarządzanie sztuczną inteligencją ma znaleźć się w agendzie zaplanowanego na przyszły tydzień szczytu Trump-Xi w Waszyngtonie. Należy jednak spodziewać się raczej rozmów o rozmowach, iż jakiejkolwiek próby wypracowania założeń.

Dlaczego chcą regulacji?

Na koniec trzeba zadać pytanie, dlaczego prezesi firm technologicznych z Doliny Krzemowej mówią jednym głosem w sprawie regulacji rozwoju sztucznej inteligencji. Należy pamiętać, że Anthropic na początku roku wypadł z łask Białego Domu i Pentagonu. Amodei odmówił przyznania dostępu do Claude’a „bez ograniczeń dla wszystkich legalnych celów”, co ma obejmować także autonomiczne systemy uzbroje­nia oraz zbieranie i analizę danych wywiadow­czych, pozyski­wa­nych także na terenie Stanów Zjedno­czo­nych. Zdaniem prezesa Anthropica obecnie dostępne modele SI nie są wystarczająco niezawodne, aby wykorzystywać je do tworzenia w pełni autonomicznych systemów uzbrojenia. Technologia jest jeszcze w powijakach, a jej użycie na szeroką skalę mogłoby zagrozić życiu żołnierzy i cywilów. Firma sprzeciwia się także zdecydowanie użyciu Claude’a do monitorowania obywateli USA bez nakazu sądowego. Konkurenci skorzystali z okazji, oferując swoje usługi Pentagonowi, ale sygnał ostrzegawczy został przyjęty.

Nie wyjaśnia to jednak regulacyjnego pędu branży uznawanej za wyjątkowo niechętną takim ograniczeniom. Warto wrócić tutaj do wywiadu z Marcelem Salathém. Zdaniem szwajcarskiego uczonego realne przyczyny mają charakter prawny i finansowy. Przypadek Hugging Face postawił na porządku dziennym pytanie o to, kto będzie ponosić finansowe i prawne konsekwencje działań SI prowadzących do zniszczeń, obrażeń, a nawet zgonów w realnym świecie.

Drugi problem niesie jeszcze większe ryzyko. Rozwój sztucznej inteligencji i związanej z nią infrastruktury generuje koszty liczone już w setkach miliardów dolarów. Co szczególnie istotne, firmy z branży cały czas nie generują zysków, a inwestorzy zaczynają się niecierpliwić. W takiej sytuacji zagrożenie stwarzane przez SI staje się wygodnym wytłumaczeniem. Sam Altman posługuje się dokładnie tym argumentem, tłumacząc kolejne opóźnienia wejścia OpenAI na giełdę.

Jest też watek chiński, chociaż nie w takiej formie, jak postrzega się go w Pekinie. Amerykańskie firmy są pod presją chińskich konkurentów, którzy oferują modele może mniej zaawansowane, za to wystarczająco dobre, a przede wszystkim tańsze. Destylowanie i szerokie wykorzystanie amerykańskich modeli w Chinach to osobna sprawa. Wprowadzenie regulacji o globalnym zasięgu pozwoliłoby więc Dolinie Krzemowej złapać oddech. Z drugiej strony Salathé podkreśla, że w przeciwieństwie do poprzednich technologii sztucznej inteligencji nie da się uregulować siłami firm z branży, konieczna jest interwencja państwa. Tutaj na scenę wkracza natomiast wielka polityka wraz z fobiami, paranojami i uprzedzeniami decydentów z najwyższych szczebli.

Sztuczna inteligencja już odmieniła wiele dziedzin naszego życia, a to dopiero początek. Można odnieść wrażenie, że SI staje się naprawdę niebezpieczna dopiero, gdy trafia w ręce ludzi.

© Angga Budhiyanto / ZUMA Press Wire / Alamy Stock Photo