Firma AI twierdzi, że jej technologia została użyta przez hakerów jako broń

Amerykańska firma Anthropic zajmująca się sztuczną inteligencją (AI) twierdzi, że jej technologia została "wykorzystana jako broń" przez hakerów w celu przeprowadzania wyrafinowanych cyberataków.

Firma Anthropic, która stworzyła chatbota Claude, doniosła, że jej narzędzia zostały wykorzystane przez hakerów "do kradzieży i wyłudzania danych osobowych na dużą skalę".

Anthropic twierdzi, że jego sztuczna inteligencja została wykorzystana do napisania kodu, który przeprowadził cyberataki, podczas gdy w innym przypadku północnokoreańscy oszuści wykorzystali Claude'a do zdobycia zdalnej pracy w czołowych amerykańskich firmach.

Anthropic poinformował jednak, że udało mu się zakłócić działalność podmiotów stanowiących zagrożenie, zgłosić te przypadki władzom oraz udoskonalić własne narzędzia wykrywania.

Wykorzystanie sztucznej inteligencji do pomocy w pisaniu kodu zyskało na popularności, ponieważ technologia ta staje się coraz bardziej wydajna i dostępna.

Według Anthropic doszło do tzw. „vibe hackingu", w ramach którego jego sztuczna inteligencja wygenerowała kod umożliwiający włamania do co najmniej 17 organizacji, także rządowych.

Stwierdzono, że hakerzy "wykorzystali sztuczną inteligencję w stopniu, który uważamy za bezprecedensowy".

Claude został użyty do „podejmowania zarówno decyzji taktycznych, jak i strategicznych, takich jak wybór danych do wykradzenia oraz tworzenie psychologicznie ukierunkowanych żądań okupu". Zasugerował nawet kwoty okupu dla ofiar.

Samodzielnie działające systemy AI w której technologia działa autonomicznie - została uznana za kolejny duży krok w tej dziedzinie.

Przykłady te pokazują jednak niektóre z zagrożeń, jakie potężne narzędzia stwarzają dla potencjalnych ofiar cyberprzestępczości.

Wykorzystanie sztucznej inteligencji oznacza, że "czas potrzebny na wykorzystanie luk w cyberbezpieczeństwie szybko się kurczy", powiedziała Alina Timofeeva, doradca ds. cyberprzestępczości i sztucznej inteligencji.

"Wykrywanie i łagodzenie skutków musi być proaktywne i zapobiegawcze, a nie reaktywne po wyrządzeniu szkody," powiedziała.

'Północnokoreańscy agenci'

Ale technologia ta jest wykorzystywana nie tylko do cyberprzestępczości.

Według Anthropic , "północnokoreańscy agenci" wykorzystali jego modele do tworzenia fałszywych profili, aby ubiegać się o pracę zdalną w amerykańskich firmach technologicznych z listy Fortune 500.

Wykorzystanie pracy zdalnej w celu uzyskania dostępu do systemów firm jest znane od jakiegoś czasu, ale Anthropic jest zdania, że wykorzystanie sztucznej inteligencji w schemacie oszustwa jest "całkowicie nowym etapem dla oszustw związanych z zatrudnieniem".

Stwierdzono, że sztuczna inteligencja była wykorzystywana do pisania podań o pracę, a po zatrudnieniu oszustów pomagała w tłumaczeniu wiadomości i pisaniu kodu.

Często północnokoreańscy pracownicy są "odcięci od świata zewnętrznego, kulturowo i technicznie, co utrudnia im wykonanie tego podstępu," powiedział Geoff White, współprowadzący podcast BBC The Lazarus Heist.

„Samodzielnie działające AI może pomóc im pokonać te bariery, umożliwiając im zatrudnienie," powiedział.

"Ich nowy pracodawca narusza wówczas międzynarodowe sankcje, nieświadomie płacąc Koreańczykom z Północy".

Powiedział jednak, że sztuczna inteligencja "nie tworzy obecnie zupełnie nowych fal przestępczych", a "wiele włamań ransomware (przyp.tłum. oprogramowanie okupowe) nadal ma miejsce dzięki wypróbowanym i przetestowanym sztuczkom, takim jak wysyłanie wiadomości phishingowych i polowanie na luki w oprogramowaniu".

"Organizacje muszą zrozumieć, że sztuczna inteligencja jest repozytorium poufnych informacji, które wymagają ochrony, tak jak każda inna forma systemu przechowywania danych," powiedziała Nivedita Murthy, starszy konsultant ds. bezpieczeństwa w firmie Black Duck.

Zapisz się do naszego newslettera Tech Decoded, aby śledzić najważniejsze historie i trendy technologiczne na świecie. Poza Wielką Brytanią? Zarejestruj się tutaj.

Ten tekst został napisany i sprawdzony przez naszych dziennikarzy, używając przy tłumaczeniu narzędzi AI, jako część projektu pilotażowego.

Edycja: Kamila Koronska