Hakerzy umieścili fałszywy model ChatGPT w jego oficjalnym serwisie

Atakujący wykorzystali niestandardowe boty ChatGPT i Google Sites do rozsyłania złośliwego oprogramowania ClickFix. Fałszywe monity dotyczące rozwiązywania problemów nakłoniły ofiary do wykonania złośliwych poleceń.

Eksperci ostrzegają, że przestępcy wykorzystują niestandardowe modele GPT w połączeniu z usługami Google, aby przeprowadzać ataki typu „ClickFix” i infekować urządzenia ofiar niebezpiecznym złośliwym oprogramowaniem, które może przejąć kontrolę nad kamerą oraz mikrofonem.

Nowa kampania tego typu została niedawno wykryta przez badaczy bezpieczeństwa z firmy Huntress; zaledwie kilka dni po jej zablokowaniu pojawiła się kolejna.

Atakujący tworzą fałszywe modele lub warianty (np. imitujące wersje typu „Plus 5.6”), które kierują użytkowników na zewnętrzne strony lub kopie zapasowe domen (np. rzekome weryfikacje).

Użytkownik widzi fałszywy komunikat (np. test sprawdzający, czy nie jesteś robotem, albo aktualizację), który skłania go do skopiowania i uruchomienia zaciemnionego kodu w PowerShellu lub instalacji zainfekowanych paczek MSI.

„Custom GPT” to wersja narzędzia AI, którą użytkownik może skonfigurować do określonego celu, zamiast za każdym razem rozpoczynać rozmowę z „czystym” modelem, użytkownicy mogą stworzyć własną jego odmianę, wyposażając ją w zestaw instrukcji, bazę wiedzy, pliki oraz rozmaite narzędzia i możliwości. Co jednak najważniejsze, mogą nadać jej unikalną nazwę, osobowość, a także zdefiniować sposób rozpoczynania konwersacji.

Niestandardowe modele GPT są hostowane w serwisie ChatGPT(dot)com. Gdy użytkownik trafia do takiego modelu za pośrednictwem linku w wiadomości e-mail lub komunikatorze, nie ma powodów do podejrzeń, ponieważ adres URL zaczyna się od „chatgpt(dot)com”.

W tym przypadku niezidentyfikowani hakerzy stworzyli własny model GPT, któremu nadali nazwę „Plus 5.6”. OpenAI stosuje nazewnictwo typu „GPT-3.5”, „GPT-5 Pro” itp., więc „Plus 5.6” brzmi wiarygodnie – zwłaszcza dla osób, które nie śledzą na bieżąco rozwoju branży sztucznej inteligencji.

Źródło:

www.huntress.com/blog/chatgpt-custom-gpts-clickfix-rat

www.techradar.com/pro/security/hackers-host-fake-chatgpt-model-on-its-official-website-but-really-its-just-malware