Wprowadzenie przez firmę Samsung Electronics rozwiązań „ChatGPT Enterprise” i „Codex” Open AI dla pracowników krajowych i zagranicznych to bardzo niezwykła i strategiczna decyzja w globalnym ekosystemie sztucznej inteligencji. Umowa ta wykracza poza zwykłe pożyczanie narzędzi zewnętrznych i jest postrzegana jako sygnał do transformacji sztucznej inteligencji (AX) w całym przedsiębiorstwie, która wdroży generatywną sztuczną inteligencję w podstawowych procesach biznesowych firmy Samsung, w tym w produkcji, marketingu i tworzeniu oprogramowania. W szczególności z punktu widzenia otwartej sztucznej inteligencji umowa ta jest jednym z największych w historii przypadków usług korporacyjnych, a pozyskując jako partnera firmę Samsung Electronics, wiodącą na świecie potęgę produkcyjną, wyraźnie objęliśmy wiodącą pozycję na rynku korporacyjnej sztucznej inteligencji w Korei. Obie firmy ściśle współpracowały już w dziedzinie półprzewodników pamięci dla infrastruktury sztucznej inteligencji nowej generacji, a dzięki wprowadzeniu tego oprogramowania rozwinęły się w silny sojusz oparty na trzech filarach: sprzęcie, infrastrukturze i innowacjach biznesowych.

Jednak w przeciwieństwie do świątecznej atmosfery postępu technologicznego, wśród zwykłych konsumentów doszło do absurdalnego incydentu bezpieczeństwa wokół usługi Open AI, który wywołał wielkie kontrowersje. Niedawno około 800 użytkowników kart krajowych poniosło stratę, płacąc bez ich wiedzy wysoką opłatę abonamentową ChatGPT wynoszącą 299 000 wonów. W wyniku dochodzenia ujawniono, że było to przestępstwo polegające na „testowaniu kart”, polegające na bezkrytycznym wprowadzaniu danych karty osobistej skradzionych za pośrednictwem ciemnej sieci itp. do systemu płatności ChatGPT. W procesie tym wyraźnie ujawniono słaby system uwierzytelniania zagranicznych sklepów stowarzyszonych, a system, w którym płatność jest zatwierdzana natychmiastowo, bez weryfikacji tożsamości poprzez proste podanie numeru karty, daty ważności i kodu CVC, stał się niezwykle atrakcyjnym łupem dla przestępców.

Incydent ten jest również powiązany z lukami systemowymi, które wystąpiły w procesie przekazywania informacji przez NICE Information and Communication, krajową agencję płatniczą (PG). Ofiarom trudno było od razu rozpoznać, że jest to fałszywa płatność związana z ChatGPT, ponieważ nazwa powiązanego sklepu na wyciągu z karty widniała jedynie jako „Nice Information & Communication”. Brak przejrzystości w szczegółach płatności doprowadził do opóźnień w zgłaszaniu szkód, co spowodowało, że system wykrywania nieprawidłowych transakcji (FDS) wydawcy karty nie był w stanie blokować fałszywych płatności w czasie rzeczywistym. Pomimo krajowych przepisów finansowych nakazujących weryfikację prawdziwych nazwisk, podstawową przyczyną tych kontrowersji jest istnienie „ślepej plamki regulacyjnej” w przypadku zagranicznych usług płatniczych, w przypadku których nie stosuje się krajowych standardów bezpieczeństwa.

Kiedy zaistniała sytuacja, Open AI i Nice Information and Communication zaczęły przygotowywać środki zaradcze, takie jak pośpieszne anulowanie i zwrot płatności oraz zmiana nazwy powiązanego sklepu, aby była wyraźnie oznaczona. Co więcej, ogłosili, że rozpoczęli rozwój technologiczny, aby w przyszłości wzmocnić proces uwierzytelniania tożsamości, jednak wielu wskazuje, że to nie wystarczy, aby przywrócić już nadszarpnięte zaufanie konsumentów. Eksperci ds. bezpieczeństwa doradzają, aby użytkownicy, aby zapobiec powtarzaniu się takich incydentów, podjęli aktywne działania w celu ochrony siebie, takie jak obniżenie limitów płatności zagranicznych lub korzystanie z prostych usług płatniczych wymagających wtórnego uwierzytelnienia. Ostatecznie teraz, gdy ogromna fala sztucznej inteligencji zalewa nasze codzienne życie, znaleźliśmy się na rozdrożu, na którym nie możemy ślepo ufać tylko wygodzie technologii, ale także budować silną świadomość bezpieczeństwa i odpowiadające jej instytucjonalne środki bezpieczeństwa.