De introductie door Samsung Electronics van Open AI's 'ChatGPT Enterprise' en 'Codex' voor binnenlandse en buitenlandse werknemers is een zeer ongebruikelijke en strategische beslissing binnen het wereldwijde AI-ecosysteem. Dit contract gaat verder dan alleen het lenen van externe tools en wordt gezien als een signaal voor een bedrijfsbrede AI-transformatie (AX) die generatieve AI zal implanteren in de belangrijkste bedrijfsprocessen van Samsung, waaronder productie, marketing en softwareontwikkeling. Met name vanuit het Open AI-perspectief is dit contract een van de grootste zakelijke dienstverleningsprojecten ooit, en door Samsung Electronics, 's werelds toonaangevende productiekrachtcentrale, als partner te beveiligen, hebben we duidelijk het voortouw genomen op de zakelijke AI-markt in Korea. De twee bedrijven werken al nauw samen op het gebied van geheugenhalfgeleiders voor de volgende generatie AI-infrastructuur, en door de introductie van deze software hebben ze zich ontwikkeld tot een sterke alliantie met de drie pijlers hardware, infrastructuur en bedrijfsinnovatie.

Echter, in tegenstelling tot de feestelijke sfeer van de technologische sprong voorwaarts, vond er onder de algemene consumenten een absurd veiligheidsincident rond de Open AI-dienst plaats, wat tot grote controverse leidde. Onlangs leden ongeveer 800 binnenlandse kaartgebruikers het verlies van het betalen van een hoog ChatGPT-abonnementsbedrag van 299.000 gewonnen zonder hun medeweten. Als resultaat van het onderzoek kwam aan het licht dat dit een 'kaarttest'-misdaad was waarbij criminelen zonder onderscheid persoonlijke kaartgegevens ingevoerd die via het dark web enz. waren gestolen in het ChatGPT-betalingssysteem. In dit proces werd het zwakke authenticatiesysteem van in het buitenland aangesloten winkels duidelijk blootgelegd, en het systeem waarbij de betaling onmiddellijk wordt goedgekeurd zonder identiteitsverificatie door simpelweg het kaartnummer, de vervaldatum en de CVC-code in te voeren, is een uiterst aantrekkelijke prooi voor criminelen geworden.

Dit incident houdt ook verband met systemische mazen in de wet die zich hebben voorgedaan tijdens het passeren van NICE Information and Communication, een binnenlands betalingsbureau (PG). Voor de slachtoffers was het moeilijk om direct te herkennen dat het om een ​​frauduleuze betaling ging die verband hield met ChatGPT, aangezien op het kaartafschrift op de aangesloten winkelnaam alleen 'Nice Information & Communication' stond vermeld. Het gebrek aan transparantie in de betalingsgegevens leidde tot vertragingen bij het melden van schade, wat ertoe leidde dat het Abnormal Transaction Detection System (FDS) van de kaartmaatschappij frauduleuze betalingen niet in realtime kon blokkeren. Ondanks dat binnenlandse financiële regelgeving de verificatie van de echte naam verplicht stelt, is de fundamentele oorzaak van deze controverse dat er een 'blinde vlek' bestaat in het geval van buitenlandse betalingsdiensten waar deze binnenlandse veiligheidsnormen niet worden toegepast.

Toen de situatie zich voordeed, begonnen Open AI en Nice Information and Communication tegenmaatregelen voor te bereiden, zoals het haastig annuleren en terugbetalen van betalingen en het herzien van de naam van de aangesloten winkel zodat deze duidelijk werd aangegeven. Bovendien kondigden ze aan dat ze een technologische ontwikkeling zijn begonnen om het identiteitsauthenticatieproces in de toekomst te versterken, maar velen wijzen erop dat dit niet genoeg is om het vertrouwen van de consument, dat al beschadigd is, te herstellen. Beveiligingsexperts adviseren dat gebruikers, om te voorkomen dat dergelijke incidenten zich herhalen, actieve maatregelen moeten nemen om zichzelf te beschermen, zoals het verlagen van hun buitenlandse betalingslimieten of het gebruik van eenvoudige betalingsdiensten die secundaire authenticatie vereisen. Uiteindelijk staan ​​we, nu de enorme golf van AI ons dagelijks leven binnenstroomt, op een kruispunt waar we niet blindelings moeten vertrouwen op het gemak van technologie, maar ook een sterk veiligheidsbewustzijn moeten opbouwen en institutionele veiligheidsmaatregelen moeten treffen die daarbij aansluiten.