Die Einführung von Open AIs „ChatGPT Enterprise“ und „Codex“ für in- und ausländische Mitarbeiter durch Samsung Electronics ist eine sehr ungewöhnliche und strategische Entscheidung innerhalb des globalen KI-Ökosystems. Dieser Vertrag geht über die einfache Ausleihe externer Tools hinaus und wird als Signal für eine unternehmensweite KI-Transformation (AX) gesehen, die generative KI in die Kerngeschäftsprozesse von Samsung integrieren wird, einschließlich Fertigung, Marketing und Softwareentwicklung. Insbesondere aus Sicht von Open AI ist dieser Vertrag einer der größten Unternehmensservice-Fälle aller Zeiten, und durch die Gewinnung von Samsung Electronics, dem weltweit führenden Fertigungsunternehmen, als Partner haben wir eindeutig die Führung auf dem Unternehmens-KI-Markt in Korea übernommen. Die beiden Unternehmen kooperieren bereits im Bereich Speicherhalbleiter für die KI-Infrastruktur der nächsten Generation eng und haben sich durch die Einführung dieser Software zu einer starken Allianz mit den drei Säulen Hardware, Infrastruktur und Geschäftsinnovation entwickelt.

Doch im Gegensatz zur festlichen Atmosphäre des Technologiesprungs ereignete sich bei allgemeinen Verbrauchern ein absurder Sicherheitsvorfall rund um den Open AI-Dienst, der große Kontroversen auslöste. Kürzlich erlitten etwa 800 inländische Kartennutzer den Verlust, ohne ihr Wissen eine hohe ChatGPT-Abonnementgebühr von 299.000 Won bezahlt zu haben. Als Ergebnis der Untersuchung stellte sich heraus, dass es sich um ein „Kartentest“-Verbrechen handelte, bei dem Kriminelle wahllos persönliche Karteninformationen, die über das Dark Web usw. gestohlen wurden, in das ChatGPT-Zahlungssystem eingaben. Dabei wurde das schwache Authentifizierungssystem der in Übersee angeschlossenen Geschäfte deutlich aufgedeckt, und das System, bei dem die Zahlung ohne Identitätsprüfung durch einfache Eingabe der Kartennummer, des Ablaufdatums und des CVC-Codes sofort genehmigt wird, ist zu einer äußerst attraktiven Beute für Kriminelle geworden.

Dieser Vorfall steht auch im Zusammenhang mit systemischen Lücken, die bei der Weiterleitung über NICE Information and Communication, eine inländische Zahlungsagentur (PG), aufgetreten sind. Für die Opfer war es schwierig, sofort zu erkennen, dass es sich um eine betrügerische Zahlung im Zusammenhang mit ChatGPT handelte, da der Name des angeschlossenen Geschäfts auf der Kartenabrechnung nur „Nice Information & Communication“ angegeben war. Die mangelnde Transparenz der Zahlungsdetails führte zu Verzögerungen bei der Schadensmeldung, was dazu führte, dass das Abnormal Transaction Detection System (FDS) des Kartenunternehmens betrügerische Zahlungen nicht in Echtzeit blockieren konnte. Obwohl die inländischen Finanzvorschriften die Verifizierung des echten Namens vorschreiben, besteht der Hauptgrund für diese Kontroverse darin, dass es bei ausländischen Zahlungsdiensten, bei denen diese inländischen Sicherheitsstandards nicht angewendet werden, einen „regulatorischen blinden Fleck“ gibt.

Als die Situation eintrat, begannen Open AI und Nice Information and Communication mit der Vorbereitung von Gegenmaßnahmen, wie z. B. der eiligen Stornierung und Rückerstattung von Zahlungen und der Änderung des Namens des angeschlossenen Geschäfts, um ihn klar anzugeben. Darüber hinaus gaben sie bekannt, dass sie mit der technologischen Entwicklung begonnen haben, um den Identitätsauthentifizierungsprozess in Zukunft zu stärken. Viele weisen jedoch darauf hin, dass dies nicht ausreicht, um das bereits beschädigte Vertrauen der Verbraucher wiederherzustellen. Um zu verhindern, dass sich solche Vorfälle wiederholen, raten Sicherheitsexperten den Nutzern, aktive Maßnahmen zu ihrem Schutz zu ergreifen, etwa die Senkung ihrer Zahlungslimits im Ausland oder die Nutzung einfacher Zahlungsdienste, die eine sekundäre Authentifizierung erfordern. Jetzt, da die riesige Welle der KI in unser tägliches Leben eindringt, stehen wir letztendlich an einem Scheideweg, an dem wir nicht nur blind auf die Bequemlichkeit der Technologie vertrauen dürfen, sondern auch ein starkes Sicherheitsbewusstsein und entsprechende institutionelle Sicherheitsmaßnahmen aufbauen dürfen.