A introdução do 'ChatGPT Enterprise' e 'Codex' da Open AI pela Samsung Electronics para funcionários nacionais e estrangeiros é uma decisão muito incomum e estratégica dentro do ecossistema global de IA. Este contrato vai além do simples empréstimo de ferramentas externas e é visto como um sinal para uma transformação de IA (AX) em toda a empresa que implantará IA generativa nos principais processos de negócios da Samsung, incluindo fabricação, marketing e desenvolvimento de software. Em particular, do ponto de vista da IA ​​aberta, este contrato é um dos maiores casos de serviços corporativos de sempre e, ao assegurar a Samsung Electronics, a principal potência industrial do mundo, como parceira, assumimos claramente a liderança no mercado corporativo de IA na Coreia. As duas empresas já têm cooperado estreitamente no domínio dos semicondutores de memória para a infra-estrutura de IA da próxima geração e, através da introdução deste software, desenvolveram-se numa forte aliança com os três pilares de hardware, infra-estrutura e inovação empresarial.

Porém, em contraste com o clima festivo do salto tecnológico, um absurdo incidente de segurança em torno do serviço Open AI ocorreu entre os consumidores em geral, gerando grande polêmica. Recentemente, cerca de 800 usuários de cartões domésticos sofreram a perda de pagar uma alta taxa de assinatura do ChatGPT de 299.000 won sem o seu conhecimento. Como resultado da investigação, foi revelado que se tratava de um crime de “teste de cartão”, no qual os criminosos inseriam indiscriminadamente informações de cartões pessoais roubados através da dark web, etc., no sistema de pagamento ChatGPT. Nesse processo, o fraco sistema de autenticação das lojas afiliadas no exterior foi claramente exposto, e o sistema onde o pagamento é aprovado imediatamente sem verificação de identidade, bastando inserir o número do cartão, a data de validade e o código CVC, tornou-se uma presa extremamente atraente para os criminosos.

Este incidente também está ligado a lacunas sistêmicas que ocorreram no processo de passagem pela NICE Information and Communication, uma agência de pagamento nacional (PG). Foi difícil para as vítimas reconhecerem imediatamente que se tratava de um pagamento fraudulento relacionado ao ChatGPT, pois o nome da loja afiliada no extrato do cartão era indicado apenas como 'Nice Information & Communication'. A falta de transparência nos detalhes do pagamento levou a atrasos na comunicação dos danos, o que resultou na impossibilidade do Sistema de Detecção de Transações Anormais (FDS) da administradora do cartão bloquear pagamentos fraudulentos em tempo real. Apesar dos regulamentos financeiros nacionais exigirem a verificação do nome real, a causa fundamental desta controvérsia é que existe um “ponto cego regulamentar” no caso dos serviços de pagamento estrangeiros, onde estas normas de segurança nacionais não são aplicadas.

Quando a situação surgiu, Open AI e Nice Information and Communication começaram a preparar contramedidas, como cancelar e reembolsar pagamentos às pressas e revisar o nome da loja afiliada para ser claramente indicado. Além disso, anunciaram que iniciaram o desenvolvimento tecnológico para fortalecer o processo de autenticação de identidade no futuro, mas muitos apontam que isso não é suficiente para restaurar a confiança do consumidor que já foi prejudicada. Os especialistas em segurança aconselham que, para evitar a recorrência de tais incidentes, os utilizadores devem tomar medidas activas para se protegerem, tais como reduzir os seus limites de pagamento no estrangeiro ou utilizar serviços de pagamento simples que requerem autenticação secundária. Em última análise, agora que a enorme onda de IA está a inundar as nossas vidas quotidianas, estamos numa encruzilhada onde não devemos confiar cegamente apenas na conveniência da tecnologia, mas também construir uma forte consciência de segurança e medidas de segurança institucionais que correspondam a ela.