As duas faces da IA ​​generativa: inovação industrial ou risco sem rede de segurança? > Notícias

Recentemente, as indústrias nacionais e estrangeiras estão usando a IA generativa como um motor-chave da inovação empresarial. Após a introdução do ChatGPT pela Samsung Electronics em toda a empresa, a SK Hynix também revisou seu sistema de segurança e formalizou o uso de IA gerada externamente. Não se trata simplesmente de seguir tendências, mas de uma escolha estratégica para garantir a competitividade no mercado global, maximizando a eficiência do processo de investigação e desenvolvimento (I&D) e acelerando a tomada de decisões. Na verdade, a Samsung Electronics confirmou através de testes internos que o ChatGPT tem a maior adequação comercial e satisfação do usuário, e está vinculando isso à estratégia de conversão de IA (AX) de todo o grupo. As empresas estão agora a escolher tecnologias para além do desempenho dos seus modelos de IA, com base na forma como funcionam em situações do mundo real e na captura precisa da intenção da pergunta colocada.

No entanto, chovem críticas de que as medidas de segurança que a apoiam ainda são fracas em comparação com a velocidade com que a tecnologia está se espalhando. Procuradores-gerais de 12 estados dos EUA emitiram intimações à OpenAI, visando as questões de segurança do ChatGPT. Este é um aviso de que não podemos mais ignorar os efeitos colaterais sociais que a IA pode causar, como a sua ligação ao crime, problemas com a proteção de menores e respostas que aumentam a ansiedade psicológica dos utilizadores. Na verdade, a IA aberta tornou-se no centro da responsabilidade legal e ética à medida que foram levantadas suspeitas de que o suspeito do tiroteio usou a IA para planear o crime ou que as respostas da IA ​​influenciaram as escolhas extremas de certas pessoas. Do ponto de vista da Open AI, que se prepara para uma oferta pública inicial (IPO), as investigações destas autoridades reguladoras estão a funcionar como uma enorme variável que aumenta a incerteza no processo de listagem.

Mesmo para usuários individuais, a IA atua como uma faca de dois gumes. Recentemente, foram cometidos vários casos de pagamentos não autorizados de grandes quantias de dinheiro devido ao roubo de informações de cartões de pessoas que nunca utilizaram o ChatGPT, revelando uma falha no sistema de segurança. Isto é mais do que apenas um erro técnico, é um grave incidente de segurança que ameaça fundamentalmente a fiabilidade da plataforma. Além disso, como no caso do Japão, à medida que aumenta o número de jovens que escolhem a IA em vez de pessoas como centro de aconselhamento, as limitações do aconselhamento da IA ​​e as questões de responsabilidade também surgiram. Embora a IA tenha uma inteligência notável para apontar detalhes que os humanos não percebem, nunca devemos esquecer que ela não tem qualquer responsabilidade pelos resultados das suas respostas.

No entanto, o potencial da IA generativa ainda funciona como uma tecnologia quente que quebra barreiras sociais. O Conselho Internacional para Pessoas com Deficiência de Busan publicou uma coleção de ditos com ilustrações criadas por pessoas com deficiência usando IA, mostrando um exemplo da classe digitalmente desfavorecida tornando-se criadores confiantes, além dos consumidores de tecnologia. Isto prova o valor da IA ​​como bem-estar tecnológico e sugere a direção certa que devemos seguir. Enquanto isso, no mercado coreano, a competição acirrada entre serviços continua, com ‘Claude’ da Antropic abalando o sistema de dois níveis do ChatGPT e Gemini e saltando para o segundo lugar em vendas. Esta dinâmica de mercado proporciona aos utilizadores melhores opções, mas, ao mesmo tempo, sugere que a abordagem cautelosa e a sensibilização para a protecção da informação dos utilizadores que utilizam vários modelos em paralelo estão a tornar-se mais importantes.