Dua sisi AI generatif: Inovasi industri atau risiko tanpa jaring pengaman? > berita

Baru-baru ini, industri dalam dan luar negeri menggunakan AI generatif sebagai pendorong utama inovasi bisnis. Menyusul pengenalan ChatGPT oleh Samsung Electronics di tingkat perusahaan, SK Hynix juga meninjau sistem keamanannya dan meresmikan penggunaan AI yang dihasilkan secara eksternal. Hal ini bukan sekadar mengikuti tren, namun merupakan pilihan strategis untuk mengamankan daya saing di pasar global dengan memaksimalkan efisiensi proses penelitian dan pengembangan (R&D) dan mempercepat pengambilan keputusan. Faktanya, Samsung Electronics mengonfirmasi melalui pengujian internal bahwa ChatGPT memiliki kesesuaian bisnis dan kepuasan pengguna tertinggi, dan menghubungkan hal ini dengan strategi konversi AI (AX) di seluruh grup. Perusahaan kini memilih teknologi di luar performa model AI mereka, berdasarkan seberapa baik teknologi tersebut bekerja dalam situasi dunia nyata dan secara akurat menangkap maksud dari pertanyaan yang diajukan.

Namun, kritik mengalir bahwa langkah-langkah keamanan yang mendukungnya masih lemah dibandingkan dengan kecepatan penyebaran teknologi. Jaksa agung dari 12 negara bagian di AS mengeluarkan panggilan pengadilan kepada OpenAI, dengan sasaran masalah keamanan ChatGPT. Ini adalah peringatan bahwa kita tidak bisa lagi mengabaikan efek samping sosial yang dapat ditimbulkan oleh AI, seperti kaitannya dengan kejahatan, masalah dalam melindungi anak di bawah umur, dan jawaban yang meningkatkan kecemasan psikologis pengguna. Faktanya, Open AI telah menjadi pusat tanggung jawab hukum dan etika karena muncul kecurigaan bahwa tersangka penembakan menggunakan AI untuk merencanakan kejahatan atau bahwa respons AI memengaruhi pilihan ekstrem orang-orang tertentu. Dari perspektif Open AI, yang sedang mempersiapkan penawaran umum perdana (IPO), investigasi otoritas regulasi ini bertindak sebagai variabel besar yang meningkatkan ketidakpastian dalam proses pencatatan.

Bahkan untuk pengguna individu, AI bertindak seperti pedang bermata dua. Baru-baru ini, sejumlah kasus pembayaran uang dalam jumlah besar yang tidak sah telah terjadi karena pencurian informasi kartu dari orang yang belum pernah menggunakan ChatGPT, sehingga menunjukkan adanya lubang pada sistem keamanan. Ini lebih dari sekedar kesalahan teknis, ini adalah insiden keamanan serius yang secara mendasar mengancam keandalan platform. Selain itu, seperti halnya di Jepang, seiring dengan meningkatnya jumlah generasi muda yang memilih AI dibandingkan manusia sebagai pusat konseling, keterbatasan saran dan tanggung jawab AI juga mengemuka. Meskipun AI memiliki kecerdasan luar biasa dalam menunjukkan detail yang tidak diketahui manusia, kita tidak boleh lupa bahwa AI tidak bertanggung jawab atas hasil jawabannya.

Meski demikian, potensi AI generatif masih berfungsi sebagai teknologi hangat yang mendobrak hambatan sosial. Dewan Internasional untuk Penyandang Disabilitas Busan menerbitkan kumpulan ucapan dengan ilustrasi yang dibuat oleh penyandang disabilitas menggunakan AI, yang menunjukkan contoh kelas yang kurang mampu secara digital menjadi pencipta yang percaya diri dan bukan hanya konsumen teknologi. Hal ini membuktikan nilai AI sebagai kesejahteraan teknologi dan menunjukkan arah yang tepat untuk kita ambil. Sementara itu, di pasar Korea, persaingan sengit antar layanan terus berlanjut, dengan 'Claude' dari Antropic mengguncang sistem dua tingkat ChatGPT dan Gemini dan melompat ke posisi kedua dalam penjualan. Dinamika pasar ini memberikan pilihan yang lebih baik kepada pengguna, namun pada saat yang sama, hal ini menunjukkan bahwa pendekatan hati-hati dan kesadaran perlindungan informasi dari pengguna yang menggunakan berbagai model secara paralel menjadi lebih penting.