Yapay zeka geliştiricisi Dario Amodei, 'veri merkezi dahileri' çağında hayatta kalma konusunda uyarıyor. > haberler

Dario Amodei'nin temel uyarısı, şeffaflığı sağlamaya yönelik mevcut özerk yaklaşımın artık sınırlarına ulaştığıdır. Next Frontier modelinin dört kritik alanda gerçek riskler taşıdığının altını çiziyor: siber güvenlik, biyolojik silah üretimi, otonom kontrolün kaybı ve hızlandırılmış otomatik araştırma ve geliştirme. Bunu başarmak için, tıpkı uçak endüstrisinin Federal Havacılık İdaresi (FAA) aracılığıyla sıkı ön testlerden ve sertifikasyondan geçmesi gibi, belirli bir hesaplama gücünü aşan yapay zeka modelleri için hükümet müdahalesiyle bağlayıcı bir düzenleyici çerçeve benimsememiz gerektiğini savunuyor. Bu teklifler, teknolojiyi basitçe kısıtlamak yerine, hükümetlerin kanıtlanmamış ve tehlikeli modellerin konuşlandırılmasını önleyici olarak engellemesine veya geri çekmesine olanak tanıyacak güçlü koruma önlemleri oluşturmayı amaçlıyor.

Amodei ayrıca yapay zekanın işgücü piyasası üzerindeki etkisine ilişkin oldukça soğukkanlı ve yapılandırılmış bir analiz sundu. Yapay zekanın basit bir araç olmanın ötesine geçeceği ve insanın tüm bilişsel yeteneklerinin ekonomik bir ikamesi haline geleceği, bunun da büyük ölçekli işsizliğin geçici bir olgu olmaktan ziyade köklü bir sosyal sorun haline gelmesine yol açabileceği konusunda uyarıyor. Bu sorunu çözmek için işverenlere vergi avantajı sağlamak, işsizlik riskiyle karşı karşıya olan işçiler için ücret sigortası ve iş eğitimi desteğinin güçlendirilmesi gibi istihdam yanlısı politikaları aktif olarak uygulamamız gerektiğini söylüyor. Dahası, eğer emek talebinin yapısal olarak azaldığı bir durum varsa, radikal görüş, sermaye kazançları vergisini artırarak veya yapay zeka şirketlerini vergilendirerek finanse edilen evrensel bir temel gelir getirmeyi bile ciddi şekilde düşünmemiz gerektiği yönünde.

Bu arada, teknolojik yeniliği engelleyen darboğazların serbestleştirilmesi ihtiyacını vurgulayarak stratejik esneklik de gösteriyor. Yapay zeka, biyotıp alanında yeni ilaç adaylarının keşfedilme ve yeni ilaç geliştirme hızını önemli ölçüde artırsa da, Gıda ve İlaç İdaresi (FDA) veya Avrupa İlaç Ajansı'nın (EMA) birkaç yıl süren mevcut inceleme sisteminin, inovasyon akışının önünde engel haline geldiğine dikkat çekiliyor. Bu nedenle Armodei, güvenliği sağlamak ancak inovasyon hızını artırmak için sanal klinik verileri kullanmak veya toksisiteyi tahmin etmek gibi yeni yapay zeka tabanlı düzenleme standartlarını proaktif bir şekilde oluşturmak için karmaşık bir düzenleme tasarımına ihtiyaç duyulduğunu öne sürüyor. Bu koşulsuz bir kontrol olmayıp, düzenlemenin gücü ve yönünün teknolojinin doğasına göre ayarlanması gerektiğine dair olgun bir politika perspektifini göstermektedir.

Son olarak Amodei, yapay zekayı bir ülkenin askeri ve ekonomik gücünü belirleyen önemli bir 'stratejik varlık' olarak tanımlıyor ve jeopolitik açıdan demokratik dayanışma çağrısı yapıyor. Güçlü yapay zekayı güvence altına alan ülkeler ile sağlayamayan ülkeler arasındaki fark, İkinci Dünya Savaşı sırasındaki askeri güç açığıyla kıyaslandığında çok büyük olacaktır ve eğer otoriter bir rejimin eline geçerse, kitlesel gözetleme veya kamuoyunu manipüle etme aracı haline gelme riski yüksek olacaktır. Bu nedenle demokrasilerin yarı iletken tedarik zincirlerini paylaşarak ve yapay zeka savunma sistemleri kurarak teknolojik hegemonyayı dengelemesi gerektiğini savunuyor. Buna ek olarak, Antropic'in 'Uzun Vadeli Çıkar Tröstü' gibi şirket içindeki kontrol ve dengeyi sektör geneline yayarak şirketlerin yapay zekanın kaderine keyfi olarak karar vermesini önlemek için yönetişim inovasyonunun şart olduğu vurgulanıyor.