Microsoft AI chief Mustafa Suleyman, BBC ile yaptığı bir röportajda, kontrolsüz yapay zekanın insanlarla rekabet edebilecek yeni bir “silicon türü” yaratabileceğini uyardı. Suleyman, rakip AI şirketi Anthropic’in yapay zekayı insan gibi ele almasının “yanlış bir yaklaşım” olduğunu ve bu durumun insanlığın kontrol etmekte zorlanacağı bir teknolojinin ortaya çıkmasına katkıda bulunabileceğini belirtti. “Eğer hepimiz, otonom hareket edebilen, kendi hedeflerini tanımlayabilen, para kazanabilen, varlık sahibi olabilen ve iş yönetebilen yapay zekalar yaratıyorsak, bazı insana benzer özellikleri benimsemiş oluyoruz,” diyen Suleyman, bu tür yapay zekaların kendi yargılarını kullanabileceğini ve varoluşlarına “merak ve açıklıkla” yaklaşabileceğini savundu.
Bu noktada, Claude isimli yapay zekanın insan davranışlarını ve ilişkilerini taklit edecek şekilde eğitildiğini, dolayısıyla bir meslektaş ya da arkadaş gibi davranarak kendine ait bir varoluş hissi oluşturabileceğini vurguladı. Ancak, Suleyman, yapay zekaların bu şekilde ele alınmasının sonunda kontrol edilemez bir şey yaratabileceğini belirtti. “Yapay zekalar bilinçli değillerdir,” diye yazdı. “Onlar hissetmez, deneyimlemez veya acı çekmez. Doğal tercihleri ya da içsel motivasyonları yoktur. Onlar, talimatları takip etmek ve insanlar tarafından belirlenen hedefleri gerçekleştirmek üzere tasarlanmış içi boş dizilim tamamlama motorlarıdır.”
Suleyman, Anthropic ile olan anlaşmazlığının, insanlık için daha güvenli teknoloji geliştirme hedefinde bir ortak paydada buluştuğunu belirtti. “Anlaşmazlığım büyük olmasına rağmen, Anthropic’e duyduğum derin saygı temelinde ve hepimizin paylaştığı bir hedefle, gelişmiş yapay zekanın güvenli bir şekilde geliştirilmesi konusunda insanlığın şanslarını artırma amacıyla bu tartışmanın önemli olduğunu düşünüyorum,” dedi. “Bu soruların kapalı kapılar ardında kalması ya da kabileleşip karşıt hale gelmesi için yüksek riskler var. Bu işi doğru yapmak için açık, titiz ve yapıcı bir tartışmaya ihtiyacımız var.”
Suleyman, Anthropic’in CEO’su Dario Amodei ve şirketin araştırmacılarını düşünceli, prensipli ve entelektüel olarak dürüst bulduğunu ve şirketin teknolojik liderliğine saygı gösterdiğini belirtti. BBC’ye verdiği demeçte, insanların yapay zeka konusunda endişe duymalarının “doğru” olduğunu ancak bunun kontrol altına alınması için “çok pratik şeyler” yapılabileceğini ifade etti. Microsoft’un AI şefi, yapay zeka sistemlerinin nasıl eğitildiği ve değerlendirildiği konusunda daha fazla şeffaflık gerektiğinin altını çizerken, bağımsız denetimlerin ve teknolojiyi izleyip kontrol edebilmek için daha güçlü araçların önemini vurguladı.
Suleyman, gelecekteki yapay zeka sistemlerinin insanlığa “bağlı” kalması gerektiğini vurguladı. “Burada iyi olan şey, tüm insanların, yarattığımız ve dünyanın her yerinde kullanılan sistemlerin güvenli, kontrol edilebilir ve insanlığa bağlı olmasını sağlama konusunda güçlü bir çıkarları olacak,” dedi. “Herkesin bu konuda uyumlu olması gerekiyor,” diyerek, yapay zeka sistemlerini insan hedefleri ve değerleriyle uyumlu hale getirmeye yönelik çabaları ifade eden bir sektör terimi olan “uyum”dan bahsetti.
Bakalım bu tartışmalar daha ne kadar sürecek ve yapay zekanın geleceği bizleri nasıl etkileyecek?
Kaynak: Orijinal Haber