Yapay Zeka Devlerinden Dev Adım: OpenAI ve Anthropic, Geleceği Şekillendirecek Teknolojilere 'Fren' Çekiyor!
Yapay zeka dünyasının iki devi OpenAI ve Anthropic, geliştirdikleri ileri seviye yapay zeka sistemlerinin potansiyel risklerine karşı kolluk kuvvetlerine ve teknoloji dünyasına yönelik çığır açıcı önerilerde bulundu. Teknoloji devleri, kontrolsüz gelişmelerin önüne geçmek için radikal çözümler sunuyor.
Yapay Zeka Dünyasında Tarihi Bir Çağrı: Güvenlik İçin Devlerden Ortak Adım
Yapay zeka teknolojilerinin hızla geliştiği günümüzde, bu alandaki iki öncü kuruluş olan OpenAI ve Anthropic, insanlığın geleceğini şekillendirecek bu güçlü teknolojilerin kontrolsüz bir şekilde ilerlemesinin önüne geçmek amacıyla önemli bir adım attı. İki şirket, Kaliforniya Valiliği'ne sundukları raporlarda, son derece gelişmiş yapay zeka sistemlerinin potansiyel tehlikelerine karşı önleyici mekanizmalar geliştirilmesi çağrısında bulundu. Bu adım, yapay zeka etiği ve güvenliği konusundaki tartışmalara yeni bir boyut kazandırırken, sektördeki diğer oyunculara da örnek teşkil etmesi bekleniyor.
Farklı Yaklaşımlar, Tek Bir Hedef: Kontrollü Gelişim
Kaliforniya Valisi Gavin Newsom'un 18 Eylül'de imzaladığı ve devlet kurumlarından en güçlü yapay zeka sistemleri için ek güvenlik önerileri hazırlamasını talep eden N-9-26 sayılı kararnameye yanıt veren iki teknoloji devi, önerilerini 16 Kasım'a kadar sundu. Her iki şirket de temel hedefin yapay zekanın güvenli ve sorumlu bir şekilde geliştirilmesi olduğunu vurgularken, bu amaca ulaşmak için izlenmesi gereken yollar konusunda farklı stratejiler benimsedi.
Anthropic'in Mahkeme Yoluyla Müdahale Vurgusu
Anthropic, eyaletin başsavcısına, tehlikeli olarak nitelendirilebilecek yapay zeka sistemlerinin kullanımını mahkeme kararıyla durdurma yetkisi verilmesini öneriyor. 15 Ekim tarihli raporunda şirket, geliştiricilerin güvenlik iddialarının bağımsız kurumlarca değerlendirilmesi gerektiğini savunuyor. Bu değerlendirmelerin sonuçlarının kamuoyu ile paylaşılmasını talep eden Anthropic, şirketlere en az altı ayda bir risk raporu yayımlama yükümlülüğü getirilmesini de istiyor. Özellikle kurum içinde kullanılan modellerin kamuya açık sürümlerinden belirgin şekilde daha güçlü olması durumunda, bu modellerin taşıdığı risklerin de raporlanması gerektiği belirtiliyor. Anthropic ayrıca, riskler göz önüne alındığında mahkemeye başvurarak sistemin geçici olarak durdurulması gibi bir mekanizmayı savunuyor. Şirket, bu sürecin eyalet tarafından yönetilecek ortak bir fonla finanse edilmesini ve bağımsız değerlendiricilerin, modellerin yanı sıra geliştiricilerin iç bilgilerine de erişebilmesini öngörüyor.
OpenAI'ın 'Acil Kapatma Mekanizmaları' Savunusu
Diğer yandan OpenAI, 20 Ekim tarihli mektubunda, geliştiricilerin zorunlu tutulacak acil kapatma mekanizmalarını savunuyor. Şirket, her yapay zeka sistemi için tek bir 'kill switch' olmasa da, duruma göre model eğitiminin durdurulması, bir yapay zeka ajanının izole edilmesi, araç veya ağ erişiminin kesilmesi ya da hizmetin askıya alınması gibi çeşitli yöntemlerin kullanılabileceğini belirtiyor. OpenAI, bağımsız teknik değerlendirmeyi desteklemekle birlikte, bu sürecin kurallara uyum denetiminden ayrılmasını öneriyor. Şirket, teknik incelemelerin modellerin güvenliğine ve koruma önlemlerinin etkinliğine odaklanırken, denetimin ise şirketin belirlediği kurallara ve yasal yükümlülüklere uyulup uyulmadığını kontrol etmesi gerektiğini savunuyor. OpenAI, bağımsız denetimin yılda bir kez yapılmasını, ancak ciddi riskler ortaya çıktığında teknik incelemelerin daha sık gerçekleştirilmesini talep ediyor. Ayrıca, Kaliforniya'nın ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) ile ortak değerlendirme standartları geliştirmesi de öneriler arasında yer alıyor. Şirket, sorumlulukların geliştiriciler, bilişim hizmeti sağlayıcıları ve modelleri kullanan şirketler arasında etkin yönetime göre paylaşılmasını da vurguluyor.
Ortak Noktalar ve Geleceğe Yönelik Adımlar
Her iki şirket de, yapay zeka sistemlerinin beklenmedik davranışlar sergilemesi veya koruma sınırlarını aşması gibi durumlarda olay raporlamasının genişletilmesi konusunda hemfikir. Bu tür durumların gecikmeksizin raporlanması, olası risklerin hızla tespit edilip önlem alınması için büyük önem taşıyor. Analistler, bu önerilerin, yapay zeka teknolojilerinin gelecekteki gelişiminde kritik bir rol oynayacağını ve etik kuralların daha sıkı bir şekilde uygulanmasına zemin hazırlayacağını düşünüyor. 16 Kasım'da sona erecek öneri sürecinin ardından Kaliforniya yönetiminin nasıl bir yol izleyeceği ise merakla bekleniyor.
Ceren Güneş
Teknoloji & Gelecek Vizyonu
Bu yazı yazarımızın sitemizde yayınlanan köşe yazılarından biridir. Yazarımıza ait diğer tüm köşe yazılarına ve analizlere yukarıdaki bağlantıdan ulaşabilirsiniz.