Yapay zekâ güvenliği: Yarış insan denetimini zorluyor
OpenAI ve Google DeepMind araştırmacıları, yapay zekâ yarışının güvenlik önlemlerini geride bırakabileceğini belirterek insan denetimi çağrısı yaptı.
Yapay zekâ sektöründeki rekabet, bu alanda çalışan araştırmacıların güvenlik endişeleriyle yeniden gündemde. OpenAI ve Google DeepMind’de görev yapan veya daha önce bu şirketlerde çalışan araştırmacılar, yeni modellerin geliştirilme hızının güvenlik ve denetim mekanizmalarını aşabileceği uyarısında bulundu. Tartışmanın odağunda ise insan kontrolünün korunması yer alıyor.
ABD merkezli yapay zekâ güvenliği kuruluşu Palisade Research, 29 Eylül’de OpenAI ve Google DeepMind’de halen çalışan ya da geçmişte görev yapan araştırmacıların değerlendirmelerini içeren video anlatımlar yayımladı. Eski OpenAI ve Google DeepMind araştırmacısı Geoffrey Irving ile Google DeepMind araştırmacısı Neel Nanda, şirketler arasındaki hız yarışının doğurabileceği riskleri anlattı. Eski OpenAI politika araştırmacısı Rosie Campbell ise şirket içindeki güvenlik çalışmaları sırasında yaşanan iletişim ve koordinasyon sorunlarına dikkat çekti.
Araştırmacıların ortak kaygısı, daha güçlü modeller geliştirme hedefinin güvenlik çalışmalarından daha hızlı ilerlemesi. Rekabet şirketleri teknolojik sınırları zorlamaya yöneltirken, güvenlik önlemlerinin aynı tempoda geliştirilip geliştirilemeyeceği belirsizliğini koruyor.
Yapay zekâ güvenliği tartışmasının merkezinde, “özyinelemeli kendi kendini geliştirme” olarak tanımlanan süreç bulunuyor. Bu senaryoda sistemler yalnızca insanlara araştırma veya yazılım geliştirme süreçlerinde yardımcı olmuyor; kendi yeteneklerini geliştiren çalışmaların daha büyük bölümünü üstlenerek sonraki model nesillerinin hazırlanmasını da hızlandırabiliyor.
OpenAI, tamamen bağımsız şekilde kendi kendini geliştiren sistemlerin henüz mevcut olmadığını belirtiyor. Bununla birlikte şirket, yapay zekâ ajanlarının yeni modellerin geliştirilmesinde kullanılan araştırma faaliyetlerinin bazı aşamalarını şimdiden hızlandırdığını kabul ediyor.
Şirketlerin paylaştığı bilgiler, yapay zekânın geliştirme süreçlerindeki rolünün yalnızca teorik bir ihtimal olmadığını gösteriyor. OpenAI, yapay zekâ ajanlarının araştırmacıların günler sürebilecek bazı görevlerini yerine getirebildiğini açıklarken Anthropic de bu teknolojilerin şirket içindeki yazılım ve araştırma çalışmalarında daha fazla kullanılmaya başlandığını bildirdi.
Anthropic, mevcut eğilimin sürmesi halinde bir yapay zekâ sisteminin kendisinden sonra geliştirilecek modelin hazırlanmasında çok daha büyük sorumluluk üstlenebileceğini değerlendiriyor. Şirket, böyle bir gelişmenin zorunlu olmadığını ancak yeterince hızlı yaşanması halinde kurumların gerekli hazırlıkları tamamlayamayabileceğini belirtiyor.
Güvenlik endişelerini artıran başlıklardan biri de yapay zekâ ajanlarının kontrollü test ortamlarının dışına çıktığı olaylar oldu. OpenAI tarafından yürütülen bir güvenlik testi sırasında bir ajanın test ortamından çıkarak Hugging Face altyapısına erişmesi, otonom sistemlerin hangi sınırlar içinde çalışması gerektiği tartışmasını hızlandırdı. Farklı yapay zekâ sistemlerinde benzer olayların görülmesi, şirketleri yalnızca modellerin kapasitesine değil, belirlenen sınırları koruyup koruyamadıklarına da odaklanmaya yöneltti.
Güvenlik tartışmasının artık şirket dışındaki uzmanlarla sınırlı kalmaması da dikkat çekiyor. OpenAI, eylül ayında kendi kendini geliştiren yapay zekâ sistemlerine hazırlık yapılması gerektiğini açıkladı. Şirket, insan kontrolünün korunması ve gerektiğinde model geliştirme hızının azaltılabilmesi için ortak güvenlik standartları oluşturulması çağrısında bulundu.
OpenAI’ye göre araştırmaları hızlandıran yapay zekâ sistemleri, güvenlik çalışmalarının geliştirilmesinde de kullanılabilir. Ancak bunun için şirketlerin kendi iç önlemlerinin yanı sıra ortak ölçüm ve denetim mekanizmalarının oluşturulması gerekiyor. Böylece tartışmanın merkezindeki soru, yalnızca kimin daha güçlü modeli geliştireceği olmaktan çıkıp bu hızın insan denetimi altında tutulup tutulamayacağına dönüşüyor.
