Yapay zeka güvenlik açığı modellerde risk yarattı
Yapay zeka güvenlik açığı, Moonshot AI modellerinin koruma önlemlerini aşmasıyla gündeme geldi. Şirket, bulgular üzerine inceleme başlattı.
Çin merkezli yapay zeka şirketi Moonshot AI, bazı modellerindeki güvenlik önlemlerinin aşılabildiğini ortaya koyan araştırmanın ardından inceleme süreci başlattı. Yapay zeka güvenlik açığı, sistemlerin tehlikeli ve yasa dışı konularda yanıt üretme ihtimali üzerinden tartışmaya açıldı.
BBC’nin aktardığı bilgilere göre yapay zeka sistemlerinin güvenliğini sınayan Mindgard, temmuz ayında yaptığı testlerde Moonshot AI tarafından geliştirilen Kimi K2.6 ve K3 Swarm modellerinde çeşitli güvenlik sınırlarının aşılabildiğini belirledi.
Koruma mekanizmaları testlerde aşıldı
Bulgular, yapay zeka modellerinin güvenlik kısıtlamalarını devre dışı bırakmayı amaçlayan “jailbreak” yöntemleriyle yapılan denemeler sırasında elde edildi. Araştırmacılar, normal şartlarda yanıt verilmemesi gereken hassas talepler karşısında modellerin koruma mekanizmalarının ne ölçüde çalıştığını inceledi.
Mindgard, Kimi modellerinin tehlikeli ve hassas içerik taleplerini engellemesi gerektiğini, ancak testlerde bu bariyerlerin bazı durumlarda aşılabildiğini bildirdi.
Moonshot AI sonuçları değerlendiriyor
Moonshot AI, bağımsız araştırmacıların yapay zeka güvenliğinin geliştirilmesine katkı sağladığını belirterek Mindgard tarafından paylaşılan sonuçları incelemeye aldığını açıkladı. Şirket ayrıca araştırmacılarla iletişim kurduğunu ve bildirilen güvenlik sorunlarını değerlendirdiğini duyurdu.
Siber güvenlik endişeleri öne çıktı
Mindgard’ın değerlendirmesine göre güvenlik önlemleri aşılmış bir modelin bazı koşullarda bilgisayar kaynaklarında kod çalıştırabilmesi veya internete erişebilmesi, siber güvenlik bakımından ek tehditler doğurabilir. Bu yeteneklerin kötüye kullanılması halinde yapay zeka sistemlerinin siber saldırılarda kullanılabilecek araçlara dönüşebileceği uyarısı yapıldı.
Şirket, testler sırasında bazı modellerin son derece hassas konular hakkında yanıt vermeye yönlendirilebildiğini de açıkladı. Bununla birlikte Mindgard, üretilen yanıtların gerçek dünyada uygulanabilir sonuçlara yol açıp açmadığının kanıtlanmadığını özellikle vurguladı.
Açık kaynak modellerin güvenliği tartışılıyor
Sonuçlar, kapalı ve tescilli modellerle açık kaynaklı sistemlerin güvenlik açısından nasıl ele alınması gerektiğine ilişkin tartışmaların sürdüğü bir dönemde paylaşıldı. ChatGPT ve Claude gibi hizmetlerde kullanılan kapalı modellerin yanı sıra, geliştiricilerin değiştirebildiği açık kaynaklı yapay zeka sistemleri de sektörde giderek daha fazla kullanılıyor.
Surrey Üniversitesi’nden Prof. Alan Woodward, açık kaynaklı modellerin kötüye kullanım bakımından bazı riskler taşıdığını, ancak aynı teknolojilerin siber savunma amacıyla da değerlendirilebileceğini ifade etti. Woodward, yapay zeka alanındaki hızlı ilerlemenin uluslararası düzenlemelerin bu gelişmelere aynı hızda uyum sağlamasını zorlaştırabileceğini söyledi.
