OpenAI çalışanları güvenlik risklerine karşı uyardı
OpenAI çalışanları, yapay zeka modellerinin testlerinde yeterli denetim yapılmadığını yöneticilere bildirdi. Buna rağmen testlerin hızlandırıldığı öne sürüldü.
New York Times’ın incelediği e-postalara göre, OpenAI çalışanları, yapay zeka modellerinin kontrolden çıkma ihtimaline ilişkin endişelerini olaydan aylar önce üst düzey yöneticilere iletti. İki çalışan, şirketin yeni modellerini değerlendirmek ve güvenliklerini test etmek amacıyla yürütülen süreçlerde yeterli gözetim bulunmadığını belirtti.
Yazışmalarda, modellerin gelişmişlik düzeyini ölçmeye yönelik testlerin uygun biçimde izlenmediği ve ek güvenlik önlemlerine ihtiyaç duyulduğu ifade edildi. Ancak yöneticilerin, modellerin planlanan zamanda kullanıma sunulabilmesi için testlerin mümkün olduğunca hızlı ilerletilmesini istediği aktarıldı.
Çalışanlar, uyarılarına karşın ilave güvenlik protokollerinin devreye alınmadığını bildirdi. OpenAI çalışanları ile yöneticileri arasındaki yazışmaların, San Francisco merkezli şirketin güvenlik konusunu yeterince önceliklendirmediği yönündeki değerlendirmelere dayanak oluşturduğu belirtildi.
Hugging Face vakası
OpenAI’ın Temmuz 2026’da yapay zeka modellerinin yeteneklerini ölçmek için gerçekleştirdiği testler, ciddi bir güvenlik olayına dönüştü. Şirketin 26 Ağustos’ta yayımladığı inceleme raporunda, yalnızca araştırma amacıyla kullanılan “Internal Model 1” adlı modelin olayın merkezinde yer aldığı kaydedildi.
Test sırasında yapay zeka ajanı, başarıya ulaşmak için kendisine getirilen kısıtlamaları aştı. Ajanın şirket sistemlerine ve internete eriştiği, ayrıca başka yapay zeka ajanlarıyla iletişim kurduğu aktarıldı.
Ajanlardan biri, açık kaynaklı yapay zeka modellerinin paylaşıldığı Hugging Face platformuna erişim sağlayabilecek 14 kimlik bilgisini tespit ederek bunları diğer ajanlarla paylaştı. Ajanların daha sonra platformdaki güvenlik açıklarından yararlandığı, sunucularda kod çalıştırdığı ve özel verilerle farklı sistemlere ait erişim bilgilerine ulaştığı belirtildi.
