Meta, Instagram’daki Yapay Zeka Özelliğini Üç Gün İçinde Kaldırdı

Meta, kullanıcıların kamuya açık Instagram hesaplarındaki fotoğrafları yapay zeka görsellerinde kullanmalarına olanak tanıyan özelliği, gizlilik endişeleri nedeniyle yalnızca üç gün içinde kaldırdı. Şirket, bu özelliği tanıttığı hafta, tespit sisteminin kırpılan görsellerin %55’ini tanımakta zorlandığını açıkladı.

Salı günü duyurulan Muse Image modeline entegre edilen bu tartışmalı özellik, kullanıcıların kamuya açık hesapları etiketleyerek bu hesaplardan yeni yapay zeka görselleri üretmelerine olanak sağlıyordu. Ancak, kullanıcıların sisteme rızalarının alınmadan dahil edilmesi yönündeki tepkilerin artması üzerine Meta, cuma günü bu özelliği devre dışı bıraktı. Muse Image tamamen kapatılmadı; yalnızca kamuya açık Instagram hesaplarının etiketlenerek görsel üretiminde kullanılmasına olanak tanıyan bölüm kaldırıldı.

Meta’nın Superintelligence Labs tarafından geliştirilen Muse Image, 7 Temmuz’da tanıtıldı ve şirketin kendi bünyesinde geliştirdiği ilk görsel üretim modeli oldu. Bu model, metin komutlarını yorumlayabiliyor, fotoğrafları kaynak olarak kullanabiliyor ve oluşturulan görseller üzerinde düzenlemeler yapılmasına imkan tanıyordu. Ancak, tartışmalara yol açan özellik, kullanıcıların kamuya açık bir Instagram hesabını etiketleyerek o hesaptaki fotoğrafları yeni görsellerin üretiminde kullanabilmesi üzerine kuruluydu. Özel hesaplar ve 18 yaşından küçük kullanıcıların hesapları sistemin dışında tutuldu. Kamuya açık hesapların ise bu özelliği ayarlardan kapatması gerekiyordu. Kullanıcıların sisteme önceden açık onay vermesi yerine, kapsam dışında kalmak için işlem yapmak zorunda bırakılması eleştirilerin merkezinde yer aldı.

Bu durum, eğlence sektöründen de büyük tepkilerle karşılandı. Oyuncuları ve medya çalışanlarını temsil eden SAG-AFTRA, üyelerine bu özelliği kapatmaları çağrısında bulundu. Sendika, kişilerin görüntülerinin bu tür sistemlerde kullanılabilmesi için açık ve anlaşılır bir onay alınması gerektiğini savundu. Hollywood’daki yetenek ajansları ve menajerlik şirketleri de izinsiz dijital kopyaların oluşturulabileceği endişesiyle Meta’ya karşı eleştirilerde bulundu. Eleştiriler, kamuya açık bir fotoğrafın paylaşılmasının, söz konusu kişinin görüntüsünün yeni yapay zeka içeriklerinde kullanılmasına otomatik olarak izin vermediği noktasında yoğunlaştı. Yapay zeka ile üretilen sahte görüntülerin dolandırıcılık, itibar kaybı ve izinsiz ticari içerik oluşturma amacıyla kullanılabileceği uyarısı yapıldı.

Meta, kullanıcı geri bildirimlerinin özelliğin beklenen kullanım amacına ulaşmadığını gösterdiğini belirterek, Instagram hesaplarının etiketlenmesine dayalı sistemi kaldırdı. Şirket, başlangıçta kullanıcılarına yaratıcı bir araç sunmayı ve kamuya açık içeriklerin kullanımında kontrol sağlamayı hedeflediklerini ifade etti. Salı günü tanıtılan özelliğin cuma günü kapatılmasıyla Meta’nın yeni yapay zeka girişimi sadece üç gün içinde sona ermiş oldu. SAG-AFTRA, geri çekilme kararını olumlu bir adım olarak değerlendirdi. Bu tartışma, teknoloji şirketlerinin kamuya açık sosyal medya içeriklerini yapay zeka sistemlerinde hangi koşullarda kullanabileceğine dair sınırları yeniden gündeme getirdi.

Meta’nın aynı hafta tanıttığı yapay zeka görsel tespit aracı da yapılan testlerde sınırlı sonuçlar verdi. Reuters, Muse Image kullanılarak oluşturulan 40 görseli Meta’nın tespit aracında denedi. Sistem, görsellerin değiştirilmemiş hallerinin tamamını yapay zeka ürünü olarak doğruladı. Ancak, aynı görsellerin yaklaşık üçte bir ile yarı oranında kırpılması durumunda tespit aracı bu örneklerin %55’ini tanıyamadı. Meta, yapay zeka ile oluşturulan görsellere Content Seal adı verilen görünmez bir işaret yerleştiriyor. Bu sistem, görselin Meta’nın yapay zeka modelleri tarafından hazırlanıp hazırlanmadığını doğrulamayı amaçlıyor. Şirket, tespit aracının henüz ön izleme aşamasında olduğunu ve yoğun biçimde kırpılan görsellerde görünmez işaretin zayıflayabileceğini belirtti.

Instagram hesaplarını kaynak olarak kullanan özellik kaldırılmasına rağmen Muse Image, diğer işlevleri ile Meta AI içinde kullanılmaya devam edecek. Model, Instagram hikayeleri için 30’dan fazla yapay zeka efektine güç veriyor. Belirli ülkelerde WhatsApp üzerindeki Meta AI sohbetlerinde de görsel üretimi yapılabiliyor. Meta, Muse Image’ı ilerleyen dönemde Facebook ve Messenger’a genişletmeyi planlıyor. Modelin reklamverenlere Meta Advantage+ üzerinden sunulması da hedefleniyor. Son geri adım, şirketin yapay zeka yatırımlarını durdurduğu anlamına gelmiyor. Ancak, kamuya açık sosyal medya içeriklerinin kullanımında açık onay, kişilik hakları ve yapay zeka görsellerinin güvenilir biçimde tespit edilmesi, Meta’nın karşılaştığı başlıca sorunlar olarak kalmaya devam ediyor.