Apple, App Store'da Yapay Zeka ile Çıplak Görüntü Üretenleri Yasakladı

Apple, 16 Ekim'de duyurduğu App Store Review Guidelines güncellemeleriyle birlikte yapay zeka kullanılarak izinsiz cinsel içerikli veya çıplak görseller oluşturan yazılımlara yönelik sıkı yasaklar getirdi. Şirket, kullanıcı içeriklerini barındıran platformların güvenliğini artırmak amacıyla mevcut kurallara yeni yükümlülükler ekledi.

App Store Güvenlik ve İçerik Kuralları

Güncellenen 1.2 numaralı kural kapsamında geliştiricilerin, kişilerin rızası olmadan hazırlanan cinsel içerikli görüntüleri proaktif olarak engellemesi ve tespit edilenleri kaldırması gerekiyor. Yazılım sahipleri yalnızca şikayet sonrasında müdahale etmekle yetinemeyecek. Ayrıca inceleme sürecini atlatmak amacıyla onay aldıktan sonra gizlice yeni özellikler ekleyen uygulamalar da 2.5.19 numaralı kural ile yasaklandı. Kurallara uymayan veya şikayetleri dikkate almayan geliştiriciler App Store'dan çıkarılabilecek ve üyelikleri sonlandırılabilecek.

• İzinsiz yapay zeka cinsel içeriklerinin proaktif olarak engellenmesi
• Onay sonrası zararsız görünümlü özellikleri değiştiren yazılımların yasaklanması
• Çocuk istismarı ve insan ticareti barındıran uygulamaların mağazadan kaldırılması
• İhlalde bulunan geliştiricilerin Apple Developer Program üyeliklerinin iptal edilmesi

Güvenlik İstatistikleri ve Arka Plan

Yeni düzenlemeler, yıl boyunca yapay zeka ile üretilen sahte içerikler sebebiyle Apple'a yöneltilen eleştirilerin ardından hayata geçirildi. Haziran ayında protestocular mağazadaki belirli araçların kaldırılmasını talep etmiş, Temmuz ayında ise San Francisco Şehir Savcısı David Chiu izinsiz çıplaklık üreten uygulamaların kaldırılmasını istemişti. Bu süreçte Apple, güvenlik sorunları nedeniyle geçtiğimiz yıl 150 binden fazla uygulamanın yayına girmesini engellerken, 193 binden fazla geliştirici hesabını da kapattığını duyurdu.

Analiz

Apple'ın App Store kurallarını bu şekilde sertleştirmesi, yapay zeka teknolojilerinin kötüye kullanımının dijital mağazalar üzerindeki baskısını açıkça gösteriyor. Şirketin reaktif yaklaşımdan proaktif denetime geçiş zorunluluğu getirmesi, geliştiricilerin sorumluluk alanını genişletirken, denetim mekanizmalarını aşmaya çalışan yazılımlara karşı platform güvenliğini koruma çabasını yansıtıyor.