Replicate'de video'lardaki NSFW içeriğinin otomatik olarak tespit edilmesini sağlayan bir araç başlatıldı

Geliştiriciler, video akışındaki uygun olmayan içeriğin otomatik araması için Stable Diffusion mimarisine dayalı özel bir araç olan video-nsfw-filterı sundu.

Sistem, kare kare işleme yoluyla videoyu analiz ediyor ve her parçaya NSFW materyallerinin var olma olabilirlik katsayısını atıyor. Çıkışta, kullanıcı her kontrol edilen kare için toplam değerlendirmeleri ve isteğe bağlı olarak tespit edilen ihlalleri gösteren yapılandırılmış bir JSON raporu alıyor.

Modelin teknik uygulaması örnekleme örneklemesi yöntemine dayanmaktadır: algoritma videoyu kare kare değil, ayrı ayrı parçaları kontrol eder, bu da uzun videoların işlenmesinde hesaplama maliyetlerini optimize etmesini sağlar. Şu anda araçların mevcut sürümünün yalnızca görsel içeriğe odaklandığı ve sesi görmezden geldiği dikkate alınmalıdır.

Araç, geliştiricilerin kendi video hizmetlerine veya içerik kontrol sistemlerine otomatik moderasyonu entegre etmelerine olanak tanıyan Replicate platformu aracılığıyla entegre edilmek üzere kullanılabilir. Modelin kullanımı, platformun bulut altyapısına API istekleri gerektirir.

Bu tür çözümler, kullanıcı tarafından oluşturulan içeriğin önceden moderasyon sürecini otomatikleştirir ve el ile kontrol hizmetlerinin yükünü azaltır. Stable Diffusionun bir sınıflandırıcı olarak kullanılması, video verilerine özgü yüksek doğrulukta desen tanıma sağlar.