Google’ın Jigsaw’u, çevrimiçi platformların aşırı içerikleri ayıklamasına yardımcı olmak için Altitude’u açık kaynaklı hale getiriyor
Google’ın kuluçka merkezi iştiraki Jigsaw, daha küçük şirketlerin çevrimiçi platformları aracılığıyla paylaşılan aşırı içeriklerle mücadele etmesine yardımcı olmak için tasarlanmış bir terörle mücadele aracını açık kaynaklı hale getirdi.
Meta, X ve Google’ın kendisi de dahil olmak üzere büyük teknoloji şirketlerinin çoğu, yasadışı veya toksik içerikleri ayıklamak için içerikleri denetleme konusunda oldukça bilgili olsa da, bunu yapmak için gereken kaynaklar birçok küçük dijital oyuncunun imkanlarının ötesindedir. Bu, Avrupa’nın Dijital Hizmetler Yasası (DSA) ve terörizme özgü içerik kuralları gibi mevzuatların şirketleri yasadışı içeriği derhal kaldırma konusunda artan bir baskı altına soktuğu bir zamanda özellikle sorunludur.
2016’da yeniden markalaşmadan önce Google Ideas olarak bilinen Jigsaw, dezenformasyon, sansür ve çevrimiçi ortamda toksisite ve aşırılıkçı içeriklerin yayılması gibi toplumsal sorunları ele alan yeni ürünler geliştirmeye ve denemeye odaklanmıştır. Geçtiğimiz Kasım ayında Jigsaw, moderatörlerin platformlarındaki içeriğin üçüncü taraf veritabanlarında işaretlenen içerikle eşleşip eşleşmediğini doğrulamalarına yardımcı olan Altitude adlı yeni bir çevrimiçi içerik moderasyon aracı duyurdu; her bir kaynağı tek tek kontrol etmek zorunda kalmak yerine.
Altitude, Birleşmiş Milletler Terörle Mücadele Komitesi Yürütme Müdürlüğü (CTED) tarafından 2017 yılında başlatılan bir girişim olan Tech Against Terrorism ile ortaklaşa geliştirildi. Tech Against Terrorism’in görevi, teröristlerin zararlı içerik yaymak için interneti kullanmalarını engellemek için daha etkili araçlar geliştirmede teknoloji sektörünü desteklemektir. Araç ayrıca, büyük teknoloji şirketlerinin çoğunu üye olarak sayan sektör liderliğindeki Global Internet Forum to Counter Terrorism (GIFCT) ile ortaklaşa geliştirildi.
Dokuz ay geçti ve Jigsaw artık Altitude’u resmi olarak Tech Against Terrorism’e devrediyor, bu da geliştirme ve bakımını sürdürecek. Kod artık Apache 2.0 lisansı altında GitHub’da da mevcut, yani şirketler aracı kendi kendilerine barındırabiliyor ve üçüncü taraflar kodu inceleyebiliyor.
Altitude nasıl çalışır?
Altitude, GIFCT gibi üyelerin, otomatik içerik denetleme araçlarını (Altitude gibi) destekleme amacıyla kendi özel bilgilerini bir araya getirdiği ve Tech Against Terrorism’in kendi Terörist İçerik Analitiği Platformu olan gerçek zamanlı, doğrulanmış terörist içerik veritabanı gibi “güvenilir” veri kaynaklarına dayanır. Güvenilir kaynaklar, bu tür içerikleri kendi yöntemlerini kullanarak belirler ve işaretler.
Altitude, bu veritabanlarına akarak, “terörist ve şiddet yanlısı aşırılıkçı içerik” (TVEC) olarak adlandırdığı içeriği tek bir görünümde birleştiriyor ve moderatörler, içerikleri hızlı bir şekilde görüntüleyebiliyor, inceleyebiliyor ve kaldırabiliyor ve faaliyet gösterdikleri yargı alanındaki yükümlülüklerine uyabiliyor. Hiçbir içeriğin otomatik olarak kaldırılmadığını belirtmekte fayda var, her şey işaretlemek ve insanların değerlendirmesi için potansiyel aşırılıkçı içeriklere ilişkin uyarılar sağlamakla ilgili.
Ne Jigsaw ne de Tech Against Terrorism, Altitude’un ilk test döneminde hangi platformları kullandığını açıklamadı; ancak onu kullanma olasılığı en yüksek olan uygulama türleri arasında mesajlaşma uygulamaları, URL kısaltma servisleri, video barındırma siteleri, çevrimiçi forumlar, sosyal ağlar ve pastebin’ler yer alıyor.
Jigsaw Pazartesi günü yazdığı blog yazısında şunları yazdı:
Bir yıl boyunca Jigsaw, farklı büyüklüklerdeki on bir platformda kurucular, güven ve emniyet liderleri ve TVEC içerik incelemecileriyle görüşmeler gerçekleştirdi. Platformlar arasında resim paylaşım platformları, sosyal medya siteleri, URL kısaltma hizmetleri ve dosya ve metin depolama siteleri yer alıyordu. Platformların TVEC’yi yönetmek için kaynak ve hazırlık ölçeğinde var olduğunu ve bu hazırlık düzeyinin kuruluşlarının veya kullanıcı tabanlarının büyüklüğüyle düzgün bir şekilde ilişkili olmadığını bulduk. Nispeten olgun hizmetler bile bazen platformlarındaki zararları proaktif bir şekilde belirlemek için sinyallerden yoksundu. Ayrıca, sonunda tüm araçları şirket içi bir platforma entegre etmeyi tercih etseler de, özel zararlar için ayrı bir arayüzün yetersiz kaynaklı bir ortamda başlamak için bir yol sağlayabileceğini gördük.
Açık kaynaklı bir proje olması nedeniyle herhangi bir şirket Altitude’u kendi platformlarına entegre edebilir veya “özel yerleştirme desteğine” erişmek için Tech Against Terrorism ile çalışabilir.
Jigsaw ve Tech Against Terrorism, gelecekte veri kaynaklarına “özel veritabanları” ekleyebileceklerini ve aracı İngilizcenin ötesine genişletmeyi planladıklarını söylüyor.
Kaynak: https://techcrunch.com/2024/07/22/googles-jigsaw-open-sources-altitude-to-help-online-platforms-weed-out-extremist-content/