Bir yazılım geliştiricisi, Google DeepMind'ın SynthID sistemini tersine mühendislikle çözdüğünü ve yapay zekâ filigranlarının oluşturulan görüntülerden nasıl kaldırılabileceğini veya diğer çalışmalara nasıl manuel olarak eklenebileceğini gösterdiğini iddia ediyor. Google'a göre bu iddia doğru değil.

Foto

Aloshdenny kullanıcı adıyla bilinen geliştirici , çalışmalarını GitHub'da açık kaynak olarak yayınladı ve sürecini belgeledi; iddiasına göre bunun için sadece 200 Gemini tarafından oluşturulmuş görüntü, sinyal işleme ve "çok fazla boş zaman" gerekiyordu. Biraz esrar da yardımcı olmuş gibi görünüyor.

Aloshdenny Medium'da şunları söyledi : "Sinir ağları yok. Tescilli erişim yok . Anlaşılan o ki, eğer işsizseniz ve ortalama olarak yeterince 'saf siyah' yapay zeka tarafından oluşturulmuş görüntüler elde ederseniz, sıfır olmayan her piksel kelimenin tam anlamıyla size bakan filigran oluyor."
SynthID, Google'ın yapay zeka araçları tarafından oluşturulan içeriği etiketleyen, neredeyse görünmez bir filigran sistemidir ve oluşturulma aşamasında görüntülerin piksellerine yerleşir. Görüntü kalitesini bozmadan kaldırılması zor olacak şekilde tasarlanmıştır ve Google tarafından sunulan yapay zeka ürünlerinde yaygın olarak kullanılmaktadır; Nano Banana ve Veo 3 gibi modellerin ürettiği her şey SynthID filigranı taşır ve hatta YouTube'un yapay zeka tarafından oluşturulan içerik oluşturucu klonlarına bile uygulanmaktadır.

Aloshdenny, sistemin "gerçekten iyi bir mühendislik ürünü" olduğunu düşündüğünü ancak testlerde SynthID'yi tamamen kaldırmayı başaramadığını, bunun yerine filigranlı görüntüleri okumaya çalışan kafa karıştırıcı SynthID kod çözücülerine güvendiğini söylüyor.
Google'ın filigranının altında yatan mekanizmaları çözmek için kullanılan süreç, yazılımcı olmayanlar için teknik olarak karmaşıktır. Merak ediyorsanız, Aloshdenny'nin Medium sayfasında (ki görünüşe göre Aloshdenny "kafası güzelken" yazılmış) ayrıntılı açıklamayı okuyabilirsiniz, ancak işte basitleştirilmiş bir açıklama:

• Gemini programını kullanarak 200 adet tamamen siyah veya saf beyaz görüntü oluşturun. Kontrastı ve doygunluğu artırın, ardından filigran desenlerini ortaya çıkarmak için doygunluktaki gürültüyü azaltın.
• Desenleri ortalamasını alarak, her frekans aralığında ve her kanalda filigran sinyalinin genliğini ve fazını bulun.
• Görüntülerde bu frekansların izlerini arayın ve oluşturulma sırasında eklendikleri açıyla kısmen kaldırın.

Aloshdenny, “Yapabildiğim en iyi şeyin, kod çözücüyü yeterince şaşırtıp pes etmesini sağlamak aslında dosyayı silmek değil tasarımının ne kadar iyi olduğunu gösteriyor,” diyor. “Mükemmel değil. Ama kırılmaz olmaya da çalışmıyor. Yanlış kullanım maliyetini, çoğu insanın uğraşmayacağı kadar yüksek tutmaya çalışıyor.”

Google'ın SynthID filigran sistemini tersine mühendislikle inceleyen Aloshdenny'nin projesini denemedim, bu yüzden ne kadar etkili olduğunu garanti edemem. Bununla birlikte, şu an itibariyle SynthID'nin tersine mühendislikle çözüldüğü, en azından bilgisayar korsanlarının bir araç indirip Google'ın filigranını kaldırarak (veya ekleyerek) yapay zeka tespit sistemlerini kandırabileceği bir noktaya kadar çözüldüğü görünmüyor . Google da Aloshdenny'nin iddialarına dayanmadığına inanıyor.

Google sözcüsü Myriam Khan, The Verge'e verdiği demeçte, "Bu aracın SynthID filigranlarını sistematik olarak kaldırabileceğini söylemek yanlıştır. SynthID, yapay zeka tarafından oluşturulan içerik için güçlü ve etkili bir filigranlama aracıdır." dedi.