Belirli bir kriptografik anahtar aracılığıyla kelime seçimindeki rastgeleliği düzenleyen Anthropic, daha sonra bir metni analiz ederek içeriğin Claude tarafından oluşturulma olasılığını hesaplayabiliyor.
Bu uygulama, yapay zeka sağlayıcılarının şeffaflığı artırmak adına üretilen içerikleri işaretlemesini zorunlu kılan AB Yapay Zeka Yasası (EU AI Act) çerçevesinde hayata geçiriliyor.
Sektör genelinde yapay zeka üretimlerini izlemek için standart bir yöntem sunan bu sistem, işletim maliyetlerini veya yanıt süresi (latency) gibi performans değerlerini etkilemiyor.
Filigran doğrudan kelimelerin dizilim kalıplarına işlendiği için metin üzerinde yapılan hafif düzenlemelerden sonra bile varlığını koruyabiliyor.
Sistemin teknik sınırları, özellikle bilgisayar programlama veya olgusal raporlama gibi metin seçeneklerinin kısıtlı olduğu alanlarda belirginleşiyor.
Kod satırları veya somut gerçeklerin ifade edilmesinde genellikle tek bir doğru yol bulunduğu için modelin filigran gizleyebileceği alternatif kelime seçim imkanları ortadan kalkıyor.
Uzun makalelerde veya çevirilerde etkili olan bu yöntem, kısa metinlerde veya yapay zekanın sadece basit bir düzeltme yaptığı durumlarda ise verimliliğini kaybediyor.
Anthropic, bu süreci desteklemek amacıyla kullanıcıların içeriklerdeki filigranları kontrol edebileceği özel bir tespit aracını da kullanıma sunmayı planlıyor.