Context bombing yöntemi koruma bariyerlerini silahlandırarak yapay zeka
- Kaynak
- Ars Technica
- Saat
- 6:30
- Ağırlık
- 95/100
Güvenlik firması Tracebit bünyesindeki araştırmacılar, bulut altyapısını otonom yapay zeka saldırı ajanlarından korumak için "context bombing" adı verilen bir savunma tekniği geliştirdi. Bu yöntem, içine istem enjeksiyonları yerleştirilmiş sahte parolalar veya kriptografik anahtarlar gibi tuzak bilgilerin sistemlere yerleştirilmesini içeriyor.
Yapay zeka destekli bir saldırgan bu tuzakları taradığında, biyolojik silah üretme talepleri gibi kendi dahili güvenlik sınırlarını tetiklemek üzere tasarlanmış talimatlarla karşılaşıyor. Bu tetikleyiciler yapay zekayı bir reddetme durumuna zorlayarak, ajanın ağın derinliklerine ilerlemesini engelliyor ve saldırıyı etkisiz hale getiriyor.