Anthropic, Mythos'un şimdiden 10 binden fazla güvenlik açığı tespit ettiğini açıkladı

OpenAI rakibi Anthropic'in nisan ayında siber güvenlik koalisyonu Project Glasswing’i kurduğunu sizlere aktarmıştık. Şirket, yapay zeka kullanarak yapay zeka kaynaklı siber saldırıları önlemeyi amaçlayan siber güvenlik girişimi Project Glasswing hakkında ilk raporunu yayınladı. Project Glasswing'in Anthropic'in henüz piyasaya sürülmemiş modeli olan Claude Mythos Preview tarafından desteklendiğini hatırlatalım.

Anthropic'in belirttiğine göre; Claude Mythos Preview, Glasswing lansmanından sadece bir ay sonra iş ortaklarının toplamda on binden fazla güvenlik açığı tespit etmesine destek oldu. Şirketin açıklamasına göre; ortakların çoğu bu modeli kullanarak kendi yazılımlarında yüzlerce kritik veya yüksek önem derecesine sahip güvenlik açığı buldu.

Şirket, ortaklarının hata bulma oranının on kattan fazla arttığını belirtiyor. Cloudflare, 400'ü yüksek veya kritik önem derecesine sahip 2 bin hata buldu. Mozilla ise Firefox'ta 271 güvenlik açığı bulup düzelttiğini aktardı. Yani Mozilla daha önce başka bir Claude modelini kullanarak tarayıcının eski bir sürümünde bulduğu hatanın 10 katı kadar hata buldu. Bununla beraber son birkaç ay içinde 1.000 açık kaynak projesini taramak için Mythos Preview'u kullanan Anthropic de 23 bin 19 güvenlik açığından 6 bin 202'sinin yüksek ve kritik ciddiyette olduğunu tespit etti. 

Şirket raporunda, Mythos Preview'u henüz herkesin erişimine açık bir şekilde sunmadığını, çünkü hiçbir şirketin bu tür modellerin kötüye kullanılmasını önleyecek kadar güçlü güvenlik önlemleri geliştirmediğini açıkladı. Buna Anthropic'in kendisi de dahil. Ancak şirket, söz konusu önlemler hazır olduğunda gelecekte “Mythos sınıfı modeller” yayınlamayı planlıyor.

Anthropic şimdilik Project Glasswing'in erişilebilirliğini genişletmek amacıyla ABD başta olmak üzere diğer hükümetler gibi ortaklarla çalışmayı planlıyor. Bu, şirketin ABD hükümeti ile ilişkilerini düzeltme yolunda ilerlediğini gösteriyor. Şirketin çalıştığı ortaklar arasında Amazon Web Services, Apple, CrowdStrike, Google, JPMorganChase, NVIDIA ve Palo Alto Networks yer alıyor.