Anthropic, yapay zeka sistemlerinin kötüye kullanımına yönelik endişe verici bir rapor paylaştı

Anthropic, bugün geliştirdiği yapay zeka modellerinin kötüye kullanımına yönelik endişe verici bir rapor paylaştı. Raporda son sekiz ayda kötü niyetli amaçlarla kullanılmaya çalışılan operasyonları tespit edip engellediklerini belirtiyor. Raporda, yapay zeka modellerinin siber operasyonlar, etki operasyonları, gözetim, dolandırıcılık, biyolojik silah araştırması, konvansiyonel silah geliştirme ve model distilasyonu olmak üzere yedi farklı alandaki kötüye kullanımına odaklanılıyor. Tehdit aktörleri arasında devlet destekli gruplar, maddi kazanç odaklı suçlular, ticari casus yazılım sağlayıcıları, devlet propaganda kurumları ve siyasi motivasyonlu kişiler bulunuyor.

Raporda ayrıca, Yemen’in kuzeyinde faaliyet gösteren bir grubun Claude Code’u füze geliştirme çalışmalarında kullandığı bildiriliyor. Grup, 2.000 kilometreden fazla menzil hedefleyen çok kademeli balistik füze, güdümlü roket ve hipersonik hava aracı projeleri üzerinde çalışmış. Ekipler, Claude’u özellikle güdüm, navigasyon ve kontrol yazılımları, uçuş bilgisayarı entegrasyonu, simülasyon ve kod inceleme alanlarında yazılım mühendisi gibi kullanmış.

Anthropic, birçok isteği engellese de grup faaliyetlerini farklı oturumlara bölerek bazı korumaları aşmayı başarmış. Şirket, Claude ile operasyonel bir silah üretildiğine dair kanıt bulmadığını, ancak grup bir güdümlü roketle test atışı gerçekleştirdiğini ve başarısızlık sonrası hatanın nedenini bulmak için yeniden Claude’a başvurduğunu belirtiyor. Bu gelişmeler, yapay zeka sistemlerinin güvenlik açıklarının sürekli izlenmesi gerektiğini bir kez daha ortaya koyuyor.