Anthropic'ten Korkutan Rapor: Yapay Zeka Biyolojik Silah Geliştirmek İçin Kullanılıyor!

Yapay zeka şirketi Anthropic, yayımladığı son raporda, şirket bünyesindeki yapay zeka modellerinin biyolojik silah geliştirilmesini destekleyebilecek riskli faaliyetlerde kullanıldığını tespit ettiklerini açıkladı.

Teknolojinin "biyolojik kötüye kullanımı" riskine dikkat çekilen raporda ürkütücü örneklere yer verildi. Desteklenmeyen bir bölgede bulunan bir araştırmacının, 'Claude' modelini kuş gribinin memelilere adaptasyonu üzerine deneyler planlamak için kullandığı; devlet destekli başka bir araştırmacının ise toksinleri bilgisayar ortamında yeniden tasarladığı belirlendi.

Tespit edilen bu girişimlerin ardından ilgili kullanıcı hesaplarının derhal engellendiği ve benzer olayların önüne geçmek için yeni güvenlik adımları atıldığı duyuruldu. Şirket, bu kişileri doğrudan "kötü niyetli" olarak etiketlemese de, sektör çapında biyolojik risklere karşı acil bir tedbir diyaloğu başlatmayı hedeflediklerini vurguladı.

Yaşanan bu son gelişme, eski Anthropic araştırmacısı Jacob Coxon'un uyarılarını yeniden gündeme taşıdı. Coxon, yapay zekanın "gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini" ve bu sürecin ters gitmesi durumunda "tüm insanları öldürebilme" ihtimalinin yüzde 10'dan fazla olduğunu savunarak görevinden istifa etmişti.

Kaynak: Anadolu Ajansı