Anthropic CEO’sundan yapay zekâ için “frene basma” çağrısı

Yapay zekâ alanındaki hızlı gelişimin güvenlik endişelerini artırdığını belirten Anthropic CEO’su Dario Amodei, yapay zekâ modellerinin geliştirilme ve eğitim süreçlerinin bilinçli şekilde yavaşlatılması gerektiğini savundu.

Amodei, yayımladığı yazıda kontrollü bir yavaşlamanın şirketlere güvenlik önlemlerini geliştirmek, düzenleyici kurumlara ise yeni modelleri değerlendirmek için daha fazla zaman sağlayacağını belirtti. OpenAI CEO’su Sam Altman ve Elon Musk da Amodei’nin yaklaşımına destek verdi.

Amodei’nin planı üç aşamadan oluşuyor. İlk aşamada Anthropic’in, METR gibi bağımsız kuruluşlara modellerini değerlendirebilmeleri için geniş erişim sağlaması öngörülüyor. İkinci aşamada demokratik ülkelerdeki yapay zekâ şirketlerinin ortak güvenlik standartları ve gelişimi kontrol altında tutacak kurallar belirlemesi planlanıyor.

Üçüncü ve en zorlu aşama ise Çin ve Rusya gibi ülkelerin küresel yapay zekâ güvenlik standartlarına uymasının sağlanması olarak gösteriliyor. Amodei ayrıca ABD ve müttefiklerinin gelişmiş çiplere erişim konusunda mevcut kısıtlamaları sürdürmesi ve yapay zekâ modellerinin izinsiz kopyalanmasına karşı önlem alınması gerektiğini savundu.

Tüm bu risklere rağmen Amodei, yapay zekânın insan yaşamını önemli ölçüde iyileştirme potansiyeline sahip olduğunu ve doğru şekilde geliştirildiğinde bu faydaların elde edilebileceğini belirtti.

Kaynak: Webtekno