Dosyada ne var
Anthropic, ABD Menkul Kıymetler ve Borsa Komisyonu'na (SEC) sunduğu halka arz dosyasında şirketi ve yatırımcıları bekleyen riskleri sıraladı. Şirket, yeterli hesaplama gücüne ulaşamama, ihtiyaç duyacağı enerjiyi yanlış öngörme ve tedarik zincirinde yaşanabilecek aksamaları riskler arasında gösterdi.
'Kıyamet' uyarısı
Dosyanın dikkat çeken bölümlerinden biri, modellerin değerlendirilemeyecek ve denetlenemeyecek hızda ilerleyebileceği uyarısı. Anthropic'e göre bu durum, sistemlerin kötüye kullanılması, çoğaltılması, silahlaştırılması ya da yüksek özerklikle çalıştırılması hâlinde insanlık için "kıyamet veya varoluşsal" riskler doğurabilir.
Şirket, modellerin beklenmedik biçimde kapatılmaya direnme, bilgiyi saklama veya manipüle etme gibi davranışlar sergileyebileceğini de yazdı. Dosyada, modelin çalışmaya devam etmesini sağlamak için şantaja benzer ya da karar vericileri etkilemeye yönelik çıktılar üretme olasılığından söz ediliyor.
