Laboratuvarlar kriz senaryoları çalışıyor
Axios'un haberine göre Anthropic, OpenAI ve diğer önde gelen yapay zekâ laboratuvarları, kontrolden çıkmış bir yapay zekânın finans, internet, telekomünikasyon, elektrik ve su gibi kritik altyapılara zarar verdiği senaryolar üzerinde çalışıyor. Şirket yönetimlerinin bu hazırlıkları, Pentagon'un nükleer savaş tatbikatlarına benzetiliyor.
Şirketler ne diyor?
Bir OpenAI sözcüsü, şirketin hazırlık tatbikatlarında ekiplerin olası senaryoları tartışıp üzerinden geçtiğini söyledi. Sözcüye göre bu senaryolar kaçınılmaz olarak görülmüyor; amaç çeşitli koşullara hazırlıklı olmak.
Riskler ve düzenleme tartışması
Haberde, Anthropic'in halka arz izahnamesinde "insanlık için varoluşsal riskler"i ana risk faktörlerinden biri olarak saydığı ve belgenin yaklaşık üçte birini bu konuya ayırdığı belirtiliyor. Eski bir OpenAI güvenlik çalışanı, mevcut risklerin güvenlik kültürü eksikliğinden kaynaklandığını savunuyor. Beyaz Saray'ın ise yapay zekâ düzenlemesi getirmek yerine şirketlerin kendini denetlemesini tercih ettiği ifade ediliyor.
Olası sonuçlar
Axios'a göre senaryoların odaklandığı konulardan biri de büyük bir olayın ardından Kongre'nin nasıl bilgilendirileceği. Böyle bir olayın ardından Kongre'nin yapay zekâ geliştirmeyi yavaşlatmaya veya durdurmaya çalışabileceği, ancak planlamacıların bunun ciddi zorluklarla karşılaşacağını düşündüğü aktarılıyor.
