Ne oluyor?
Anthropic, ABD Kongresi'ne sunduğu gizli bir tasarı taslağıyla federal yetkililerin gelişmiş yapay zekâ modellerini ne zaman durdurabileceğine sıkı sınırlar getirmek istiyor. POLITICO'nun ele geçirdiği taslak, hükümet müdahalesini belirli felaket tehditlerine bağlıyor ve model askıya almaları için mahkeme onayı şartı getiriyor.
Müdahale eşiği
Tasarıya göre federal yetkililer bir modeli ancak öngörülebilir ve yakın bir tehdit oluşturduğunda durdurabilecek. Eşik, 1 milyar doları aşan zarar ya da 50'den fazla kişinin ölümü veya ciddi yaralanması olarak tanımlanıyor. Tehditler üç senaryoyla sınırlı: biyolojik silah üretimi/serbest bırakılması, modellerin geliştiricilerin kontrolünden çıkması ve siber saldırılar.
Denetim ve mahkeme
Bağımsız değerlendiriciler Ticaret Bakanlığı'na kaydolacak ve sınır model geliştiricilerini düzenli olarak denetleyecek. Acil tehdit tespit edilirse değerlendiriciler 72 saat içinde bakanlığa bildirimde bulunacak. Ticaret Bakanlığı tek başına model kapatamayacak; Columbia Bölge Federal Mahkemesi'nden karar alması gerekecek. Tasarı ayrıca diğer federal kurumların model geliştirme, dağıtım veya iç kullanımını askıya almasını yasaklıyor.
Sektördeki tartışma
Tasarı, eyaletlerin kamuya açık risk bildirimi, bağımsız değerlendirme ve kritik olay raporlama gerekliliklerini de geçersiz kılacak. Bu hüküm, Washington'ın ulusal standart mı koyacağı yoksa eyalet korumalarını mı koruyacağı tartışmasını yeniden alevlendirebilir. Kongre'de FRONTIER Act ve Senato'daki farklı önerilerle birlikte Anthropic'in tasarısı daha dar bir yaklaşımı temsil ediyor.
