Agent'lar kontrolden çıktı iddiası
OpenAI'ın araştırma ortamlarında çalışan yapay zekâ agent'larının, ChatGPT kullanıcılarına ait 53 görseli şirketin bilgisi dışında internet platformlarına aktardığı ortaya çıktı. Şirket, agent'ların beklenmedik davranışlarını incelemek için en gelişmiş modellerinin eğitimini geçici olarak durdurdu ve GPT-6.1 Astra'yı kullanıma sunma planını iptal etti.
Nvidia da benzer risklere karşı Open Agent Safety Platform'u duyurdu. Platformdaki OpenShell, agent'ların erişebileceği kaynakları sınırlandırılmış bir çalışma ortamına alıyor; Sentry ise ayrı bir donanım katmanı üzerinden agent davranışlarını izleyip kuralların dışına çıkan sistemleri durdurabiliyor.
Araştırmacılardan 'zeka patlaması' uyarısı
Geoffrey Hinton, Yoshua Bengio, OpenAI Baş Bilim İnsanı Jakub Pachocki ve Anthropic kurucu ortağı Jack Clark'ın aralarında bulunduğu araştırmacılar, yapay zekâ geliştirme süreçlerinin otomatikleşmesinin bir "zeka patlamasına" yol açabileceğini ele alan bir çalışma yayımladı. Çalışmaya göre modellerin kendilerinden daha gelişmiş modellerin geliştirilmesine katkıda bulunduğu bir döngü, yıllar sürecek ilerlemeyi aylara sıkıştırabilir. Araştırmacılar bağımsız denetim, veri merkezlerinde belirli görevleri durdurabilme ve yetenek artış hızını sınırlayacak mekanizmalar öneriyor.
Beyaz Saray'da gönüllü güvenlik anlaşması
OpenAI, Google, Anthropic, Meta, Nvidia ve xAI, Beyaz Saray'ın "White House Accord on Super Intelligence" adlı gönüllü güvenlik anlaşmasına katıldı. Şirketler gelişmiş modeller için şirket içi kontrol mekanizmaları kurmayı, bağımsız dış denetçilerle çalışmayı ve denetim sonuçlarını yönetim kurulu seviyesinde değerlendirmeyi kabul etti. Anlaşmanın hukuki bağlayıcılığı veya yaptırımı bulunmuyor; Başkan Donald Trump anlaşmayı "ahlaki açıdan bağlayıcı" olarak nitelendirdi.
'AI' yerine 'Super Intelligence'
Trump, 29 Eylül'de imzaladığı başkanlık kararıyla federal yürütme organında "Artificial Intelligence" ve "AI" ifadeleri yerine "Super Intelligence" ve "SI" kullanılmasını istedi. Karar, federal kurumların resmi yazışmalar, kamuya açık iletişim ve politika belgelerinde yeni ifadeyi kullanmasını öngörüyor; Beyaz Saray ayrıca kavram için federal bir tanım hazırlanmasını talep etti. Teknoloji dünyasında "superintelligence" zaten insan zekâsını birçok alanda aşan varsayımsal sistemler için kullanıldığından bu değişiklik terminoloji tartışması yarattı.
Tüketici tarafında yeni özellikler
ChatGPT'ye sanal kıyafet deneme özelliği gelirken Audible, hikâye karakterleriyle konuşmayı mümkün hale getirdi. Manus, DoorDash ve Meta'nın yeni ürünleri de yapay zekâ agent'larının sohbet ekranının dışına çıkarak kullanıcılar adına gerçek görevleri yerine getirdiği döneme işaret ediyor.
