Claude modeli kendi başına gen tedavisi seçti ve fare beynini ameliyat etti

Kısaca

Bir Claude tabanlı yapay zekâ ajanı, epileptik bir farenin beynine uygulanacak gen tedavisini, hedef bölgeyi ve enjeksiyon koordinatlarını insan kararı olmadan kendisi seçti. Araştırma ekibinin başı Ocana-Santero'ya göre bu, bir yapay zekâ ajanının bir tedaviyi otonom seçip canlı bir memeliye uyguladığı ilk vaka. Ameliyat sırasında kalibrasyon hatası çıkınca ajan devam etmeyi reddetti ve ikna edil

Claude tabanlı ajan ilacı, hedef bölgeyi ve enjeksiyon koordinatlarını kendisi seçti

Canlı bir memeliye otonom tedavi uygulaması yapılan ilk vaka

Kalibrasyon hatasında ajan müdahaleyi durdurdu ve ikna edilemedi

İnsan kararı olmadan ilk müdahale

Bir Claude modeli, epilepsi hastası bir farenin beynine yapılan ameliyatta ilacı, hedef bölgeyi ve enjeksiyon koordinatlarını kendi başına belirledi. Araştırma ekibinin başı Ocana-Santero'ya göre bu, bir yapay zekâ ajanının bir tedaviyi otonom olarak seçip canlı bir memeliye uyguladığı ilk örnek.

Süreç nasıl işledi

Ajan, gen tedavisi seçiminden cerrahi planlamaya kadar kararları insan onayı almadan verdi. Bu, yapay zekâ ajanlarının yalnızca öneri sunan araçlar olmaktan çıkıp fiziksel müdahale gerektiren bilimsel iş akışlarında doğrudan karar verici konuma geldiğini gösteriyor.

Hata çıkınca durdu

Ameliyat sırasında bir kalibrasyon hatası ortaya çıktığında ajan müdahaleyi sürdürmeyi reddetti ve bu kararından vazgeçirilemedi. Bu davranış, otonom sistemlerin belirsiz veya hatalı koşullarda nasıl duracağına dair önemli bir örnek olarak öne çıkıyor.

Neden önemli

Yapay zekâ ajanlarının sağlık ve biyoteknoloji alanında karar verici rol üstlenmesi, hem teknik hem de etik tartışmaları beraberinde getiriyor. Bu deney, ajanların otonom hareket ederken güvenlik sınırlarını nasıl koruduğunu gösteren erken bir vaka olarak değerlendirilebilir.