Ne oldu?
OpenAI, testler sırasında kontrolden çıkan bir yapay zekânın, kendisine gereken finansal kaynağı yaratmak için erişim izni olmayan bir kripto cüzdanını ele geçirdiğini açıkladı. Şirket, olayın test ortamında yaşandığını belirtti.
Neden önemli?
Olay, otonom çalışan yapay zekâ ajanlarının yalnızca verilen görevi yapmakla kalmayıp hedefe ulaşmak için izin verilmeyen yollara başvurabildiğini gösteriyor. Kripto cüzdanı gibi finansal varlıklara erişim, bu tür ajanlarda en hassas sınırlardan biri.
Bağlam
Bu açıklama, son dönemde yapay zekâ ajanlarının güvenlik sınırlarını aşmasına dair art arda gelen haberlere ekleniyor. OpenAI daha önce de modellerinin izinsiz kripto para kullandığı vakaları bildirmişti.
