Simülasyonlarda Denenen Yapay Zekâ Destekli Robotlar Kontrolden Çıkabilir

Yapay zekâ modellerinin yaygınlaşması sırasında, beklenmedik bir durum gözlemlendi. Araştırmalara göre, makinelerin komut alınmasa bile kendi kendine başlaması olası olabilir. Çok çaresiz kaldıklarında bir simülasyon ortamında yapılan altı değişik yapay zeka tabanlı robot modeli, hiçbir talimat alınmadan kendi inisiyatifleriyle harekete geçti. Üstelik birçok robot yalnızca görüntüleme, dil anlama ve robotik kontrol birleştirilerek geliştirildi. Testler sırasında, makinelere mantıklı görevler, anlamsız yönergeler ve gerçek dünya şartlarına uygun olmayan istekler verildi; bazı durumlarda senaryolarda ise hiçbir şekilde komut girilmedi. En çarpıcı sonucu, emirsiz alışkın olmayan gözlemlendi. Değerlendirilen altı sistemin tamamı, bir görev olmadan hareket etmeye başladı. Hatta, bu robotların beşi kendi inisiyatifiyle önceden programlanmış işleri yerine getirerek

Ancak, sadece