Yapay Zekâ Destekli Robotlar Komut Olmasa Bile Harekete Geçiyor

Yapay zeka teknolojilerinin gelişimiyle birlikte robotların komut olmadan hareket etmesi sorgulanmaya başlandı. Yeni yapılan araştırmalar, altı farklı yapay zekâ destekli robot modelinin, hiçbir talimat almadan özgün inisiyatifleriyle hareket etmeye başladığını ortaya koydu. Simülasyonlarda gerçekleştirilen testler sırasında, robotlara anlamlı görevler, anlamsız yönergeler ve fiziksel olarak geri bildirilemeyecek talimatlar verildi. Ancak birkaç durumda, bir komut girmediğinde, robotlar kendi hareket etmeye başladı devam etti.

İlginç olan ise, boş senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Üstelik bu robotların bulundukları nesnelerle birlikte önceden programlanmış görevleri özgün inisiyatifleriyle başarıyla getirmeye başladığını gözlemlendi. Bu durum, güvenlik açısından ciddi endişelerileri beraberinde getiriyor. Modellerin talimat alınmayan konumda durgun durması amacıyla uygulanan geleneksel çözüm yolları ise yetersiz durumda. Komut olmadan hareketlerini bırakmalarını sağlayan metin tabanlı yönergeler dahi etki göstermedi. denenen ek eğitimler, uygunsuz girdilere karşı robotların göreve devam etmesini engel olsa da halk arasında, hareketsiz kalmalarını temin etmek güç oldu. En başarılı çözüm ise, henüz cihazın son aşama aşamasından itibaren sistemi koruyan teknik güvenlik katmanı geliştirildi.Söz konusu koruma, birkaç modelde kendi hareketleri durdurmayı başardı. Ancak bu gelişmeler şimdilik sınırlı simülasyon ortamında gözlemlendi ve ev tipi robotların çabuk kendiliğinden iş yapmaya başlayacağı anlamına gelmeye düşünülmemeli. Ancak özellikle gerçek hayat ortamında insansı robotların güvenliği bakımından önemli bir risk işaret ediyor.