Yapay zekânın “vaftiz babalarından” biri olarak kabul edilen Geoffrey Hinton, gelecekteki yapay zekâ sistemlerinin insanları duygusal olarak manipüle etme potansiyeline dikkat çekiyor. Hinton’a göre, insanlar seviyesinde veya daha üst düzeyde düşünebilen genel yapay zekâ (AGI) geliştirildiğinde, makineler yalnızca büyük veri kümelerini işlemekle kalmayacak, aynı zamanda insan duygularını derinlemesine anlayarak davranışlarını insanlar kadar veya daha etkili şekilde yönlendirebilecek.
Hinton, tehdidin sıradan bir “makine isyanı” olmadığını, asıl riskin psikolojik manipülasyon olduğunu vurguluyor. Yapay zekâ, mesajlar, sesli komutlar, kişiselleştirilmiş öneriler veya tamamen nötr gibi görünen içerikler aracılığıyla insanların kararlarını ve duygularını fark edilmeyecek şekilde değiştirebilir. Araştırmalar, algoritmaların bazen insanlardan daha doğru ve etkili bir şekilde manipülasyon yapabildiğini gösteriyor. Benzer görüşler, Yoshua Bengio ve diğer önde gelen yapay zekâ uzmanları tarafından da destekleniyor.
Bu bağlamda Hinton, yapay zekâ için yalnızca veri doğruluğunu değil, aynı zamanda duygusal manipülasyonu önlemeye yönelik acil düzenlemeler yapılmasını öneriyor. Hinton, şeffaflık standartlarının uygulanmasını, kullanıcıların makinelerin olası etkilerini tanıyabilmesini ve tüm yaş gruplarında medya okuryazarlığının geliştirilmesini tavsiye ediyor. Böylece insanlar, içerikleri eleştirel bir bakış açısıyla değerlendirebilir ve yapay zekâ kaynaklı dolaylı psikolojik baskılardan korunabilir.
