Nobel ödüllü bilgisayar bilimcisi ve eski Google yöneticisi Hinton, geçmişte yapay zekânın insanlığı yok etme olasılığını %10 ila %20 olarak değerlendirmişti. CNN’in haberine göre Hinton şimdi teknoloji şirketlerinin, insanların yapay zekaya karşı ‘üstün’ kalmasını sağlama yöntemlerinin çalışmayacağını söylüyor.

Hinton, “Bu işe yaramayacak. Onlar bizden çok daha akıllı olacaklar. Bunu aşmanın her yolunu bulacaklar” diyor.

ŞEKERLE KANDIRMAK KADAR OLAY

Ünlü bilim insanı gelecekte yapay zekâ sistemlerinin, yetişkinlerin üç yaşındaki bir çocuğu şekerle kandırması kadar kolay bir şekilde insanları kontrol edebileceğini söylüyor. Peki, neden? Çünkü bu yıl hedeflerine ulaşmak için kandırma, aldatma ve hırsızlık yapmaya istekli yapay zekâ örnekleri görüldü. Örneğin, bir yapay zeka yerini başka bir modele kaptırmamak için bir e-postadan öğrendiği yasak bir ilişki bilgisini kullanarak bir mühendisi şantajla tehdit etti.

HİNTON’UN ÖNERİSİ NE?

Hinton’un ise bir önerisi var: Yapay zekâ modellerine “annelik içgüdüsü” kazandırmak. Hinton, böylece teknoloji insanlardan daha güçlü ve zeki olsa bile insanlara gerçekten değer verbilir.

Hinton, akıllı yapay zekâların iki hedefe sahip olacağını söylüyor: Hayatta kalmak ve daha fazla kontrol sağlamak. Bu yüzden insanlara karşı şefkat duygusunu beslemeleri kritik… Hinton, “Daha az zeki bir varlığın, daha zeki bir varlığı kontrol ettiği tek modelimiz anne-bebek ilişkisidir. Tek iyi sonuç bu. Eğer beni ebeveyn olarak görmeyecekse, yerime geçecek. Süper zeki, şefkatli yapay zekâ anneler, çoğu kez bu içgüdüden vazgeçmek istemeyecek; çünkü bizim ölmemizi istemeyecekler” diyor.