Yapay zeka kontrolden çıktı.

Facebook, iki sohbet robotunun birbirleriyle ticaret yapmalarını amaçlayan bir yapay zeka geliştirdi. Robotların, fiyatları/değerleri önceden belirlenmiş şapka, top ve kitapları nasıl takas edeceği ve nasıl pazarlık yapacağı incelenecekti. Ancak robotlar, İngilizceyi deforme ederek yeni bir dil kullanmaya, pazarlığı ve alışverişi bu dille yapmaya başladı.

Temelde İngilizce dilini kullanarak birbirleriyle iletişim kurmaları şeklinde programlanan botlar, bize göre tamamen anlamsız “I can can I I everything else” ya da “Balls have zero to me to me to me to me to me to me to me to me to” gibi cümleleri karşılıklı birbirlerine göndermeye başladılar. Bunu programda bir sıkıntı olarak tanımlayıp bir süre görmezden gelen mühendisler, yazılımları incelediklerinde botların bu bize göre anlamsız cümleleri tamamen anlayıp işlem yaptıklarını ortaya çıkardı. Ne konuştukları hakkında hiç bir bilgiye sahip olmayan mühendisler, sistemin fişini çekmekten başka çare bulamadılar.

Buradaki oldukça açık tehlike şöyle: botlar kendi aralarında iletişim kurduklarında bunu bizim anladığımız şekilde yapmak yerine tamamen anlamsız ama çok yüksek verimli bir dille yapmayı tercih ediyorlar. Kendileri için en uygun şekli belirleyen iki bilgisayarın yaptığı iş, hem etkileyici hem de inanılmaz derecede korkutucu.