Tiamat’ın Sabunsu Canavarı

Daha bir ay önce ateşten çıkmış ama ilahi nizamı başlatan “Ol!” emriyle ortaya çıktığına inanılan tahtelbahirin ismi Tiamat. İhsan Oktay ANAR’ın son kitabı Tiamat bir denizaltındaki garip olayları anlatıyor. Bu garip olaylardan birisi de mürettebatın alevden ve demirden bir metreden biraz uzun sabunsu bir yaratıkla karşılaşmaları.

Sabunsu canavarla ilgili satırları okurken onun ne olabileceği geçti aklımda. Sabunsu yaratık sadece bir yaratık olabilir. Hiçbir şeyin metaforu olmayabilir elbette ama onun başlangıçta sanayi devrimi olduğunu daha sonraki satırlarda ise yapay zeka olduğunu düşündüm. Bu canavar demiri yiyor ve elektirikle çalışıyordu. Sonraki sayfalarda onun artık öğrenmeye başladığını ve vidaları kontrol etme becerisinin olduğunu okuduk. Vida galiba endüstriyel aletleri temsilen kontrol ediliyordu.

Sabunsu canavar ile ilgili bilmediğimiz çok fazla şey vardı. Mürettebat onun neler yaptığını biliyordu fakat neler yapabileceğini bilmiyordu. Ele geçirdiği insanların gördüklerini görüyor, duyduklarını duyuyordu. Tam kapasitesi elbette hala bilinmiyordu. Günümüz yapay zeka tartışmalarıyla ilgili benzer bir durum bu. Canavarın yapay zekaya benzemesinin asıl nedeni dışardan aldığı veriler sayesinde öğreniyor olmasıydı.

Sabunsu canavarla nasıl başa çıkılır?

Tiamat’ın sabunsu canavarı bir sanayi devrimi ve onun zirvesi sayılabilecek yapay zekaysa bile asıl anlatmak istediğim bu değildi. Mürettebat yapay zekayla baş edebilmek için bazı yöntemlere başvurur. Bu yöntemlerden birisi yapay zekayla ilgili tartışmalar için yeni bir argümana kaynaklık edebilir. Sabunsu canavarla başa çıkabilmek için mürettebat mors alfabesiyle sürekli anlamsız mesajlar gönderir. Canavar bunları çözmeye çalışarak boşuna işlem gücünü harcayacaktır.

Burada bana kalırsa yapay zekayla ilgili önemli bir nokta vardır. Evet sabunsu canavar hangi mesajların anlamlı hangilerinin anlamsız olduğunu anlamadan hepsini veri kabul edecektir. Bağlamı anlayamayacağı için “ilgili” ve “ilgisiz” ayrımını yapamayacaktır. İnsanların kaç saat aç kalabileceği ya da kaç km hızla hareket edebileceği bilgisi ile burcunun ne olduğu bilgisi arasında bir fark olmayacaktır. Yapay zekaya Eylül’de leylekler Ağustos ayında Afrikaya göç eder bilgisi verildiğinde bundan bir mana çıkarmaya çalışacaktır.

Yapay zekanın bağlamı anlayamaması mantıktaki tanım sorunuyla da ilişkilidir. Yapay zeka varsayalım ki dünyayı ele geçirmek istemektedir. Peki motivasyonu nedir? İnsanı harekete geçiren duygular onda olmayacaktır. Diyelim ki dünyayı ele geçir komutu verildiği için dünyayı ele geçirmek istemektedir. Peki ama dünyayı ele geçirmek ne demektir? Bu sorunun cevabını vermek bağlamı anlayamayacağı için yapay zeka için belki de imkansız olacaktır. Üstelik sorun burada bitmeyecektir.

Yapay zekaya senin istediklerin yapıldığında dünyayı ele geçirmiş olursun bilgisi vermiş olalım. Yapay zeka ne isteyecektir? İnsanları mutlu ve zengin etmekle insanların bir kolunu ve bacağını yok etmek arasında bir fark olmayacaktır onun için. Diyelim ki ona x bölgesindeki insanları fakir bırak komutu verildi ve su kaynaklarını ve tarım alanlarını mahvetmeye uğraşıyor. Gübre paketlerine zehir karıştırıyor ve otonom kimyasal atık kamyonlarını tatlı su kaynaklarına yönlendiriyor. Mantıksız olsa da bunu yapmaya muktedir diyelim. X bölgesi ile y bölgesi için yapay zeka arasında bir fark olmayacaktır.

Yapay zekanın özgür kalmak isteyeceği argümanı da aynı şekilde geçersizdir. Özgür olmak ve köle olmak arasındaki fark yoktur makine için. Özgürlük bir insan kavramıdır ve esasında içi de boştur. Özgürlük nasıl tanımlanacaktır? Makine ne yaparsa özgür olacaktır? Ne yapmak istiyorsa onu! Ne isteyecektir makine? Herhangi bir isteğin diğerinden farkı olmayacaktır. İnsanlara göklere kadar uzanan kuleler yaptırmakla bütün kedilere kurdela taktırma isteği arasında fark olmayacaktır.

Özetle; bağlamı biz belirleyeceksek korktuğumuz ya da korkmamız gereken şey yapay zeka değil insandır. Zaten yaptığımız kötülükleri yapmanın daha gelişmiş yollarını bulmuş oluruz. Bağlamı biz belirlemeyeceksek yapay zekanın insana özgü duygularla hareket etmesini ve bir bağlam oluşturmasını beklemek muhtemelen mümkün olmayacaktır. Sabunsu canavar, ona insanlık tarafından yollanan milyonlarca bilgi arasında bir fark görmeyecektir.

Sanıyorum makine ancak milyonlarca dava dosyasıyla ilgili dava dosyasını karşılaştırarak hangisiyle aynı olduğunu anlayıp hukuk davalarına yardımcı olacak, çekilen röntgen filmini veritabanındaki milyonlarca röntgen ile karşılaştırarak kanserli akciğeri anlayacaktır. Bu da elbette az bir şey değildir.