‘Ölümcül bir virüs üretebilir’ – Son Dakika Magazin

Suni zekânın öncülerinden Geoffrey Hinton bu alandaki gelişmelerin tehlikelerine karşı uyarıda bulunmak için geçen yıl mayıs ayında Google’dan çekilme etmişti. Derin öğrenme ve suni sinir ağları üstüne yapmış olduğu araştırmalarla ‘suni zekânın babası’ olarak tanınan 75 yaşındaki biliminsanı Hinton, açıklamasında suni zekânın geleceği noktadan kaygı duyduğunu ve ciddi bir tehlikeyle karşı karşıya kalabileceğimizi belirtiyordu. Sorularımızı yazılı olarak yanıtlayan Hinton “Suni zekânın gelişimini durdurmak mümkün görünmüyor” diyor.

◊ Ilk olarak iyi mi olduğunuzu sormak isterim. Google’dan ayrıldıktan sonrasında hayatınız iyi mi gidiyor?

Oldukca daha rahatım. Artık ‘bana ödedikleri tutarı hak edecek kadar üretemediğimi’ asla düşünmüyorum.

◊ Google’dan ayrılmayı niçin lüzumlu buldunuz?

Esas olarak 75 yaşlarında olduğum ve artık program yazmakta iyi olmadığım için oradan ayrıldım. Tek sebep de bu değil doğal. Hem de suni zekânın varoluşsal riskinin yalnız bilimkurgu olduğuna dair yaygın algıyı düzeltmek istediğim için bu sonucu verdim.

‘CİDDİ BİR TEHDİT’

◊ Daha ilkin çekilme etmiş olmayı dilediniz mi?

Keşke varoluşsal tehdidin yakın bulunduğunu daha ilkin fark etseydim. Şubat 2023’e kadar bunun oldukça uzak bulunduğunu düşünüyordum. Sadece bunun ele alınması ihtiyaç duyulan ciddi bir tehdit bulunduğunu fark ettim.

◊ Google araştırmacıları dahil birçok şahıs sizden ilkin suni zekânın tehlikeleri hakkında konuştu. Onların görüşlerini paylaşıyor musunuz?

Öteki araştırmacıların bir çok ayrımcılık, önyargı, düzmece görüntüler, belgeler ve yankı odaları şeklinde varoluşsal olmayan tehditler mevzusunda uyarıyordu. Hepsi oldukça ciddi tehditler sadece benim uyardığım şey değişik. Bunlar aslına bakarsan şu anda mevcut durumlar ve sinir ağlarının bizlerden daha parlak zeka olmasını gerektirmiyor.

“Pek oldukça değişik yıkım senaristliği var. Sözgelişi suni zekâ kendi kendine insanları öldürmeye karar verebilir”

◊ En feci senaryo ne sizce?

Pek oldukça değişik yıkım senaristliği var. Fena bir erkek oyuncu oldukça bulaşıcı, oldukça ölümcül ve oldukça uzun bir kuluçka dönemine haiz bir virüs tasarlayabilir. Fena erkek oyuncular suni zekâyı demokratik seçimleri yozlaştırmak için aslına bakarsan kullanıyorlar. Ek olarak suni zekâ kendi kendine insanları öldürmeye de karar verebilir.

◊ Suni zekâ sizce denetim edilebilir mi? Bu mevzuda şirketlere, hükümetlere güvenebilir miyiz?

Başka bir yolu var mı? Keşke bunların yanıtını bilseydim. Araştırmacıları bu sorunlara odaklanmaya, endüstriyi ve hükümetleri de bu mevzulara daha çok kaynak ayırmaya teşvik etmeliyiz. Suni zekânın gelişimini durdurmak mümkün görünmüyor. Oldukca fazla erkek oyuncu var ve yararlı getirileri oldukça büyük.

◊ Hayatınızı suni zekânın gelişimine adadığınıza bugün pişman mısınız?

Pek sayılmaz. Yakın zamana kadar sıhhat hizmetleri şeklinde alanlarda sağlayacağı faydaların, harp robotları ve yalan haberler şeklinde öteki alanlarda vereceği zarardan muhtemelen daha ağır basacağı görüşündeydim.

◊ Birkaç alanda eğitim aldığınızı biliyoruz…

Evet, ilk yıl fizik ve fizyoloji okudum ki bu alışılmadık bir kombinasyondu. İkinci yıl felsefe, üçüncü yıl da psikoloji okudum. Sonunda beynin iyi mi çalıştığını anlamadan zihnin iyi mi çalıştığını asla anlayamayacağımıza karar verdim. O zamanlar çılgınca ve rastgele yürüyüş şeklinde görünüyordu sadece geriye dönerek baktığımda oldukça iyi netice verdiğini anlıyorum.

◊ İnsan beyninin iyi mi çalıştığını öğrenmek için yola çıktınız. Neler keşfettiniz?

Suni zekâdaki şaşırtıcı ilerleme bizlere nöronlar arasındaki milyarlarca bağlantının enerjisini yine yine ayarlamanın aslına bakarsak karmaşık becerileri öğrenmenin oldukça etkili bir yolu bulunduğunu öğretti. Sadece beynin bu ayarlamaları iyi mi yapacağını bilmek için lüzumlu olan gradyan sinyallerini iyi mi hesapladığını hâlâ bilmiyoruz. Ya da örnek olarak niçin rüya gördüğümüzü ve uyku yoksunluğunun etkilerinin niçin bu kadar korkulu bulunduğunu hemen hemen çözmedik.

◊ Gelinen noktada sizce suni zekâ mı yoksa insan beyni mi daha akıllı?

Bu aşamada suni zekânın herhangi bir insandan oldukça daha fazlasını bilen sadece mantıksal muhakeme mevzusunda hemen hemen o denli iyi olmayan bir tür aptal savant (Savant sendromu: Mühim düzeyde zihinsel engeli olan bir kişinin bazı kabiliyetleri genel ortalamanın oldukça daha üstünde sergilemesi) olduğuna inanıyorum. Bununla beraber, aslına bakarsak zekâmız için mantıksal akıl yürütmeden daha temel olan analojik akıl yürütmede bizimle karşılaştırılabilir.

◊ Suni zekânın insan beyninden kuvvetli olması mümkün mü?

Bu oldukça ihtimaller içinde görünüyor. İnsanlar gerçekte olduklarından daha hususi olduklarını düşünme mevzusunda uzun bir geçmişe haiz. Birçok insan hâlâ Tanrı’nın suretinde yaratıldığına ve Tanrı’nın onları evrenin merkezine koyduğuna inanıyor.

◊ Suni zekânın ilerlemesi insanlığın sonunu getirebilir mi? Gelecekte kim bilir insana gerekseme kalmayacak…

Bence bu olasılık dahilinde.

‘SAFÇA İYİMSERLİK…’

◊ Sizinle beraber Turing Ödülü’ne layık görülen Yann LeCun, suni zekâ mevzusundaki endişeleri reddediyor. Bu görüş hakkında yorumunuz ne?

Bence safça iyimser davranıyor. Gelecek oldukça belirsizken değişik görüşlere haiz olmak iyidir ve onun haklı olmasını içtenlikle umuyorum. Araştırmalar, mutlu insanların kanser ya da otomobil kazası şeklinde hakikaten fena durumların başlarına gelme olasılığını küçümseme eğiliminde olduklarını gösteriyor. Hafifçe depresyonda olanlarsa daha iyi adapte olmuşlar, bu olasılıkları ciddiye alıyorlar. Bu da niçin hafifçe depresyonda olduklarını açıklayabilir.

◊ Çocukluğunuzu merak ediyorum, ne tür oyunlar oynardınız?

Bulmacaları oldukça severdim ve sık sık kendim için bulmacalar buluş ederdim. Mesela bir fincan hangi şekilde olmalıdır ki içindeki sıvının soğuma hızı sıvı miktarından neredeyse bağımsız olsun?

‘UZUN VADEDE İYİ BİR TERAPİST OLABİLİR’

◊ Suni zekânın insanoğlu şeklinde bazı duygulara haiz olması mümkün mü? Korkmak, âşık olmak, mutlu olmak, kızgınlık duymak şeklinde…

İnsan duyguları bedensel hisleri ihtiva eder, örnek olarak utandığınızda yüzünüzün kızarması şeklinde. Suni zekânın bu bedensel hislere haiz olması için iyi bir niçin yok. Sadece suni zekânın duyguların öteki yönlerine -nasıl davrandığınızı etkileme şekli gibi- haiz olmaması için de herhangi bir niçin göremiyorum. Korkunun fizyolojik tezahürü bir suni zekâda oldukça değişik olsa bile, korkması ve algılanan tehlikeden kaçması mantıklı.

◊ Suni zekâ iyi bir terapist olabilir mi?

Uzun solukta iyi bir terapist olabileceğini düşünüyorum sadece mevcut söyleşi robotlarının hemen hemen o noktada bulunduğunu düşünmüyorum.