Güney Kore'nin başkenti Seul'de düzenlenen Yapay Zeka Zirvesi'nde Guardian'a konuşan Max Tegmark, odak noktasının yaşamın yok olmasından yapay zekanın daha geniş bir güvenlik anlayışına kaymasının, en güçlü programların yaratıcılarına sıkı düzenlemeler getirilmesinde kabul edilemez bir gecikme riski taşıdığını söyledi.

Fizik eğitimi almış olan Tegmark, “1942 yılında Enrico Fermi, Chicago'da bir futbol sahasının altında kendi kendini idame ettiren ilk nükleer zincirleme reaksiyon reaktörünü inşa etti. O zamanın en iyi fizikçileri bunu öğrendiklerinde gerçekten çılgına döndüler, çünkü nükleer bomba yapmanın önündeki en büyük engelin aşıldığını fark ettiler. Bunun sadece birkaç yıl uzakta olduğunu fark ettiler - ve aslında 1945'teki Trinity testiyle üç yıl uzakta olduğunu anladılar.'' dedi.

Tegmark'ın kâr amacı gütmeyen Yaşamın Geleceği Enstitüsü, bu korkular nedeniyle geçen yıl gelişmiş yapay zekâ araştırmalarında altı aylık bir “duraklama” çağrısına öncülük etti. O yılın Mart ayında OpenAI'nin GPT-4 modelinin piyasaya sürülmesinin kömür madenindeki kanarya olduğunu ve riskin kabul edilemeyecek kadar yakın olduğunu kanıtladığını söyledi.

Bugün bu alanın temelini oluşturan makine öğrenimi yaklaşımına öncülük eden yapay zekanın üç “vaftiz babasından” ikisi olan Hinton ve Bengio'nun da aralarında bulunduğu uzmanlardan gelen binlerce imzaya rağmen, hiçbir duraklama kararı alınmadı.

Bunun yerine, geçtiğimiz Kasım ayında İngiltere'de düzenlenen Bletchley Park'ın ardından Seul'ün ikincisi olduğu YZ zirveleri, yeni gelişen YZ düzenleme alanına öncülük etti. “Bu mektubun konuşmayı meşrulaştırmasını istedik ve bunun nasıl sonuçlandığından oldukça memnunuz. İnsanlar Bengio gibi insanların endişelendiğini görünce, 'Bu konuda endişelenmemde bir sakınca yok' diye düşündüler. Benzin istasyonumdaki adam bile bu olaydan sonra bana yapay zekanın bizim yerimizi almasından endişe duyduğunu söyledi.

“Ama artık sadece konuşmakla yetinmeyip yürümeye de başlamamız gerekiyor.”

Ancak Bletchley Park zirvesinin ilk duyurusundan bu yana, uluslararası YZ düzenlemesinin odak noktası varoluşsal riskten uzaklaştı.

Seul'de, üç “üst düzey” gruptan yalnızca biri doğrudan güvenliği ele aldı ve “gizlilik ihlallerinden iş piyasası aksaklıklarına ve potansiyel felaket sonuçlarına” kadar “tüm risk yelpazesini” inceledi. Tegmark, en ciddi risklerin göz ardı edilmesinin sağlıklı ve tesadüfi olmadığını savunuyor.

“Bu tam da endüstri lobiciliğinden kaynaklanacağını tahmin ettiğim şeydi” dedi. “1955 yılında, sigaranın akciğer kanserine neden olduğunu söyleyen ilk dergi makaleleri çıktı ve hemen bir düzenleme yapılacağını düşünürdünüz. Ama hayır, 1980'e kadar sürdü, çünkü endüstrinin dikkatini dağıtmak için büyük bir baskı vardı. Şu anda olanın da bu olduğunu düşünüyorum.