Henry Kissinger'ın Son Haçlı Seferi: Tehlikeli Yapay Zekayı Durdurmak

98 yaşında, eski Dışişleri Bakanı Henry Kissinger'ın yepyeni bir ilgi alanı var: yapay zeka. 2016'daki Bilderberg konferansında, o sırada Google'ın yönetim kurulu başkanı olan Eric Schmidt tarafından konuyla ilgili bir konferansa katılmaya ikna edilmesinin ardından ilgisini çekti.

İkisi, MIT Schwarzman Bilgisayar Koleji'nin dekanı ile bir araya geldi, Daniel Huttenlocher, canlandırıcı yeni bir kitap yazacak, The Age of AI, "insan ilişkilerinde bir devrimin habercisi" dedikleri yapay zekanın hızlı yükselişinin ve kullanımının etkileri hakkında.

Kitap, yapay zeka süreçlerinin o kadar güçlü, o kadar kusursuz bir şekilde insan ilişkilerine karışmış ve o kadar öngörülemez hale geldiğini ki, biraz öngörü ve yönetim olmaksızın, sunacakları “çağ açan dönüşümlerin” insanlık tarihini tehlikeli bir yöne gönderebileceğini savunuyor.

Kissinger ve Schmidt, tasavvur ettikleri gelecek hakkında konuştular:

Dr. Kissinger, siz yaşlı bir devlet adamısınız. Yapay zekanın sizin için neden yeterince önemli bir konu olduğunu düşündünüz?

Kissinger: Ben bir lisans öğrencisiyken, 300 sayfalık lisans tezimi yazmıştım -ki bundan sonra izin verilmesi yasaklandı- "Tarihin Anlamı" olarak adlandırdım. Tarihin anlamı ve nereye gittiğimiz konusu hayatımı meşgul etti. Teknolojik mucize beni çok fazla büyülemiyor; beni büyüleyen şey, henüz tam olarak anlamadığımız yeni bir insan bilinci dönemine girmiş olmamız. İnsan bilincinin yeni bir dönemi dediğimizde, dünyanın algısının farklı olacağını kastediyoruz, en azından aydınlanma çağı ile Batı dünyasının dini bir dünya algısından diğerine geçtiği ortaçağ dönemi kadar farklı olacaktır. yavaş yavaş mantık temelinde bir dünya algısı. Bu daha hızlı olacak.

Önemli bir fark var. Aydınlanma'da inanca dayalı bir kavramsal dünya vardı. Ve böylece Galileo ve Aydınlanma'nın son öncüleri, düşüncelerini test etmek zorunda oldukları geçerli bir felsefeye sahiptiler. Bu düşüncenin gelişimini takip edebilirsiniz. Aslında hiçbir felsefesi olmayan bir dünyada yaşıyoruz; baskın bir felsefi görüş yoktur. Böylece teknoloji uzmanları çılgına dönebilir. Dünyayı değiştiren şeyler geliştirebilirler ama orada 'Bunu bir şeye entegre etmeliyiz' diyecek kimse yok.

Eric [Schmidt] ile tanıştığınızda ve sizi Google'da konuşmaya davet ettiğinde, bunun medeniyet için bir tehdit olduğunu düşündüğünüzü söylediniz. Neden böyle hissettin?

Kissinger: Bir organizasyonun bilgi sağlama konusunda tekel olmasını istemedim. Bir şirketin bilgi sağlayabilmesinin ve sağladıklarını halkın ne istediği veya makul bulduğu konusundaki çalışmasına göre ayarlayabilmesinin son derece tehlikeli olduğunu düşündüm. Böylece gerçek göreceli hale geldi. O zamanlar bildiğim tek şey buydu. Ve beni algoritmik grubuyla tanışmaya davet etmesinin nedeni, bunun keyfi olmadığını anlamamı sağlamaktı, ancak sunulanın seçiminin arkasında biraz düşünce ve analiz vardı. Bu güce sahip tek bir özel kuruluştan duyduğum korkuyu ortadan kaldırmadı. Ama ben böyle girdim.

Schmidt: Google ziyareti onu düşündürdü. Ve bundan bahsetmeye başladığımızda, Dr. Kissinger, bu teknolojiler koleksiyonunun insanlar ve onların varlığı üzerinde yaratacağı etkiden çok endişeli olduğunu ve teknologların onların etkilerini ya da tarihlerini anlamanın yararı olmadan çalıştıklarını söyledi. Ve bence bu kesinlikle doğru.

Pek çok insanın teknoloji şirketleri hakkında sizin yaptığınız veya yaptığınız gibi hissettiğini, onlara gerçekten güvenilmeyeceğini, işlerini geliştirmek için kullandıkları manipülasyonların çoğunun toplum için mutlaka büyük olmadığını göz önünde bulundurursanız, hangi rolü üstlenirsiniz? Bu yeni sistemde oynayan teknoloji liderlerini görüyor musunuz?

Teknoloji şirketlerinin, Aydınlanma nesillerinin dinden akla geçerken yaptıkları gibi insan bilincinin yeni bir dönemine giden yolu açtığını düşünüyorum ve teknoloji uzmanları bize mantığı yapay zeka ile nasıl ilişkilendireceğimizi gösteriyorlar. Bu, bazı açılardan farklı türde bir bilgi, çünkü mantıkla – içinde büyüdüğüm dünya – her kanıt diğerini destekliyor. Yapay zeka ile şaşırtıcı olan şey, doğru olan bir sonuca varıyorsunuz. Ama nedenini bilmiyorsun. Bu tamamen yeni bir meydan okuma. Ve böylece bazı yönlerden icat ettikleri şey tehlikelidir. Ama kültürümüzü geliştiriyor. Hiç icat edilmemiş olsaydık daha mı iyi olurdu? Bunu bilmiyorum. Ama şimdi var olduğuna göre, onu anlamak zorundayız. Ve ortadan kaldırılamaz. Hayatımızın çok fazla kısmı zaten onun tarafından tüketiliyor.

Sizce yapay zekanın büyümesinin birincil jeopolitik anlamı nedir?

Kissinger: Bunu henüz düşünceli bir şekilde incelediğimizi sanmıyorum. Çin ile Amerika Birleşik Devletleri arasında bir savaş hayal ediyorsanız, yapay zeka silahlarınız var. Her yapay zeka gibi onlar da planladığınız şeyde daha etkilidir. Ancak, amaçlarının ne olduğunu düşündükleri konusunda da etkili olabilirler. Ve böylece, 'Hedef A benim istediğim şey' derseniz, bu kriterleri daha da iyi karşılayan başka bir şeye karar verebilirler. Yani hafif bir belirsizlik dünyasındasınız. İkincisi, hiç kimse bu şeyleri geniş çaplı bir operasyonda gerçekten test etmediği için, her iki taraftaki AI savaş uçakları etkileşime girdiğinde tam olarak ne olacağını söyleyemezsiniz. Öyleyse, potansiyel olarak tam bir yıkıcılık ve ne yaptığınıza dair önemli bir belirsizliğin olduğu bir dünyadasınız.

I. Dünya Savaşı, herkesin çok karmaşık seferberlik senaryoları planladığı ve o kadar iyi ayarlanmıştı ki, bu iş bir kez başladığında, onu durduramazlardı çünkü kendilerini kötü bir dezavantaja sokarlardı.

Yani endişeniz, AI'ların çok etkili olması mı? Ve yaptıklarını neden yaptıklarını tam olarak bilmiyoruz?

Kissinger: Hayatımın çoğunda bahsettiğim şeyi inceledim; bunu sadece dört yıl okudum. Deep Think bilgisayarına dört saat boyunca kendisine karşı oynayarak satranç oynaması öğretildi. Ve daha önce hiçbir insanın görmediği bir satranç oyunu oynadı. En iyi bilgisayarlarımız sadece ara sıra yener. Bu, olması gerektiği gibi başka alanlarda da oluyorsa, bu bir şeydir ve dünyamız buna hiç hazır değildir.

Kitap, AI süreçleri çok hızlı ve tatmin edici olduğu için, insanların düşünme, kavramsallaştırma ve yansıtma kapasitesini kaybedip kaybetmeyeceği konusunda bazı endişeler olduğunu savunuyor. Nasıl?

Schmidt:Yani, yine, Dr. Kissinger'ı örneğimiz olarak kullanarak, 50 yıl önce, kavramsal zaman, düşünme, iletişim kurma ve benzeri açılardan işini yapmak için ne kadar zamanı olduğunu düşünelim. 50 yılda, büyük anlatı nedir? Zamanın sıkıştırılması. Kitap okuma yeteneğinden tarif edilen kitaplara geçtik, ne onları okumaya, ne onları düşünmeye ne de tartışmaya zamanımız oldu, çünkü gelen başka bir şey var. Yani bu zaman ve bilgi hızlanması, bence, gerçekten insanların kapasitelerini aşıyor. Bu ezici ve insanlar bundan şikayet ediyor; bağımlıdırlar, düşünemezler, kendi başlarına yemek yiyemezler. İnsanların bunun için yaratıldığını düşünmüyorum. Kortizon seviyelerini ve bunun gibi şeyleri belirliyor. Yani aşırı derecede,

Söylediğim ve kitapta yazan şey, bir asistana ihtiyacınız olacak. Yani sizin durumunuzda, bir muhabirsiniz, milyonlarca şey oluyor, 'Bunlar önemli şeyler. Bunlar üzerinde düşünmeniz, kayıtları araştırmanız, sizi daha da etkili kılacak şeylerdir.' Fizikçi aynıdır, kimyager aynıdır, yazar aynıdır, müzisyen aynıdır. Yani sorun şu ki, bu yapay zeka sistemine çok bağımlı hale geldiniz. Ve kitapta, diyoruz ki, AI sisteminin ne yaptığını kim kontrol ediyor? Peki ya önyargıları? Ne olacağını ne düzenler? Ve özellikle gençler için bu büyük bir endişe kaynağıdır.

Kitapta yazdığınız şeylerden biri, AI'nın nasıl bir tür iyi ve kötü yanı olduğu. Ne demek istiyorsun?

Kissinger: Google'da söylediklerimi doğal olarak kastettim. Şimdiye kadar insanlık, teknolojik ilerlemesinin faydalı veya yönetilebilir olduğunu varsayıyordu. Bunun çok faydalı olabileceğini söylüyoruz. Yönetilebilir olabilir, ancak yönetim kısmında hiç veya yeterince çalışmadığımız yönler var. endişelerim devam ediyor. Bu nedenle onu ortadan kaldırmamız gerektiğini söylemeye karşıyım. Şimdi orada. En önemli noktalardan biri, araştırmaya rehberlik edecek bir felsefenin oluşturulması gerektiğini düşünüyoruz.

Bu felsefeyi kimin yapmasını önerirsiniz? Sonraki adım nedir?

Kissinger: Soru soran birkaç küçük gruba ihtiyacımız var. Ben yüksek lisans öğrencisiyken nükleer silahlar yeniydi. Ve o sıralarda Harvard, MIT ve Caltech'teki bir dizi ilgili profesör Cumartesi öğleden sonraları bir araya gelerek "Cevap nedir?" diye sordular. Bununla nasıl başa çıkacağız? Ve silah kontrolü fikrini buldular.

Schmidt: Benzer bir sürece ihtiyacımız var. Tek bir yer olmayacak, bu tür girişimler dizisi olacak. Umutlarımdan biri, kitaba iyi bir tepki alırsak, bu posta kitabını düzenlemeye yardımcı olmak.

Bence ilk şey, bu şeylerin tek başına teknolojiyle yapılamayacak kadar güçlü olduğu. Ayrıca doğru bir şekilde düzenlenmesi de olası değildir. Bu yüzden bir felsefe inşa etmelisiniz. Kissinger kadar iyi söyleyemem ama felsefi bir çerçeveye, bu teknolojinin sınırlarının nereye gitmesi gerektiğine dair bir dizi anlayışa ihtiyacınız var. Bilimdeki deneyimime göre, bunun olmasının tek yolu bilim adamlarını ve politika insanlarını bir şekilde bir araya getirmenizdir. Bu biyolojide doğrudur, rekombinant DNA ve benzerlerinde doğrudur.

Bu grupların uluslararası ölçekte olması gerekiyor mu? BM'nin himayesi altında mı, yoksa kimin?

Schmidt: Bu şeylerin tipik olarak çalışma şekli, bunu düşünen nispeten küçük, nispeten elit gruplar var ve bunların bir araya getirilmesi gerekiyor. Örneğin, oldukça iyi bir Oxford AI ve Ethics Strategy Group var. Dünyada küçük cepler var. Çin'de de bildiğim bir sayı var. Ama birlikte dikilmiyorlar; bu başlangıç. Yani bizim inandığımız şeye inanıyorsanız - ki bu on yıl içinde, bu şey çok güçlü olacak - şimdi sonuçları düşünmeye başlasak iyi olur.

Askeri doktrinle ilgili en sevdiğim örneği vereceğim. Her şey hızlanıyor. İstemediğimiz şey, kendi durum analizlerine göre otomatik olarak ateşlenen silahlar.

Kissinger: Saldırgan insan beyninin analiz edebileceğinden daha hızlı olabileceğinden, bu bir kısır döngüdür. Bunu otomatik hale getirmek için bir teşvikiniz var, ancak o kadar otomatik hale getirmek istemiyorsunuz ki, yapamayacağınız bir yargıya göre hareket edebilir.

Schmidt: Yani bugün bu noktada farklı büyük ülkeler arasında bir tartışma yok. Ve yine de, bariz sorun bu. İnsan hızı olan şeyler hakkında birçok tartışmamız var. Peki ya her şey insanlar için çok hızlı olduğunda? Bu sistemlerin ne kadar hızlı çalıştığı konusunda bazı sınırlar, karşılıklı sınırlar üzerinde anlaşmamız gerekiyor, çünkü aksi takdirde çok istikrarsız bir duruma girebiliriz.

İnsanların sizden gelenleri yutmakta nasıl bu kadar zor bulduklarını anlayabilirsiniz. Çünkü Google'ın tüm başarısı, ne kadar bilginin ne kadar hızlı teslim edilebileceğine dayanıyordu. Pek çok insan , "Aslında bu senin ortaya çıkmasına yardım ettiğin bir problem" derdi .

Schmidt: Yaptım, suçluyum. Diğer birçok insanla birlikte çok, çok hızlı platformlar oluşturduk. Ve bazen insanların anlayabileceğinden daha hızlıdırlar. Bu bir sorun.

Hiç teknolojinin önüne geçtik mi? Her zaman geldikten sonra cevap vermedik mi? Neler olduğunu anlamadığımız doğrudur. Ancak insanlar başlangıçta anahtarı çevirdiklerinde ışığın neden yandığını anlamadılar. Aynı şekilde, birçok insan AI hakkında endişelenmiyor.

Schmidt: Tüm bu teknolojilerin yanlış kullanımı konusunda çok endişeliyim. İnternetin hükümetler tarafından seçimlere müdahale etmek için kullanılmasını beklemiyordum. Hiç aklıma gelmedi. Ben hatalıydım. İnternetin antivax hareketini bu kadar korkunç bir şekilde güçlendirmek için kullanılacağını beklemiyordum. Ben hatalıydım. Onu özledim. Bir sonrakini kaçırmayacağız. Önceden arayacağız.

Kissinger: Bilseydin ne yapardın?

Schmidt: Bilmiyorum. Farklı bir şey yapabilirdim. 10 yıl önce bilseydim, farklı ürünler yapabilirdim. Farklı bir şekilde lobi yapabilirdim. Daha farklı bir şekilde konuşmalar yapabilirdim. İnsanlara alarmı olay olmadan önce verebilirdim.

Kaderci olduğu yönündeki argümanınızın çizgisine katılmıyorum. Teknolojinin ne getireceğini kabaca biliyoruz. 10 yıllık bir ufukta, kesinlikle beş yıllık bir ufukta teknolojiyi oldukça doğru bir şekilde tahmin edebiliriz. Biz de kitabımızda olacakları yazmaya çalıştık. Ve insanların bununla ilgilenmesini istiyoruz. Bu sorunları nasıl çözeceğimize dair kendi evcil hayvan cevaplarım var. Kitapta yanlış bilgiyi nasıl çözeceğinize dair küçük bir referansımız var, bu çok daha kötüye gidecek. Ve bunu çözmenin yolu, esasen bilginin kriptografik olarak nereden geldiğini bilmek ve ardından en iyi bilginin en üstte olması için sıralama yapmaktır.

Bunun sonucunda siyasetin nasıl değiştiğini kimse tahmin edebilir miydi bilmiyorum. Onlara bir şeyler icat etme hediyesi verilmiş olması, insan kaderinin ve insanlık trajedisinin doğası olabilir. Ancak ceza, çözümleri kendilerinin bulmak zorunda olmaları olabilir. Herhangi bir teknolojik tartışmaya girmek için hiçbir teşvikim yoktu. 90'larımda Eric ile çalışmaya başladım. Her üç veya dört haftada bir, katıldığı dört veya beş kişilik küçük seminerler düzenledi. Bu konuları tartışıyorduk ve ne yapabileceğimizi görmek için burada gündeme getirdiğiniz soruların çoğunu gündeme getiriyorduk. O zaman, sadece tartışmacıydı; sonra, dönemin sonunda Dan Huttenlocher'ı davet ettik, çünkü teknik olarak çok yetenekli, nasıl yazacağımızı görmek için. Sonra üçümüz bir yıl boyunca her Pazar öğleden sonra buluştuk. Yani bu sadece patlama değil.

Schmidt: Öyleyse, umduğumuz şey, grupların nasıl çözüleceğini bulmaları için sorunları ortaya koymuş olmamız. Ve bunlardan birkaçı var: çocuklar üzerindeki etkisi, savaş üzerindeki etkisi, bilim üzerindeki etkisi, siyaset üzerindeki etkisi, insanlık üzerindeki etkisi. Ama hemen şimdi söylemek istiyoruz ki, bu girişimlerin şimdi başlaması gerekiyor.

Son olarak, her birinize birbiriyle alakalı bir soru sormak istiyorum. Kissinger, 50 yıl sonra birisi adınızı Google'da arasa, hakkınızda ilk gerçeğin ne olmasını isterdiniz?

Kissinger: Barış kavramına biraz katkıda bulunduğumu. Aslında yaptığım bazı şeylerle de hatırlanmak isterim. Ama bir cümleyle özetlememi isterseniz, yazdıklarıma bakarsanız, hepsi aynı temaya doğru birlikte çalışır.

Ve Bay Schmidt, insanların barış anlayışına katkınız olarak ne düşünmesini istersiniz?

Amerikan şirketlerinin tarihi göz önüne alındığında, Google'ın 50 yıl sonra var olma ihtimali o kadar yüksek değil. İnsanlığın basitleştirilmiş bir versiyonu olan teknoloji endüstrisinde büyüdüm. Tüm sinir bozucu zor sorunlardan kurtulduk, değil mi? Umarım teknoloji ve insanlık arasında benim kuşağımdaki herkesten daha derin bir köprü kurmuşumdur.