IşıkHaber
New member
David Nield
Yapay zekânın insan çeşidini alt edeceği fikri on senelerdan beridir konuşuluyor ve bir küme bilim insanı, Ocak 2021’de, üst seviye bir bilgisayarın barındırdığı üstün zekâyı denetim edip edemeyeceğimize ait bir karara vardı. Karşılık mı? Onu denetim etmek neredeyse imkansız.
Sıkıntı şu ki, insanların kavrama gücünün epey ötesinde bir üstün zekayı denetim etmek için tahlil edebileceğimiz bir harika zeka simülasyonuna gereksinimimiz var. Ancak şayet bunu kavrayamayacaksak, bu biçimde bir simülasyonu yaratmak da mümkün değil.
ANLAYAMIYORSAN DENETLEYEMEZSİN!
2021 tarihindeki makalenin müelliflerine bakılırsa, bir yapay zekanın ne üzere senaryolar üretebileceğini anlayamadığımız bir durumda ‘insanlara ziyan vermemek’ üzere kurallar da koyamayız. Şayet bir bilgisayar sistemi programcılarımızın kapasitesinin üzerindeki bir düzeyde çalışıyorsa, ona artık bir sınırlama getiremeyiz.
Araştırmacılar, “Bir muhteşem zeka, temelde, tipik olarak ‘robot etiği’ başlığı altında tartışılan olgulardan farklı bir sorun oluşturuyor” diye not ediyorlar.
“Bunun niçini, bir muhteşem zekânın hayli karmaşık olması ve bu yüzden potansiyel olarak anlayamadığımız maksatlara ulaşmak doğrultusunda, potansiyel olarak biroldukça farklı kaynağı harekete geçirme hünerine sahip olması.”
Araştırma grubunun ortaya koyduğu münasebetlerin bir kısmı, Alan Turing’in 1936 yılında öne sürdüğü ‘duraksatma’ [ing. halting] sıkıntısından kaynaklanıyor. Sorun, bir bilgisayar programının cevap ararken bir sonuca ulaşıp ulaşmayacağını (bu yüzden duraksayabilir) ya da sırf bir cevap bulmaya çalışırken sonsuza dek bir döngüde takılı kalıp kalmayacağını bilmek üzerine odaklanıyor.
Turing’in birtakım zekice hesaplamalarla ispatladığı üzere, kimi belli programlar bağlamında bunu bilebilirken, şu ana dek yazılabilecek her potansiyel program için bunu bilmemize imkan sağlayacak bir yol bulmamız mantıksal olarak imkansız. Bu gerçek, bizi, muhteşem akıllı bir durum kelam konusu olduğunda, mümkün olan tüm bilgisayar programlarını tıpkı anda hafızasında tutabilen bir yapay zekaya geri getiriyor.
NE YAPACAĞINA KENDİSİ KARAR VERECEK
Yapay zekanın insanlara ziyan vermesini ve dünyayı yok etmesini önlemek maksadıyla yazılacak rastgele bir program, tahminen bir sonuca varabilir (ve işleyişini durdurabilir) ya da bu biçimde olmayabilir; her iki durumda da kesin halde emin olmamız matematiksel bağlamda mümkün değil ve bu da denetim edilemeyeceği manasına geliyor.
Almanya’da bulunan Max-Planck İnsani Gelişim Enstitüsü’nde bilgisayar bilimci olan Iyad Rahwan, ocak ayında verdiği bir demeçte, “Aslında bu durum, sınırlayıcı bir algoritmayı fonksiyonsuz hale getiriyor” demişti.
Araştırmacıların aktardığı kadarıyla, yapay zekaya bir ölçü etik öğretmenin ve -hiç bir algoritmanın tam manasıyla kesin olarak yapamayacağı- dünyayı yok etmemesini telkin etme seçeneğinin alternatifi, muhteşem zekanın maharetlerini sınırlamak olabilir. örneğin, internetin kimi kısımlarıyla ya da belli ağlarla kontağı kesilebilir.
Son periyotta gerçekleştirilen araştırma, bunun, yapay zekanın erişimini sınırlayacağını savunarak bu fikri de reddediyor; burada öne sürülen münasebet, “Şayet onu insanların denetimi haricindeki problemleri çözmek için kullanmayacaksak, niye onu yaratalım” halinde.
ÖNEMLİ SORULAR SORMAMIZIN VAKTİ GELDİ
Şayet yolumuza yapay zeka ile devam edeceksek, denetimimiz altında olmayan bir harika zekanın ne vakit ortaya çıkacağını dahi bilemeyebiliriz; onu anlaşılmaz kılan şey de işte bu. Bu gerçek ise, ilerleyeceğimiz doğrultuyla ilgili önemli sorular sormaya başlamamız gerektiği manasına geliyor.
Max-Planck İnsani Gelişim Enstitüsü’nden bilgisayar bilimci Manuel Cebrian, “Dünyayı denetim eden harika akıllı bir makine, kulağa bir bilim kurgu öğesi üzere geliyor” diyor. “Ne var ki, programcıların çabucak hemen nasıl öğrendiklerini kesin olarak anlamadığı fakat kimi önemli nazaranvleri bağımsız halde yerine getiren makineler halihazırda mevcut.”
“Bu yüzden, bunun bir yerden daha sonra insanlık açısından denetim dışı ve tehlikeli bir hale gelip gelmeyeceği sorusu karşımızda duruyor.”
Araştırma, Journal of Artificial Intelligence Research [Yapay Zeka Araştırmaları] isimli mecmuada yayınlandı
Yazının özgünü Science Alert sitesinden alınmıştır. (Çeviren: Tarkan Tufan)
Yapay zekânın insan çeşidini alt edeceği fikri on senelerdan beridir konuşuluyor ve bir küme bilim insanı, Ocak 2021’de, üst seviye bir bilgisayarın barındırdığı üstün zekâyı denetim edip edemeyeceğimize ait bir karara vardı. Karşılık mı? Onu denetim etmek neredeyse imkansız.
Sıkıntı şu ki, insanların kavrama gücünün epey ötesinde bir üstün zekayı denetim etmek için tahlil edebileceğimiz bir harika zeka simülasyonuna gereksinimimiz var. Ancak şayet bunu kavrayamayacaksak, bu biçimde bir simülasyonu yaratmak da mümkün değil.
ANLAYAMIYORSAN DENETLEYEMEZSİN!
2021 tarihindeki makalenin müelliflerine bakılırsa, bir yapay zekanın ne üzere senaryolar üretebileceğini anlayamadığımız bir durumda ‘insanlara ziyan vermemek’ üzere kurallar da koyamayız. Şayet bir bilgisayar sistemi programcılarımızın kapasitesinin üzerindeki bir düzeyde çalışıyorsa, ona artık bir sınırlama getiremeyiz.
Araştırmacılar, “Bir muhteşem zeka, temelde, tipik olarak ‘robot etiği’ başlığı altında tartışılan olgulardan farklı bir sorun oluşturuyor” diye not ediyorlar.
“Bunun niçini, bir muhteşem zekânın hayli karmaşık olması ve bu yüzden potansiyel olarak anlayamadığımız maksatlara ulaşmak doğrultusunda, potansiyel olarak biroldukça farklı kaynağı harekete geçirme hünerine sahip olması.”
Araştırma grubunun ortaya koyduğu münasebetlerin bir kısmı, Alan Turing’in 1936 yılında öne sürdüğü ‘duraksatma’ [ing. halting] sıkıntısından kaynaklanıyor. Sorun, bir bilgisayar programının cevap ararken bir sonuca ulaşıp ulaşmayacağını (bu yüzden duraksayabilir) ya da sırf bir cevap bulmaya çalışırken sonsuza dek bir döngüde takılı kalıp kalmayacağını bilmek üzerine odaklanıyor.
Turing’in birtakım zekice hesaplamalarla ispatladığı üzere, kimi belli programlar bağlamında bunu bilebilirken, şu ana dek yazılabilecek her potansiyel program için bunu bilmemize imkan sağlayacak bir yol bulmamız mantıksal olarak imkansız. Bu gerçek, bizi, muhteşem akıllı bir durum kelam konusu olduğunda, mümkün olan tüm bilgisayar programlarını tıpkı anda hafızasında tutabilen bir yapay zekaya geri getiriyor.
NE YAPACAĞINA KENDİSİ KARAR VERECEK
Yapay zekanın insanlara ziyan vermesini ve dünyayı yok etmesini önlemek maksadıyla yazılacak rastgele bir program, tahminen bir sonuca varabilir (ve işleyişini durdurabilir) ya da bu biçimde olmayabilir; her iki durumda da kesin halde emin olmamız matematiksel bağlamda mümkün değil ve bu da denetim edilemeyeceği manasına geliyor.
Almanya’da bulunan Max-Planck İnsani Gelişim Enstitüsü’nde bilgisayar bilimci olan Iyad Rahwan, ocak ayında verdiği bir demeçte, “Aslında bu durum, sınırlayıcı bir algoritmayı fonksiyonsuz hale getiriyor” demişti.
Araştırmacıların aktardığı kadarıyla, yapay zekaya bir ölçü etik öğretmenin ve -hiç bir algoritmanın tam manasıyla kesin olarak yapamayacağı- dünyayı yok etmemesini telkin etme seçeneğinin alternatifi, muhteşem zekanın maharetlerini sınırlamak olabilir. örneğin, internetin kimi kısımlarıyla ya da belli ağlarla kontağı kesilebilir.
Son periyotta gerçekleştirilen araştırma, bunun, yapay zekanın erişimini sınırlayacağını savunarak bu fikri de reddediyor; burada öne sürülen münasebet, “Şayet onu insanların denetimi haricindeki problemleri çözmek için kullanmayacaksak, niye onu yaratalım” halinde.
ÖNEMLİ SORULAR SORMAMIZIN VAKTİ GELDİ
Şayet yolumuza yapay zeka ile devam edeceksek, denetimimiz altında olmayan bir harika zekanın ne vakit ortaya çıkacağını dahi bilemeyebiliriz; onu anlaşılmaz kılan şey de işte bu. Bu gerçek ise, ilerleyeceğimiz doğrultuyla ilgili önemli sorular sormaya başlamamız gerektiği manasına geliyor.
Max-Planck İnsani Gelişim Enstitüsü’nden bilgisayar bilimci Manuel Cebrian, “Dünyayı denetim eden harika akıllı bir makine, kulağa bir bilim kurgu öğesi üzere geliyor” diyor. “Ne var ki, programcıların çabucak hemen nasıl öğrendiklerini kesin olarak anlamadığı fakat kimi önemli nazaranvleri bağımsız halde yerine getiren makineler halihazırda mevcut.”
“Bu yüzden, bunun bir yerden daha sonra insanlık açısından denetim dışı ve tehlikeli bir hale gelip gelmeyeceği sorusu karşımızda duruyor.”
Araştırma, Journal of Artificial Intelligence Research [Yapay Zeka Araştırmaları] isimli mecmuada yayınlandı
Yazının özgünü Science Alert sitesinden alınmıştır. (Çeviren: Tarkan Tufan)