Tanınmış AI Guru Olarak AI Sarsıntısı, Aynı zamanda AI Etiği ve AI Yasasını Yerine Getiren Akıl Almaz "Ölümlü Bilgisayarlar" Öneriyor

İşte muhtemelen henüz üzerinde düşünmediğiniz bir şey: Ölümlü bilgisayarlar.

Ama belki de öyle olmalısın.

Çarpıcı konu, özellikle sinir ağları ve makine öğreniminin ortaya çıkışına odaklanan yapay zeka üzerine son zamanlarda yapılan ve oldukça öne çıkan yıllık konferansta, yani Nöral Bilgi İşleme Sistemleri Konferansı'nda (içeridekiler tarafından şöyle bilinir) gündeme geldi: NörIPS). Davet edilen açılış konuşmacısı ve uzun süredir AI gurusu olarak kabul edilen Geoffrey Hinton, bilgisayarları ölümlü ve ölümsüz bir bağlamda düşünmemiz gerektiğine dair ilgi çekici ve belki de tartışmalı bir iddia ortaya attı.

Dikkate değer iddiayı ele alacağım ve bunu iki şekilde yapacağım, ilk başta mutlaka bağlantılı görünmeyecektir, ancak biraz daha fazla açıklama yaptıktan sonra bunlar ölümlü ve ölümsüz çekişmeler konusunda birbirleriyle daha net bir şekilde ilişkili hale gelecekler.

İki konu:

1) Yapay zeka mekanizasyonları için hem donanımı hem de yazılımı ayrı ve ayrı müttefikler olarak kullanmak yerine bütünleşik olarak birbirine bağlamak

2) Makine öğrenimi formülasyonlarının bir yapay zeka modelinden diğerine aktarılması veya damıtılması, bunu düz bir tam safkan kopyalama gerektirmeden veya zorunlu olarak istemeden (hatta başka bir şekilde mümkün olsa bile) yapar.

Tüm bunlar, yapay zeka ve yapay zeka gelişiminin gelecekteki yönü için büyük önem taşıyor.

Ayrıca, ortaya çıkan çok çetrefilli AI Etiği ve AI Yasası endişeleri de var. Yapay zeka tarafından tasavvur edilen bu tür teknolojik gelişmeler, kayda değer Etik Yapay Zeka ve Yapay Zeka Yasası yansımalarına sahip olabileceği fark edilmeden çok önce, genellikle tamamen teknolojik bir temelde ortalıkta dolaşmaktadır. Bir anlamda, genellikle, kedi çoktan çantadan çıkmıştır veya at ahırdan çıkmıştır, uyanıştan önce AI Etik ve AI Yasasına gerekli özenin gösterilmesi gerekir.

Pekala, hadi bu gecikmiş düşünce döngüsünü kıralım ve bunun için zemin kata geçelim.

Yapay Zeka Etiği ve Yapay Zeka Yasasının altında yatan en son içgörülerle genel olarak ilgilenenleriniz için, şu adresteki devam eden ve kapsamlı kapsamımı bilgilendirici ve ilham verici bir şekilde ilgi çekici bulabilirsiniz. buradaki bağlantı ve buradaki bağlantı, Sadece birkaç isim.

Burada ilk olarak, donanım ve yazılımın birbirine bağlanmasıyla ilgili yukarıdaki noktayı ele alacağım. Konunun tartışılması ve analizi el ele gerçekleşecektir. Sonra, kopyalama konusuna değineceğim ya da bazıları şöyle der: damıtarak bir yapay zekadan hedef olarak yeni tasarlanmış bir yapay zekaya kadar bir makine öğrenimi yapay zeka sisteminin önemli unsurları.

Başlayalım.

Yapay Zeka İçin Donanım ve Yazılımın Birbirine Bağlanması

Muhtemelen, bilgisayarların tasarımının, şeylerin donanım tarafı ve ayrı olarak yazılım tarafı olacak şekilde olduğunu biliyorsunuzdur. Günlük bir dizüstü veya masaüstü bilgisayar satın aldığınızda, genel amaçlı bir bilgi işlem aygıtı olarak yorumlanır. Bilgisayarın içinde, kendi başınıza satın alabileceğiniz veya yazabileceğiniz yazılımları çalıştırmak ve yürütmek için kullanılan mikroişlemciler vardır.

Bilgisayarınız için herhangi bir yazılım olmadan, bir kağıt ağırlığı gibi davranmaktan başka temelde size pek bir faydası olmayacak bir metal ve plastik yığınıdır. Bazıları yazılımın kral olduğunu ve dünyayı yönettiğini söyler. Elbette, yazılımı çalıştıracak bir donanıma sahip değilseniz, yazılım pek bir işe yaramayacaktır. Canınızın istediği kadar çok satır kod yazabilirsiniz, ancak yazılım bir bilgisayar aracılığıyla kullanılıncaya kadar formüle edilmiş kaynak kodu, güzel bir şiir eseri veya dakikası heyecanlı bir polisiye romanı kadar dayanıksız ve uçamaz.

Bir an için çok uzak gibi görünebilecek (olmayacak) başka bir caddeye geçmeme izin verin.

Sık sık bilgisayarların nasıl çalıştığı ile insan beyninin nasıl çalıştığı arasında benzerlikler kurmaya çalışırız. Bu kavramsal paralellikler kurma girişimi kullanışlıdır. Bununla birlikte, etli ayrıntılara yaklaştığınızda karşılaştırmalar bozulma eğiliminde olduğundan, bu analojilerde aşırıya kaçma konusunda dikkatli olmalısınız.

Her neyse, tartışmak için burada sık sık kullanılan bir benzetme var.

Beynin kendisi gayri resmi olarak zaman zaman beyin olarak adlandırılır. ıslak eşya. Bu, bir şeyleri ifade etmenin akılda kalıcı bir yolu. Bilgisayarların donanım ve yazılımdan oluştuğunu biliyoruz, bu nedenle beynin ne anlama geldiğini açıklamak için madalyonun "ware" kısmını kullanmak akıllıca olacaktır. Beynimize yuvalanmış, kudretli ve gizemli beyin etrafta yüzer halde bulunur, zihinsel olarak tüm eylemlerimizi hesaplar (bazıları iyi, bazı düşüncelerimiz ise kesinlikle iyilikle dolu değildir).

Ortalama ağırlığı sadece üç pound olan beyin, dikkate değer bir organdır. Bir şekilde ve henüz nasıl olduğunu bilmiyoruz, beyin, 100 milyar civarında nöronu ve belki de 100 ila 1,000 trilyon ara bağlantı veya sinapsları bizim yerimize tüm düşüncelerimizi yapmak için kullanabiliyor. Beynin biyolojik ve kimyasal özellikleri zekayı nasıl doğurur? Kimse kesin olarak söyleyemez. Bu çağların arayışıdır.

Size şunu soruyorum, beyin görünüşte sadece donanımdan mı ibaret yoksa hem donanım hem de yazılım bir arada mı?

O zeka oyununda erişte.

Beynin sadece bir donanım olduğunu (genel anlamda) iddia etme eğiliminde olabilirsiniz. Vücudun bir organıdır. Benzer şekilde, kalbin donanım, mesanenin donanım vb. olduğunu söyleyebilirsiniz. Fiziksel bir forma sahip olan ve fiziksel olarak ilgili eylemler gerçekleştiren eserler hakkında konuştuğumuzda bunların hepsi mekanizasyonlara benziyor.

O halde insanları çalıştıran yazılım nerede?

İnsanlığın "yazılımı"nın bir şekilde beyinde bulunduğu konusunda hepimizin hemfikir olduğunu söyleyebilirim. Yumurta pişirmek ya da patlak lastiği tamir etmek için atılması gereken adımlar, beynimizde vücut bulan talimatlardır. Daha önce not edilen donanım ve yazılım bilgisayar analojisini kullanırsak, beynimiz adeta bir donanım parçasıdır, onun için dünya hakkında bilgi ediniriz ve ne yapacağımıza dair talimatlar beynimizde "çalışır" ve "depolanır".

Bir bilgisayarda, donanımı kolayca işaret edebilir ve bunun donanım olduğunu söyleyebiliriz. Kaynak kodunun bir listesine sahip olabilir ve listeyi yazılım olarak gösterebiliriz. Günümüzde elektronik olarak çevrimiçi yazılım indirip dizüstü bilgisayarlarımıza ve akıllı telefonlarımıza yüklüyoruz. Eski zamanlarda, bilgisayar donanımına yüklemek için yazılımlarımızı depolamak için disketler ve delikli kartlar kullanırdık.

Seni önemli bir bilmeceye sokuyorum.

Bir şey öğrendiğinizde ve bilgi beyninizde mevcut olduğunda, beyninizin “donanımı” ile beyninizin varsayılan “yazılımı” arasında hala ayrım yapabilir misiniz?

Tartışılan bir pozisyon, beyninizdeki bilginin donanım ve yazılım kavramlarından özellikle ayrılamaz olduğudur. Bazıları hararetle iddia edecekleri gibi, bilgisayarların doğasıyla kurulan analoji bu şekilde bozulur. Beyindeki bilgi, beyninizin donanımıyla iç içedir ve ondan ayrılamaz. Biyolojik ve kimyasal özellikler, zihinsel olarak sahip olduğunuz bilgileri iç içe geçiriyor.

Biraz zihinsel yansıma için buna güvenin.

Bir gün insan zekasına eşit, hatta insan zekasını aşan bilgisayarlar tasarlamayı umarsak, belki de beynin yapılarını ve iç işleyişini böylesine yüce bir hedefe ulaşmak için ne yapmamız gerektiğine dair bir rehber olarak kullanabiliriz. Yapay zeka alanındaki bazıları için, beynin nasıl çalıştığı hakkında ne kadar çok şey bilirsek, bazen Yapay Genel Zeka (AGI) olarak adlandırılan gerçek yapay zekayı tasarlama şansımızın o kadar yüksek olduğuna dair bir inanç vardır.

AI'daki diğerleri, beynin nasıl çalıştığını bilmek zorunda olmaktan daha az etkilenir. Beynin gizli iç işleyişini çözüp çözemesek de yapay zeka oluşturmak için hızla ilerleyebileceğimizi vurguluyorlar. Beynin gizemlerinin AI çabalarımızı engellemesine izin vermeyin. Elbette, insan beyninin kodunu çözmeye ve deşifre etmeye devam edin, ancak oturup beynin tersine mühendislik yapmasını bekleyemeyiz. Bu bir gün yapılabilirse, harika bir haber, ancak belki de imkansız veya çok uzun zaman sonra gerçekleşecek.

Artık sizinle ölümcül ve ölümsüz bilgisayar çekişmesini paylaşmaya hazırım. Lütfen oturduğunuzdan ve büyük açıklama için hazır olduğunuzdan emin olun.

Donanım ve yazılımın net bir şekilde ayrıldığı bir bilgisayarın "ölümsüz" olduğu iddia edilebilir, çünkü donanım sonsuza kadar devam edebilir (elbette sınırlar dahilinde), yazılım tekrar tekrar yazılabilir ve yeniden yazılabilir. Donanımı onarabildiğiniz ve aygıtın çalışmaya devam etmesini sağlayabildiğiniz sürece geleneksel bir bilgisayarı çalışır durumda tutabilirsiniz. 1970'lerin kaba ev bilgisayarlarından, yaklaşık elli yaşında olmalarına rağmen (uzun bir süredir) montaj için kitler halinde gelenleri bugün hala kullanabilirsiniz. bilgisayar yılları).

Varsayalım ki, donanım ve yazılım ayrılmaz bir şekilde çalışan bilgisayarlar yapmaya karar verdik (kısaca bunun hakkında daha fazla bilgi vereceğim). Bunu, daha önce beynin belki de donanım ve yazılımın ayrılmaz bir bileşimine sahip olduğundan bahsettiğim temelde değerlendirin. Eğer durum buysa, bu türden bilgisayarların artık ölümsüz olmayacağı söylenebilir. Bunun yerine "ölümlü" olarak yorumlanacaktır.

Davet edilen açılış konuşmacısı ve dikkate değer AI gurusu Geoffrey Hinton tarafından NeurIPS konferansında yapılan açıklamalara ve beraberindeki araştırma makalesinde belirtildiği gibi:

• "Genel amaçlı dijital bilgisayarlar, talimatları sadakatle takip edecek şekilde tasarlandı çünkü genel amaçlı bir bilgisayarı belirli bir görevi yerine getirmenin tek yolunun, tam olarak ne yapılması gerektiğini dayanılmaz ayrıntılarla belirten bir program yazmak olduğu varsayıldı. Bu artık doğru değil, ancak araştırma topluluğu, derin öğrenmenin bilgisayarların inşa edilme şekli üzerindeki uzun vadeli etkilerini anlamakta yavaş kaldı. Daha spesifik olarak topluluk, aynı programın veya aynı ağırlık setinin donanımın farklı bir fiziksel kopyasında çalıştırılabilmesi için yazılımın donanımdan ayrılabilmesi gerektiği fikrine sarıldı. Bu, programda yer alan bilgiyi öldürür veya ağırlıkları ölümsüz kılar: Donanım öldüğünde bilgi ölmez” (“İleri-İleri Algoritma: Bazı Ön Araştırmalar” araştırma makalesinde yer aldığı ve alıntılandığı gibi, ön baskısı çevrimiçi olarak mevcuttur) .

Bu yapay zeka türünde tartışılan belirli bilgi işlem türünün Yapay Sinir Ağlarını (YSA) kullandığını unutmayın.

Bu konuda işleri düzeltelim.

Beynimizde gerçek dünya biyolojik nöronları var. Onları her zaman kullanırsın. Biyolojik ve kimyasal olarak kafanızdaki bir ağa bağlanırlar. Böylece, bunu bir olarak ifade edebiliriz. sinir ağı.

Başka yerlerde, yapay zeka tasarlamak amacıyla bilgisayarlarda hesaplamalı olarak temsil ettiğimiz sahte "nöronlar" var mı diyelim? AI'daki birçok kişi, bunlara sinir ağları olarak da atıfta bulunur. Bunun biraz kafa karıştırıcı olduğuna inanıyorum. Görüyorsun, onlara şu şekilde atıfta bulunmayı tercih ediyorum: yapay nöral ağlar. Bu, kafanızdaki bir referansı hemen ayırt etmenize yardımcı olur. nöral ağlar (gerçek şey olduğu gibi) ve bilgisayar tabanlı olanlar (yapay nöral ağlar).

Herkes bu duruşu almıyor. Yapay zekadaki pek çok insan, yapay zekadaki diğer herkesin sinir ağlarına atıfta bulunurken neredeyse her zaman YSA'lardan bahsettiklerini "bildiğini" varsayar - herhangi bir nedenle gerçek nöronları ve gerçek sinir ağlarını tartışmak istedikleri bir durum ortaya çıkmadıkça. beyin.

Sürüklenmemi anlayacağına güveniyorum. Çoğu zaman, yapay zeka insanları "sinir ağları" diyecektir ki bu potansiyel olarak belirsizdir çünkü bunların kafamızdaki gerçek ağlardan mı yoksa bilgisayarlara programladığımız hesaplamalı ağlardan mı bahsettiğini bilemezsiniz. Ancak yapay zeka insanları genellikle bilgisayar tabanlı örneklerle uğraştıklarından, varsayılan olarak yapay sinir ağlarından bahsettiğinizi varsayarlar. Niyetler hakkında daha net olmak için ifadelerin ön ucuna "yapay" kelimesini eklemeyi seviyorum.

Devam edersek, bu hesaplamalı yapay nöronları, beyinde biyokimyasal olarak normalde gerçekleşen ağırlıklandırma faktörleri olarak sayısal değerleri kullanmak gibi, gerçek biyokimyasal fiziksel nöronların yaptığını düşündüğümüz şeyin matematiksel veya hesaplamalı bir simülasyonu olarak düşünebilirsiniz. Bugün, bu simülasyonlar neredeyse gerçek nöronlar kadar karmaşık değil. Mevcut YSA'lar son derece ham matematiksel ve hesaplamalı bir temsildir.

Genel olarak, YSA'lar genellikle makine öğrenimi (ML) ve derin öğrenme (DL) için temel unsurdur - lütfen bunun için çok daha fazla ayrıntı olduğunu unutmayın ve kapsamlı ML/DL kapsamıma bir göz atmanızı tavsiye ederim. de buradaki bağlantı ve buradaki bağlantı, Örneğin.

Ölümsüz ve ölümlü bilgisayar türlerine dönersek, araştırmacıya göre üzerinde düşünülmesi gereken daha çok şey var:

• "Yazılımın donanımdan ayrılması, Bilgisayar Biliminin temellerinden biridir ve birçok faydası vardır. Elektrik mühendisliği hakkında endişelenmeden programların özelliklerini incelemeyi mümkün kılar. Bir programı bir kez yazıp milyonlarca bilgisayara kopyalamayı mümkün kılar. Bununla birlikte, ölümsüzlüğü terk etmeye istekliysek, bir hesaplamayı gerçekleştirmek için gereken enerjide ve hesaplamayı yürüten donanımı imal etme maliyetinde büyük tasarruflar elde etmek mümkün olacaktır. Aynı görevi gerçekleştirmesi amaçlanan farklı donanım örneklerinin bağlantılarında ve doğrusal olmamalarında büyük ve bilinmeyen varyasyonlara izin verebilir ve her bir belirli örneğin bilinmeyen özelliklerini etkili bir şekilde kullanan parametre değerlerini keşfetmek için bir öğrenme prosedürüne güvenebiliriz. donanım. Bu parametre değerleri yalnızca belirli bir donanım örneği için kullanışlıdır, dolayısıyla gerçekleştirdikleri hesaplama ölümcüldür: donanımla birlikte ölür” (ibid).

Artık ölümsüz ve ölümlü kelimelerinin bu bağlamda nasıl kullanıldığıyla tanıştınız.

Detaylandırayım.

Önerme, YSA'lara dayalı olarak amaca yönelik olarak oluşturulmuş bir bilgisayarın, donanım ve yazılımın ayrılmaz olduğu düşünülecek şekilde tasarlanabileceğidir. Donanım bir gün artık çalışmadığında (tabii ki, yazılımın bütünleşik olarak iç içe geçtiğini söylüyoruz), bu tür bir bilgisayar görünüşte artık kullanışlı değil ve artık çalışmayacaktır. Ölümlü olduğu söyleniyor. YSA tabanlı bilgisayarı gömebilirsiniz, çünkü ayrılmaz donanım ve yazılım artık bir ekip olarak uygun şekilde çalışmadıktan sonra bundan böyle size pek faydası olmayacaktır.

Bunu bir insan beyni benzetmesi ile ilişkilendirmek isteseydiniz, tamamen bozulan veya bir şekilde onarılamaz bir şekilde zarar görmüş bir insan beyninin kasvetli durumunu hayal edebilirsiniz. Bir kişinin ölümlü olduğu ve beyninin eninde sonunda ve kaçınılmaz olarak çalışmayı durduracağı fikrini kabul ediyoruz. Beyinlerinde barındırdıkları bilgi artık mevcut değildir. Başkalarına anlatmaya çalışmadıkça veya bildiklerini yazmadıkça, bilgileri tüm dünyaya yayıldı.

İnsanların bir gün ölümsüz olabileceği ya da en azından alışılmış yaşam sürelerinin ötesine geçebileceği teorisi altında beyinleri donmuş bir duruma sokmak gibi korumaya yönelik girişimlere dair raporları şüphesiz duymuş ya da görmüşsünüzdür. Beyniniz, vücudunuzda olmasa bile yaşamaya devam edebilir. Pek çok bilim kurgu filmi ve hikayesi bu tür fikirler üzerine spekülasyon yaptı.

Artık bir kavram olarak ölümlü bilgisayara ve ölümsüz bilgisayara ve onun ne söylediğine ayrıntılı bir bakış için hazırız.

Dikkatli Tartışma ve Düşünceli Analiz

Öngörülen yaklaşımın bu analizinin derinliklerine dalmadan önce, birkaç önemli uyarı ve ek noktadan bahsetmeye değer.

Araştırmacı, icat edilen ölümlü bilgisayarlar özellikle yerini almaz veya varlığını ortadan kaldırmaz ölümsüz bilgisayarlar bugün geleneksel dijital bilgisayarlar olarak adlandırdığımız. Her iki bilgisayar türünün bir arada var olması gerekirdi. Bunu söylüyorum çünkü bazılarının tepkisi, emir çağrısının bir örtü iddiası olduğu şeklinde oldu. herşey bilgisayarlar zorunlu olarak ölümlü tipe doğru ilerliyor veya olacak.

Bu ileri sürülen bir iddia değildi.

Konuşmasında bu uzmanlardan bahsetmişti. nöromorfik yönelimli bilgisayarlar olarak bilinen hesaplama işlerini yürüteceklerdi. ölümlü hesaplamalar: "Sistemin öğrendiği bilgi ile donanımın birbirinden ayrılamaz olduğu, benim ölümcül hesaplama dediğim şeyi yapacağız" (1 Aralık 2022'de Tiernan Ray tarafından yazılan bir ZDNET makalesinde aktarıldığı gibi).

Ve özellikle: "Dijital bilgisayarların yerini almayacak" (ibid).

Ayrıca, sunumu sırasında belirttiği gibi, bu yeni bilgisayar türleri kesinlikle yakında yerel bilgisayar mağazanızda bulunmayacak veya hemen çevrimiçi olarak satın alınamayacak. bilgisayar, birkaç yıl için değil, ama bu tamamen farklı bilgisayar türünü araştırmak için her türlü neden var.” Kullanımlar da farklı olacaktır: "Banka hesabınızdan sorumlu olan ve tam olarak ne kadar paranız olduğunu bilen bilgisayar olmayacaktır."

Ek bir bükülme, ölümlü bilgisayarların, bugün bilgisayar işlemcileri ve bilgisayar çiplerinin üretimi için yaptığımız gibi üretilmek yerine görünüşte büyütülecek olmasıdır.

Büyüme süreci sırasında, ölümlü bilgisayar, bir hesaplama olgunlaşması tarzında kapasitede artacaktır. Bu nedenle, belirli bir ölümlü bilgisayar, neredeyse hiç yetenekle başlayabilir ve olması amaçlanan duruma olgunlaşabilir. Örneğin, fani bilgisayarları kullanarak cep telefonları yapmak istediğimizi varsayalım. Başlangıçta bu amaç için şekillendirilmiş veya tohumlanmış bir ölümlü bilgisayarın basit bir varyantıyla başlayacaksınız. Daha sonra, aradığınız daha gelişmiş sürüme olgunlaşacaktır. Kısacası: "O cep telefonlarının her birini bir bebek cep telefonu olarak başlamak zorunda kalacaksınız ve nasıl cep telefonu olunacağını öğrenmek zorunda kalacaksınız."

Ölümlü hesaplamayla ilgili temel slaytlarından birinde faydaları şu şekilde anlatılmıştı: "Ölümsüzlüğü bir kenara bırakır ve bilginin belirli bir donanım parçasının kesin fiziksel ayrıntılarından ayrılamaz olduğunu kabul edersek, iki büyük fayda elde ederiz: (1) Çok düşük güçlü analog hesaplama kullanabiliriz, (2) Kesin bağlantısı ve analog davranışı bilinmeyen donanımlar geliştirebiliriz.”

Aynı konuşmanın bir kısmı ve ayrıca baskı öncesi araştırma makalesinde yer aldığı gibi, YSA'ların nasıl daha iyi tasarlanabileceğine dair önerilen bir tekniktir. ileri ileri ağ yaklaşımı. YSA'larda bilgili olan bazılarınız, şüphesiz, geri yayılım veya geri pervane kullanımının oldukça farkındadır. Önerilen ileri-ileri tekniğine bir göz atmak isteyebilirsiniz. Gelecekteki bir köşe yazısında bu büyüleyici yaklaşımı ele alacağım, bu yüzden bu konudaki gelecek yazılarım için tetikte olun.

Vites değiştirirken, AI topluluğunun koridorlarında ve yan yollarında bu küstahlık hakkında söylenenleri düşünelim. ölümlü bilgisayar entrika.

Bazılarının söylendiği konuyla ilgili başlangıçsız olduğunu söyleyeceği şeyle başlayacağız.

Hazır mısınız?

Bu şeye a demekten vazgeç ölümlü bilgisayar.

Aynı şekilde, günümüzün geleneksel bilgisayarlarının ölümsüz.

Şüpheciler, her iki kullanımın da tamamen yanlış ve fazlasıyla yanıltıcı olduğunu söylüyor.

Ölümsüz olanın günlük sözlük tanımı ölmeyen bir şeyden oluşur. Sonsuza kadar yaşar. Ölmemek için, muhtemelen o şeyin kendisinin canlı olduğunu söylemek zorundasınız. Bugünün bilgisayarlarının canlı olduğunu iddia etmek için yanlış yolda ilerliyorsunuz. Makul hiç kimse modern bilgisayarlara gerçek "yaşayan" özellikler atfetmez. Onlar makineler. Onlar şeyler. Onlar insan, hayvan ya da yaşayan bir durumda değiller.

Ölümsüzün tanımını, cansız varlıkları da kastettiğimize izin verecek şekilde genişletmek isterseniz, bu durumda, cansız varlığın görünüşe göre asla çürümemesi gerekecek ve kaçınılmaz olarak toz haline gelemeyecek. Günümüz bilgisayarları hakkında böyle bir iddiada bulunabilir misiniz? Bu biraz abartılı görünüyor (yan not: tabi ki maddenin ve varoluşun doğası hakkında büyük bir felsefi tartışmaya girebiliriz, ama bu örnekte oraya gitmeyelim).

İşin özü, "ölümlü" ve "ölümsüz" kelimelerinin kullanımının veya bazılarının yanlış kullanımının tuhaf ve yersiz olmasıdır. Yaygın olarak kullanılan bir yerel dili alıp başka amaçlar için yeniden kullanmak kafa karıştırıcıdır ve suları bulanıklaştırır. Bu özel bağlamda ölümlü ve ölümsüzün ne anlama geldiğini açıkça yeniden kavramsallaştırmaya istekli olmalısınız. Bu sorunlu hale gelir.

Daha da endişe verici olan, bu kelime seçimlerinin bilgisayar özelliklerini antropomorfize etme eğiliminde olmasıdır.

Yapay zekayı antropomorfize etmekle ilgili zaten gereğinden fazla sorun var, kesinlikle bu türden daha fazla olasılık yaratmamıza gerek yok. AI Ethics ve Ethical AI kapsamımda kapsamlı bir şekilde tartıştığım gibi, insanların bilgisayarlara duyarlı kapasiteler atfetmesinin her türden çılgınca yolu var. Bu da insanları yanlış bir şekilde yapay zeka tabanlı bilgisayarların insanlar gibi düşünüp davranabileceğine inanmaya yönlendiriyor. Toplum, günümüzün yapay zekasının ve bilgisayar teknolojisinin insanlığın zekası ve sağduyusuyla aynı seviyede olduğuna inanmaya başladığında, bu kaygan bir tehlike eğimidir, örneğin şu adresteki analizime bakın: buradaki bağlantı ve buradaki bağlantı.

Tamam, garip ifade seçimlerini reddedebilir veya küçümseyebiliriz, ancak bu, bebeği banyo suyuyla birlikte atmamız gerektiği anlamına mı gelir (eski bir ifade, muhtemelen emekli olmak üzere)?

Bazıları, belki de bu genel yaklaşım veya kavram için daha iyi ifadeler bulabileceğimizi iddia ediyor. "Ölümlü" ve "ölümsüz" sözcüklerinin kullanımını atın, böylece geri kalan fikirler uygunsuz veya uygunsuz kullanımla lekelenmez. Bu arada, ya uygun oldukları için ya da sözcükleri nasıl yeniden kullanmayı tercih edeceğimiz konusunda esnek olmamamız gerektiği için bu kelime seçimlerini kullanmanın tamamen kabul edilebilir olduğuna dair karşı argümanlar var. Bir gülün başka bir adı varsa, bir gül olduğunu beyan ederler.

Burada daha fazla sert tartışmalardan kaçınmak için, bundan böyle "ölümlü" ve "ölümsüz" sözcüklerini kullanmaktan kaçınacağım ve yalnızca, biri günümüzün geleneksel dijital bilgisayarı olan, diğeri ise günümüzün geleneksel dijital bilgisayarı olan iki ana tür bilgisayar olduğunu söyleyeceğim. diğeri önerilen bir nöromorfik bilgisayar.

Ölümlülük bilmecesini buna sürüklemeye gerek yok gibi görünüyor. Eldeki mesele hakkında başka neler yapabileceğimizi görmek için gökyüzünü açık tutun.

Bu durumda, bazıları önerilen nöromorfik bilgisayar fikrinin yeni bir şey olmadığını iddia edebilir.

Yapay sinir ağlarının işini yapmak için özel bilgisayarların tasarlandığından söz edildiğini, özellikle YSA'ların ilk keşfedildiği zamana kadar, yapay zekanın daha önceki günlerine kadar gidebilirsiniz. Her türlü yeni donanım önerildi. Bu hala bu güne kadar oluyor. Elbette, bugün YSA'lar ve makine öğrenimi için özel donanım araştırmalarının çoğunun hala geleneksel bilgi işlem yaklaşımına dayandığını iddia edebilirsiniz. Bu anlamda, donanım ve yazılımın bu analog ayrılmazlığı, sınırları biraz zorlar ve bilgisayarı "büyütme" önermesi de, en azından dikkate alınan ana akımın dışına çıkma açısından, sınırları zorlar.

Kısacası, bu konulara tamamen dalmış olanlar var ki, başka birinin ortaya atılan önermelere şaşırabileceğine şaşırıyor. Bu kavramlar ya öncekiyle aynıdır ya da çeşitli araştırma laboratuvarlarında halihazırda incelenmekte olan kavramları yansıtır.

Saçını dağıtma, derler.

Bu bizi birçokları için rahatsız edici olan başka bir yöne götürüyor.

Tek kelimede: Öngörülebilirlik.

Bugünün bilgisayarları genellikle tahmin edilebilir olarak kabul edilir. Bilgisayarın ne yapacağını anlamak için donanım ve yazılıma göz atabilirsiniz. Aynı şekilde, bir bilgisayarın yaptığı her şeyi neden yaptığını ortaya çıkarmak için zaten ne yaptığını takip edebilirsiniz. Elbette bunu yapmanın sınırları var, bu nedenle öngörülebilirliği abartmak istemiyorum ama genel olarak fikri anladığınızı düşünüyorum.

Bugün yapay zekanın karşı karşıya olduğu çetrefilli sorunlardan birinin, bazı yapay zekaların kendi kendini ayarlayacak şekilde tasarlandığının farkında olabilirsiniz. Geliştiricilerin yerleştirdiği yapay zeka, kullanım sırasında kendini değiştirebilir. Yapay Zeka Etiği alanında, ilk başta gereksiz önyargılara veya ayrımcı eğilimlere sahip olmayan, daha sonra yapay zekanın üretimde olduğu süre boyunca kademeli olarak hesaplamalı olarak kendi kendine mutasyona uğrayan kullanıma sunulan çok sayıda yapay zeka örneği vardır. detaylı değerlendirmeler buradaki bağlantı.

Endişe şu ki, zaten öngörülebilir olması gerekmeyen yapay zekayı içeren bir ortama giriyoruz.

Silah sistemleri için AI'nın kendi kendini ayarlamalardan geçtiğini ve bunun sonucunda AI'nın beklenmedik hedeflere ve zamanlarda ölümcül silahlar silahlandırdığını ve fırlattığını varsayalım. İnsanlar yapay zekayı durdurma döngüsünde olmayabilir. Döngüdeki insanlar, AI eylemlerini geçmek için yeterince hızlı yanıt veremeyebilir. Ek tüyler ürpertici örnekler için şu adresteki analizime bakın: buradaki bağlantı.

Nöromorfik bilgisayarlar için endişe, steroidlere öngörülemezlik koymamızdır. En başından beri, nöromorfik bir bilgisayarın özü, tahmine meydan okuyan bir şekilde çalışması olabilir. Öngörülemezliği sergiliyoruz. Bir onur rozeti haline gelir.

İki kamp var.

Bir kamp, ​​AI'nın bir köprüden çok uzağa gitmesini engellemek için korkuluklar koyarak, nahoş öngörülemezlik endişeleriyle yaşayabileceğimizi söylüyor. Diğer taraf, dünyayı tehlikeli bir yola soktuğunuzu iddia ediyor. İddia edilen korkulukların ya başarısız olacağı ya da yeterince katı olmadığı ya da kazara ya da kötü niyetle korkulukların kaldırılacağı ya da oynanacağı gün doğacak.

Nöromorfik bilgisayarlar ve öngörülebilirlik hakkındaki endişeleri bir kenara bırakmalı mıyız?

Araştırmacının açıklamalarına göre: "Analog hesaplama ile ilgilenen insanlar arasında, hala ölümsüzlükten vazgeçmeye istekli olan çok az kişi var." Ayrıca: "Analog donanımınızın her seferinde aynı şeyi yapmasını istiyorsanız... Tüm bu başıboş elektrik şeyleriyle ilgili gerçek bir sorununuz var."

Bunu kilitleyeceğim.

Belirgin ve biraz kasvetli bir bakış açısı, günümüzün dijital bilgisayarlarıyla ilişkilendirilen sözde öngörülebilirliğin zaten öngörülemezlik yönünde ilerlediğidir. Bahsedildiği gibi, bu özellikle geleneksel bilgisayar platformlarında kendi kendini ayarlayan yapay zeka başına olabilir. Nöromorfik bilgisayarların görünüşte öngörülemez olması, geleneksel dijital bilgisayarların aslında öngörülebilir olduğunun bir işareti değildir.

Hangi bilgi işlem platformunu seçerseniz seçin, öngörülemezlik çarkı tüm hızıyla üzerimize geliyor. Bu ışıkta yapay zeka güvenliğini sağlamaya yönelik en son çabalara ilişkin değerlendirmem için bkz. buradaki bağlantı.

Öngörülebilirlik hakkındaki bu bükülme, zihninizi ortaya çıkarılmış bir doğaya kafa yormaya yöneltmeli, bir nevi. Yapay Zeka Etiği ve Yapay Zeka Yasası ile ilgilenenleriniz, değil sonuçlarını değerlendiriyordu nöromorfik bilgisayarlar.

Muhtemelen AI çalıştıran geleneksel dijital bilgisayarları hedefliyordunuz. Bilin bakalım ne oldu, artık geceleri endişelenerek uyuyabileceğiniz tamamen ek ve gelişmekte olan bir yapay zeka bilişim segmentiniz var. Evet, nöromorfik bilgisayarlar. Bunu yapılacaklar listenize ekleyin.

Üzgünüm, senin için daha uykusuz geceler.

Yapay Zeka Etiği ve Yapay Zeka Yasasının geleneksel dijital bilgi işlem ve yapay zeka konusunda neler yaptığını kısaca ele alalım.

Önceki sütunlarda, yapay zekayı düzenleyen yasalar oluşturmak ve yürürlüğe koymak için çeşitli ulusal ve uluslararası çabaları ele aldım, bkz. buradaki bağlantı, örneğin. Ayrıca, yaklaşık 200 ülkenin benimsediği UNESCO AI Etiği seti gibi Birleşmiş Milletler çabası da dahil olmak üzere, çeşitli ulusların belirlediği ve benimsediği çeşitli AI Etiği ilkelerini ve kılavuzlarını da ele aldım, bkz. buradaki bağlantı.

İşte daha önce yakından araştırdığım AI sistemleriyle ilgili Etik AI kriterlerinin veya özelliklerinin yararlı bir temel taşı listesi:

• Şeffaflık
• Adalet ve Adalet
• Zarar Vermez
• sorumluluk
• Gizlilik
• ihsan
• Özgürlük ve Özerklik
• Güven
• Sürdürülebilirlik
• Haysiyet
• Dayanışma

Bu AI Etik ilkelerinin, AI geliştirme çabalarını yönetenlerin yanı sıra AI geliştiricileri tarafından ve hatta nihayetinde AI sistemlerinde bakım yapan ve bakım yapanlar tarafından ciddiyetle kullanılması gerekiyor.

Tüm AI geliştirme ve kullanım yaşam döngüsü boyunca tüm paydaşlar, Etik AI'nın yerleşik normlarına uyma kapsamında değerlendirilir. "Yalnızca kodlayıcıların" veya AI'yı programlayanların AI Etiği kavramlarına bağlı kalmaya tabi olduğu olağan varsayım olduğundan, bu önemli bir vurgudur. Burada daha önce vurgulandığı gibi, AI'yı tasarlamak ve sahaya koymak için bir köy gerekir ve bunun için tüm köyün AI Etik ilkelerine hakim olması ve bunlara uyması gerekir.

Bunun daha önce pek düşünmemiş olabileceğiniz kısmı, aynı AI Etik ilkelerinin ve yeni AI Yasalarının gelişen listesinin nöromorfik bilgisayarlara nasıl uygulanacağıdır. Açıklığa kavuşturmak için, Yapay Zeka Etiği ve Yapay Zeka Yasası gerçekten de bunu açıkça hesaba katmalıdır. Çok az kişinin bunu yaptığına dikkat çekiyorum ve nöromorfik bilgisayarların ortaya çıkışının, yapay zekada hüküm sürmeye çalışmak için yeni bir boyut açısından birçok kişiyi bir döngüye sokma şansının büyük bir olasılıkla olduğunu söylüyorum.

Etik Yapay Zeka ve Yapay Zeka Yasalarını, nöromorfik bilgisayarlar da dahil olmak üzere yeni geliştirilen tüm yapay zekaları kapsayacak kadar geniş bir şekilde ele almamız gerekiyor.

Tahterevalli alternatifi, klasik bir kedi-fare kumarıdır. İşte böyle gidiyor. Yapay zeka oluşturmanın yeni yolları tasarlandı ve inşa edildi. Mevcut AI Etiği ve AI Yasaları hazırlıksız yakalandı ve en son AI maskaralıklarını tam olarak kapsamıyor. Etik AI ilkelerini güncellemek ve yeni basılan AI Yasalarını değiştirmek için acele bir çaba gösteriliyor.

Köpürtün, durulayın, tekrarlayın.

Sekiz topun gerisinde kalmaktansa oyunun önünde olmak hepimiz için daha iyi olur.

Sonuç

Seni küçük bir yolculuğa çıkardım.

Başlangıçta, incelenecek iki ana konu olacağını öne sürdüm:

1) Yapay zeka mekanizasyonları için hem donanımı hem de yazılımı ayrı ve ayrı müttefikler olarak kullanmak yerine bütünleşik olarak birbirine bağlamak

2) Makine öğrenimi formülasyonlarının bir yapay zeka modelinden diğerine aktarılması veya damıtılması, bunu düz bir tam safkan kopyalama gerektirmeden veya zorunlu olarak istemeden (hatta başka bir şekilde mümkün olsa bile) yapar.

Donanım ve yazılımın birbirine bağlanmasıyla ilgili ilk konu, buradaki yolculuğun büyük bölümünü oluşturdu. Bu bizi ölümlülere karşı ölümsüz bilgi işlem bataklığına götürdü. Bunların dışında, bilgisayarla ilgili bu tür bir konu genellikle bazıları tarafından herhangi bir toplumsal etki endişesini gerektirmekten ziyade tamamen teknolojik bir konu olarak görüldüğünden, aksi takdirde genellikle gündeme getirilmeyecek bazı önemli AI Etiği ve AI Yasası hususları vardı.

Etik Yapay Zeka ve Yapay Zeka Yasasını gündeme getirmek söz konusu olduğunda daha sonra ve daha kötü durumda olmaktansa, daha erken ve daha güvenli olmanın en akıllıca olduğunu söylüyorum.

Burada henüz dile getirmediğim ikinci konu, maddi olarak birinci konuyla bağlantılı.

İşte anlaşma.

Bir "ölümlü bilgisayar"ımız olduğunu ve yapay zekanın içerdiği şeylerin bir yedeğine veya görünüşte kopyalarına sahip olabilmek için yetenekleri korumak istediğimizi varsayalım. Belirli bir fani bilgisayarın sona yaklaştığından endişeleniyor olabiliriz. Evet, ona bağımlıyız. Ne yapacağız? Cevaplardan biri, lanet olası şeyi kopyalamamız gerektiğidir.

Ancak, çizilen türden bir nöromorfik bilgisayarı kopyalamak, ilk bakışta göründüğünden daha zor olacaktır. İşler zorlaşabilir.

Belki de genelleştirilebilir ve makine öğrenimi ve yapay sinir ağlarını içeren durumlara uygulanabilir bir kopyalama taktiği bulmalıyız. Bunun büyük ölçekli ve son derece büyük ölçekli örneklerde çalışmasını istiyoruz. Kopyanın tam bir kopyası olmamasını ve bunun yerine temelde eşdeğer olmasını veya belki de kopyalama eyleminin bir sonucu olarak daha iyi tasarlanmış olmasını da isteriz.

olarak bilinen bir teknik damıtma önerilmiştir.

Bugünün köşesi için yerim kalmadı, bu yüzden bu ikinci konuyu gelecek bir köşede ele alacağım. Bu ikinci konu ile burada kapsamlı bir şekilde ele alınan ilk konu arasındaki ilişkiyi hemen öğrenmek isteyeceğinizi düşündüm. Bunu, bir sonraki adımın fragmanı veya fragmanı olarak hizmet eden ek bir not olarak düşünün.

Damıtma konusu oldukça iyi bir göze çarptığı için koltuğunuzun kenarında kalın.

Batman'in dediği gibi, yarasa kanatlarınızı çapraz tutun ve bir YSA'nın veya makine öğrenimi modelinin veya nöromorfik bilgisayarın bir başkasına nasıl kopyalanacağına dair can sıkıcı soruyu çözmek için aynı yarasa zamanı ve yarasa kanalına hazır olun.

Şimdilik son bir açıklama. Filmde ünlü bir replik var. Kara Şovalye Dönüyor pelerinli savaşçımız şunu söylüyor: "Dünya ancak sen onu zorlarsan anlam kazanır." Yapay zeka ile ilgili damıtma hakkındaki ikinci konuyu ele aldığımda bu ideale bağlı kalmaya çalışacağım.

Bu heyecan verici ve büyüleyici ikili oyunun 2. Bölümü için bizi izlemeye devam edin.