Yapay Zeka Etiği ve Aynı zamanda Yapay Zeka Tabanlı Kendi Kendini Süren Arabaları Çıngıraklayan Alkışlanan Yapay Zeka Tekinsiz Vadi

Bazen dikkatinizi çeken ve bir şekilde yolunda gitmeyen bir şeyler olduğu hissini uyandıran biraz tuhaf şeyler olabilir. Gariplik bariz değil, yüzünüzde hiç de bariz değil. Uyuşmazlığın ne olduğunu veya atasözünün örümceksi hissinin neden karıncalandığını hemen parmağınızı koyamayabilirsiniz bile.

Belki de ince anlatısal ipuçları algılanıyor. Belki de içinizde bir uyumsuzluk olduğunun farkına varırsınız. Sanırım en ufak bir abartısız ürkütücülük belirtisi olduğunu ve hassas insan radarınızın, aksi halde görünüşte gizli sinyalleri algıladığını söyleyebilirsiniz.

Tekinsiz vadiye hoş geldiniz.

Yapay zeka ve özellikle robotik alanında nispeten popüler olan bir konu olan esrarengiz vadiyi hiç duymadıysanız, burada yakından tartışacağım ve analiz edeceğim konu olduğu için biraz zevk alacaksınız.

Temel ilkeler ve başlangıç ​​tanımı, yapay zeka sistemlerini ve robotları gerektirse de, kapsayıcı kavram, yaşamda deneyimlediğimiz birçok şeye uygulanabilir. İlk önce tekinsiz vadinin kökenlerini ve ilk anlamını keşfedeceğiz ve ardından fenomenlerin daha geniş bağlamlarda nasıl uygulanabilir göründüğünü görmek için bir genişlemeye geçeceğiz.

Tekinsiz vadinin gerçekten var olup olmadığını düşüneceğimizi de ekleyebilirim.

Görüyorsunuz, bazı şüpheciler ve alaycılar, tüm meselenin biraz saçmalık olduğunu ve su tutmadığını savunuyorlar. Konuyu bilenlere açarken dikkatli olun. Bazıları neşeyle gülümseyecek ve tekinsiz vadiye yakından aşina olduğunuz için sırtınızı sıvazlayacak, diğerleri ise bunun bir smorgasbord olduğunu ve kısaca zihninizi köpüklü bir zihinsel temizleme sabunu ile temizlemeniz gerektiğini size kesin bir dille anlatacak. .

Buradaki iyi haber şu ki, tekinsiz vadinin gerçek olup olmadığına, dikkatli bir uygulama için yararları olup olmadığına veya bunun yerine belirsiz bir şekilde tekno-fikirler çöplüğüne atılıp atılmaması gerektiğine karar vereceksiniz. Bu anlamda sürücü koltuğundasınız.

Bütün bunlar aynı zamanda Etik Yapay Zeka'nın filizlenen alanıyla ve toplumun yapay zeka etiğine ciddi ve ayık bir şekilde dikkat etmesi gerektiğine dair artan farkındalıkla da yakından ilgilidir. Bir an için o kravatı yapacağız.

Başlamak için en iyi yer, tekinsiz vadi kavramını ortaya atan ve bu ilan edilen fenomeni açıkça adlandıran profesörden doğrudan alıntı yapmaktır. 1970 yılında, Tokyo Teknoloji Enstitüsü'nden Profesör Masahiro Mori, daha az bilinen bir dergide oldukça küçük bir makale yayınladı. Enerji (özellikle yapay zeka ve robotik için bir yuva değil) ve şunu söyledi:

“Robotları insan gibi gösterme hedefine doğru tırmanırken, tekinsiz vadi dediğim bir vadiye gelene kadar onlara olan yakınlığımızın arttığını fark ettim.”

Orijinal makale Japonca olmasına rağmen, yukarıdaki ifadenin İngilizce olarak gösterildiğini lütfen unutmayın. İngilizceye çevrilmiş versiyonu yazar tarafından denetlenmiş ve daha sonra dergide yayınlanmıştır. IEEE Spektrumu 2012 yılında ve yazar olarak Masahiro Mori'ye yatırıldı. Açık ve ücretsiz olarak çevrimiçi olduğu için makaleyi kendiniz okuyabilirsiniz. Kesinlikle on dakika kadar hızlı bir okumadır ve teknik açıdan ağır bir terminoloji içermez.

Bununla birlikte, 1970'te yayınlanan böylesine canlı bir makalenin sonunda tüm bir araştırma alanını başlatması ve sayısız ilgili araştırma, proje, araştırma ve zaman zaman tanıtılıp tanıtılmadığı konusunda bir tartışma fırtınası başlatması ilginç ve biraz şaşırtıcıdır. esrarengiz bir vadi kavramı gerçekten var. Sanırım bu, ilgi çekici ve zaman zaman bakış açısı değiştiren fikirlerin büyük ölçüde dolambaçlı veya jargon ve yücelikle aşırı doldurulması gerekmediğini gösteriyor. Kısa ve öz bir fikir, sanki ilk bakışta göründüğünden daha güçlü olmayabilir.

Bunun sizi yeni fikirlerinizi denemeye ve geliştirmeye teşvik edeceğine inanıyorum, bunu tatlı ve basitin muhteşem veya bazen dolambaçlı ve karmaşıktan daha fazlası olabileceğinin farkına vararak yapın.

Tekinsiz vadi açıklamasına geri dönelim.

İnsana benzeyen bir yüze sahip robotik bir sistemle karşılaşıyorsunuz. Bu robotik yüzün sayısız yinelemeyle tasarlandığını hayal edin. Robot kafasını bir araya getiren AI geliştiricileri, robotik yüz bölümünün giderek daha fazla gerçek bir insan yüzü gibi görünmesini sağlamak için adım adım çaba sarf ediyor.

İlk denemeleri fazlasıyla ilkeldi. Robot suratı, bilimkurgu filmlerinde gördüğünüz, tamamen metalik olan ve dişlileri ve telleri sergileyen aynı görünüme sahipti. Cihaza baktığınız zaman onun bir robot olduğunu hemen anlıyorsunuz. Bununla ilgili kafanızda soru işareti yok.

Yapay zeka geliştiricilerinin bir sonraki denemesi, bazı plastik malzemelerin metalik parçaların etrafına sarılmasını içeriyordu. Bu biraz daha arkadaş canlısı görünse de, bunun bir robot kafası ve robotik bir yüz olduğunu hemen anlarsınız. Yine, tespit edilmesi kolay-peasy.

Bu AI geliştiricileri bunu devam ettirmeye kararlı. Plastiği şekillendiriyor ve ten rengi veriyorlar. Benler, saçlar, lekeler ve benzeri gibi insan yüzüne çok benzeyen özellikler eklerler.

İlk bakışta, bunun bir insan yüzü olduğuna inanmaya yönlendirilebilirsiniz. Robotik yüzün bir resmi çekildiyse ve resmin bir insanı mı yoksa robotik bir yüzü mü tasvir ettiğini belirlemeniz istendiyse, hangisi olduğunu hemen söyleyebilmeniz sizi şaşırtabilir. Öte yandan, cihazın yanında duruyor olsaydınız, yakından incelendiğinde muhtemelen bunun bir insan olmadığını ve bunun yerine robotik bir icat olduğunu fark edebilirsiniz.

Mesele şu ki, yakından inceleme fırsatı bulamadan önce, yüzde tam olarak uyuşmayan bir şey vardı. Kesinlikle bir insan yüzüne benziyordu. Ama ters giden bir şeyler vardı. Parmağınızı tam olarak doğru görünmeyen şeyin üzerine koymak için dikkatle tekrar tekrar bakmanız gerekiyordu. Belki de gerçek bir yüzdür. Sonra tekrar, belki de değil. Zihniniz buna göre dönüyor.

Bir ürkütücü görünüm zihninize girer.

Önceki iki versiyonu gördüğünüzde aynı ürkütücü görünüme sahip değildiniz. Robotun bir robot olduğunu duraksamadan veya tereddüt etmeden tespit edebilirsiniz. Yalnızca bir çocuk, bu versiyonlardan herhangi birinin gerçek bir kişiye ait olduğuna inanarak kandırılabilir.

Bu son sürüm olsa da farklıydı. Henüz bir insan yüzü gibi görünecek kadar mükemmel değildi. Gerçekten o kadar da uzak değildi ki, bir robot olması gerektiği açıktı. Bir tür çamurlu zemine ulaşılmıştı.

Geliştiricilerin araştırma çabalarını daha da ileri götürdüğünü ve her şeyi robotik yüzün neredeyse bir insan yüzünden ayırt edilemeyecek şekilde düzenlediklerini varsayalım. O şeye ne kadar uzun süre bakarsan bak, onun insan olup olmadığından emin değilsin. Bunun robotik bir yüz olduğu söylendiğinde şaşırıyorsunuz. Tanrım, gerçek görünmesini sağlamak için harika bir iş çıkardılar.

Şimdiye kadar sadece görünüşe dayalı robotik yönleri düşündüğünüze dikkat edin.

Denkleme hareket ekleyebiliriz. Bu, robotun bir robot mu yoksa bir insan mı olduğunu ayırt etmeniz için ek bir boyut ekler. Bu tartışmada bunu çok boyutlu bir problem olarak ele almak istemiyorum çünkü bu konu üzerinde bir açıklamayı daha karmaşık hale getiriyor (gerçi çok-boyutlar kaçınılmaz olarak iç içe geçmiş durumda). Her halükarda, sadece robotik yüzü görmediğinizi, aynı zamanda robotun ağız, gözler, burun vb. gibi yüz özelliklerini hareket ettirmesini de izleyebildiğinizi hayal edin. Açıkçası, bunlar aynı zamanda bunun bir robot olup olmadığı konusunda da eşantiyonlar olabilir. robot veya insan.

Tekinsiz vadinin ön planda tutulması gereken hayati bir yönü, orijinal anlayışın insan yakınlığını vurgulamasıdır. İddia edilen fenomen, aşamalı olarak geliştirilmiş robot yüzlerini gördüğünüzde, tekinsiz varyantın ortaya çıktığı noktaya kadar yakınlığınızın artmasıdır. Bu noktada, yakınlık duygunuzun dramatik bir şekilde düştüğü ve bir yakınlık uçurumu veya vadisine düştüğü söylenir.

Bir şeylerin yanlış olduğundan şüphelenmenize neden olan belirli versiyon için, yakınlığınızın radikal bir şekilde düştüğü iddia ediliyor. Dahası, teoriye göre, gerçek bir insan formuyla neredeyse aynı olan daha gelişmiş versiyonla karşılaştığınızda, yakınlığınız hızla artabilir.

İşte yazarın, hayatın yönlerinin düzgün bir şekilde arttığını varsayma konusundaki normal eğilimimiz hakkında söyledikleri hakkında daha fazla bilgi: “Matematiksel terim monoton artan fonksiyon fonksiyonun olduğu bir ilişkiyi tanımlar. y = ƒ(x) değişkenle sürekli artar x. Örneğin, çaba olarak x büyür, gelir y artar veya bir otomobilin gaz pedalına basıldığında, otomobil daha hızlı hareket eder. Bu tür bir ilişki her yerde bulunur ve çok kolay anlaşılır. Aslında, bu tür tekdüze artan işlevler günlük yaşamın çoğu olgusunu kapsadığından, insanlar tüm ilişkileri temsil ettikleri yanılsamasına kapılabilirler. Pek çok insanın geri çekmenin ne kadar etkili olduğunu anlamadan ısrarla iterek yaşam mücadelesi verdiği gerçeği de bu yanlış izlenimin kanıtıdır. Bu nedenle, insanlar bu işlevin temsil edemediği bir fenomenle karşılaştıklarında genellikle şaşırırlar.” Bu alıntı başına IEEE Spektrumu tercüme edilmiş kağıt.

Her zaman artışla ilgili bu neredeyse evrensel varsayım, yanlış bir şeyle karşılaştığımızda tersine çevrilebilir. Ürkütücülük ve şüphe, yakınlıkta nispeten ani ve dramatik bir düşüşe neden olacaktır, teoriye göre, sallamayı tercih ettiğiniz ve bir insan elinin kemiksi özelliklerini hissedemediğiniz robotik bir el gibi: "Bu olduğunda, duyularımızı kaybederiz. yakınlık ve el tekinsiz hale gelir. Matematiksel olarak, bu negatif bir değerle temsil edilebilir.”

Tekinsiz bir vadi olgusunun var olduğu önermesini kabul ediyorsanız, eminim ki tekinsiz vadinin görünüşte var olduğunu bilmenin size ne faydası olduğunu merak ediyorsunuzdur.

Bu tüm zamanların klasiği “ne olmuş yani?” pratiklik testi.

Anlaşılan o ki, pek çok insan esrarengiz vadi hakkında ne yapmamız veya ne yapmamız gerektiğine dair birçok yorum bulmuş. Tonlarca görüş var. Birazdan bunlardan bazılarına değineceğim.

Bu arada Masahiro Mori'nin önerdiği şey şu: “Tekinsiz vadiye düşmeyecek robotlar ve protez eller tasarlamayı ve üretmeyi umuyoruz. Bu nedenle, ikinci zirveyi ölçeklendirmek için insan benzerliği derecelerini artırmaya çalışmanın doğasında var olan risk nedeniyle, tasarımcıların bunun yerine ilk zirveyi hedefleri olarak almalarını tavsiye ediyorum, bu da orta derecede bir insan benzerliği ve kayda değer bir yakınlık duygusu ile sonuçlanır. . Aslında, kasıtlı olarak insan dışı bir tasarımın peşinden giderek güvenli bir yakınlık düzeyi yaratmanın mümkün olduğunu tahmin ediyorum. Tasarımcılardan bunu düşünmelerini istiyorum.”

Tekinsiz vadiyle ilgili olarak ne yapılacağına dair on iki kullanışlı pantolonun koltuğu kuralına dair hızlı bir yoğunlaşma, özellikle AI geliştiricileri için şöyle:

1) Tekinsiz vadinin farkında olun ve buna göre ayak parmaklarınızın üzerinde olun

2) Muhtemelen mümkün olduğunca yapay zekanız için insani yakınlık elde etmek istiyorsunuz.

3) AI'nız tekinsiz vadiye düşerse, insan yakınlığını kaybetmeye hazır olun

4) AI'nızı bu şekilde tasarlayarak tekinsiz vadiden kaçınmaya çalışın

5) Tekinsiz vadiden kısa bir hedefe sahip olmak saygındır.

6) Tekinsiz vadinin kenarına yanaşın ama uçurumdan düşmeyin

7) Tekinsiz vadinin ötesine geçmeye takıntılı olmayın

8) Tekinsiz vadiyi atlayarak geçme şansınız var

9) Nasılsa vadiye düşebileceğiniz için sıçramayla meşgul olmayın.

10) Tekinsiz vadiyi geçerek kuşkusuz maksimum insan yakınlığına ulaşılacaktır.

11) Bununla birlikte, tekinsiz vadiden önce bulunan yeterli ve uygun bir yakınlık vardır.

12) Tekinsiz vadinin sürekli farkında olun ve aklınızdan kaymasına izin vermeyin.

Bu düzinelerin tümü, tekinsiz vadi hakkında bilgi edinmenin kilit taşı veya demirleme noktaları olarak kabul edilebilecek genel kurallardır. Hemen kabul edeceğim ki, bu düzinelerce listede yer almayan ve eşit derecede önemli olduğu iddia edilebilecek başka noktalar da var. Ayrıca, tanımlanan noktaların her biri için kesinlikle anlaşmazlık olduğunu ve her bir nokta üzerinde uzun ve hararetli bir tartışmanın sürebileceğini kolayca kabul edeceğim.

Dahası, bazıları, başlangıçta bir yalana dayandıkları için on iki noktanın tamamen saçma olduğunu söyleyebilir. Tekinsiz bir vadi diye bir şey yoktur, tartışırlar. Tüm bunlar, yalnızca ve ne yazık ki, zayıf zihinlere hitap etmeye hitap eden yalnızca hile ve uydurma bir düzendir (ah, bu gerçekten canımı acıtıyor!). Tekinsiz vadiye herhangi bir ilgi boşa harcanmış bir nefestir ve birisi gelip konunun kalbine keskin bir tahta teorik kazık koymalı (bazı araştırmacılar bunu yapmayı denedi).

Tartışma uğruna, hadi akışa devam edelim ve tekinsiz bir vadi olduğunu ve genel olarak şimdiye kadar belirttiğimle örtüştüğünü varsayalım. Tekinsiz bir vadinin kavramsallaştırılmasına katılmayanlar, dişlerini gıcırdatarak ve entelektüel öfkeleri kabarıp kaynayarak okumaya devam edebilirler veya okumaya devam edebilirler (bunun için üzgünüm).

İşte Etik Yapay Zeka ve etik yapay zekayı tasarlama ve uygulama odağı nasıl ortaya çıkıyor. Bu arada, AI etiğiyle ilgili devam eden ve derinlemesine keşiflerim için, şu adresteki tartışmama bakın: Burada bu linki ve Burada bu linki, Sadece birkaç isim.

Tekinsiz vadi, Etik Yapay Zeka'ya girenler için kesinlikle bir aşk-nefret meselesidir.

İlk olarak, bazı gerekli arka plan. Yapay zeka ile ilgili en tüyler ürpertici etik kaygılardan biri, insanların bir yapay zeka sisteminin duyarlı olduğuna inanarak kandırılabilmeleridir. Lütfen bugünün herhangi bir yapay zekasının duyarlı olmaya uzaktan yakın olmadığını unutmayın. Sadece şu anda olmuyor. Görünürde “küstah” iddiam, bu yapay zekayı veya yapay zekanın ya duyarlı ya da bu şekilde kabul edilecek kadar yakın olduğunu ilan eden aralıksız ve abartılı manşetlere rağmen yapıldı. Saçmalık. Yapay zeka duyarlılığında değiliz.

Oraya nasıl gideceğimizi bilmiyoruz. Olup olmayacağını bilmiyoruz. AI duyarlılığı değerli bir rüya ve özlemdir, ancak silahı atlamayın ve bunu başarmanın eşiğinde olduğumuzu düşünmeyin.

Tabii ki, birçoğu, ister tasarım ister tamamen tesadüfen olsun, bir şekilde AI duyarlılığını çekmeyi başarırsak, varoluşsal bir riskle karşı karşıya kalacağımız konusunda hararetle uyarıyor. Bu şekilde düşünmek, belki de yapay zeka duyarlılığı aramak o kadar da değerli değildir. Risk, bu duyarlı AI'nın insanların etrafta olmaya değmeyeceğini belirleyebilmesidir. Böcek gibi ezilebiliriz. Veya yapay zekanın kölesi olun. Bu, AI'nın açıkça bunu yapmayı seçmesiyle meydana gelebilir veya AI, bizi kendi beceriksizliğimizle yok eden kendi kıyamet makinemiz haline gelebilir. AI duyarlılığının veya tekilliğinin rahatsız edici sonuçlarıyla ilgili kapsamım için bkz. buradaki bağlantı.

Çok önemli bir Etik AI endişesi, AI geliştiricilerinin ve AI ile uğraşanların zaman zaman insanları AI'nın duyarlı olduğunu düşünmeye itmesidir. Yapay zekanın robotik bir formülasyon veya konuşma etkileşimi yoluyla kendini gösterme şekli, insanları sinsice yapay zekanın duyarlı olduğunu varsaymaya teşvik edebilir. Bu da sizi potansiyel olarak kötü bir çuha çiçeği yoluna götürür.

Bir yapay zeka sisteminin duyarlı olduğunu düşünmenin zihinsel tuzağına düşerseniz, duyarlı varlıkların yapacağı şeyleri yapmak için muhtemelen ona güveneceksiniz. Ancak, günümüzün yapay zekalarından herhangi birinde yerleşik, insan benzeri bir kalitenin sağduyusu henüz yoktur. Şu anda deneyimlediğimiz AI, insan benzeri kapasiteler söz konusu olduğunda son derece kırılgan ve sığdır. Bir yapay zeka sisteminin duyarlı olduğuna inanarak kendinizi bazı tatsız ve tehlikeli sulara sokabilirsiniz.

Bunun esrarengiz vadiyle nasıl bir bağlantısı var?

İşte anlaşma.

Tekinsiz vadinin bize, bir AI sistemi veya bir robot insan benzeri bir formülasyona yaklaştıkça insan yakınlığının kademeli olarak artacağını söylediğini hatırlayın. AI sisteminin oldukça yakın olma noktasına yaklaştığı, ancak yine de tam olarak orada olmadığı bir noktada, bir şeylerin ters gittiğine dair ürkütücü bir his alıyoruz. O zamana kadar yapay zekanın insan olmadığını biliyorduk. Şimdi emin değiliz. İnsani yakınlığımız düşüyor. Yapay zeka veya robot, insan benzeri kapasiteler konusunda tamamen ikna edici hale geldiğinde, cihaza olan yakınlığımızı yeniden kazanabiliriz.

Bu kalbe alan AI geliştiricileri muhtemelen kasten AI'yı tekinsiz uçuruma düşmeden hemen önce, AI'nın özellikleri açısından durmayı hedefleyen esrarengiz vadiden uzak tutmaya çalışın (hatırlayın, Masahiro Mori'nin de vurguladığı şey budur). Geliştiriciler, görünüşe göre, AI'nın daha az duyarlı AI olduğunu ve dolayısıyla bir insan olmadığını veya eşit derecede olmadığını açıkça belirtmek için bol miktarda ipucu ipucunun hala var olduğundan emin olarak yapacaklardı.

AI etik uzmanları genellikle bu yürekten çabayı memnuniyetle karşılayacaktır.

Mantık basit. Bu kadar bilgili ve benimseyen AI geliştiricileri, AI sisteminin insanları yanlış bir şekilde AI'ya insan benzeri tesisler atfetmeye yönlendirmediğinden emin olmaya çalışıyorlar. Bu kesinlikle iyi bir haber. Geliştiriciler, yapay zekayı tekinsiz vadiye dalmayı önlemek için bilerek yapacaklar. İnsanlar, yapay zekanın duyarlı olmadığını kolayca anlayacaklardır.

Yapay zeka geliştiricilerinin böyle bir yaklaşımı benimsemelerini sağlamak kolay değil. Gerçekten de, her zamanki içgüdülerine ve sürüş hırslarına karşı sezgilere aykırı olabilir.

AI geliştiricilerinin ve teknisyenlerinin genel olarak hedeflerle tüketildiğine dair birçok iddiada bulunuluyor. Bir hedef görürler ve çoğu zaman büyük bir zevkle körü körüne peşinden giderler. Durup gülleri koklamak için zaman yok. Yarışlara gidiyoruz, gidiyoruz. Yapay zeka alanında, normatif hedef, yapay zekanın akıllıca paritede eşit olabileceği insanlardan ayırt edilemeyen idealleştirilmiş bir yapay zeka olacaktır. Ama henüz orada değiliz. Bu nedenle, tekinsiz vadi ikincil bir hedef sağlar, aksi takdirde zarar verecek tekinsiz vadiden önce iner ve yine de kabul edilebilir bir hedef haline gelir. Elbette, altın ödüllü yüzük değil, ama fikir şu ki bu "ikincil" ödül iyi, çok teşekkür ederim ve bununla gurur duyabilirsiniz.

Yıkıcı hedef arayışı en üst hırsını değiştirdik ve onu, doğru olanı yapmak için mantıklı ve mantıklı bir temel haline getirdik.

Yaşa!

AI etiği için bir galibiyet elde edin.

Ama bir saniye bekleyin, spoiler uyarısı, aynı derecede dikkate almamız gereken bir şey daha var.

Artık bu bilgili yapay zeka geliştiricileri, esrarengiz vadiyi bildiğine göre, zekalarını ve teknik hünerlerini bilerek uçurumun üzerinden atlamaya yöneltebilir ve bunu akıllarında bir aldatma izlenimi ile yapabilirler. Geliştiriciler bunun doğru olmadığını bilse de, yapay zekanın tamamen insan gibi görünmesini sağlayın.

Sapık düşünce böyle gider. Yapay zeka sisteminizin şapkasını devirmesine ve insanların bu anlaşılması zor ürkütücü alt akıntıyı almasına izin vermeyin. AI'nın insan yeteneğine sahip olmadığına dair herhangi bir ipucu veya ipucu verebilecek yönleri çıkarın. Bunu, yapay zekanın insan yeteneğine sahip olmadığını ve bu gerçeği yapay zeka ile etkileşime giren veya ona bağımlı olanlardan gizlemekle ilgili olduğunu gizlice fark ederek ve affedilmez bir şekilde bilerek yapın.

Ne şeytani planlar.

İronik olarak, esrarengiz vadi, AI geliştiricileri için insanları gerçekten kandırmak istiyorlarsa uçurumdan kaçmak için yeterince akıllı olmaları gerektiğine dair bir tür uyandırma çağrısı olabilir. Bunu tam bir yapay zeka elde ederek değil, yapay zekanın insanmış gibi yanıltıcı görünmesini sağlamak için duman ve aynalar dikerek yapmıyorlar. AI geliştiricileri bu tekinsiz vadinin var olduğunu fark etmemiş olsaydı, büyük ölçüde içine düşerdi. Bu, insanlık için iyidir, çünkü insanlar, günümüzün yapay zeka kalitesine aşırı güvenmemek açısından yapay zekaya olan yakınlıklarını kaybedecektir.

Ne yazık ki, tuzağın var olduğunu bilerek, etrafında gizlice dolaşmak isteyen AI geliştiricileri, bunu yapmanın tehlikeli ve zekice yollarını bulacaklar.

Ethical AI ilkelerine karşı bir vuruş yapın.

Bunun yapay zeka etikçileri için esrarengiz vadi hakkında nasıl bir aşk-nefret ilişkisi yarattığını görüyor musunuz?

Yaparsan kahrol, yapmazsan kahretsin.

Bunun esrarengiz vadinin biraz yüksek bir kaş incelemesi olduğunun farkındayım ve bazı günlük örnekler için can atıyor olabilirsiniz. Kalbime yakın, özel ve kesinlikle popüler bir dizi örnek var. Görüyorsunuz, etik ve yasal sonuçları da dahil olmak üzere bir yapay zeka uzmanı olarak, konunun biraz teorik doğasının daha kolay kavranabilmesi için sık sık yapay zeka Etik ikilemlerini sergileyen gerçekçi örnekler belirlemem isteniyor. Bu etik AI ikilemini canlı bir şekilde sunan en hatırlatıcı alanlardan biri, AI tabanlı gerçek kendi kendini süren arabaların ortaya çıkmasıdır. Bu, konuyla ilgili geniş bir tartışma için kullanışlı bir kullanım örneği veya örnek teşkil edecektir.

İşte o zaman üzerinde düşünmeye değer, dikkate değer bir soru: Yapay zeka tabanlı gerçek kendi kendini süren arabaların ortaya çıkışı, esrarengiz vadi hakkında herhangi bir şeyi aydınlatıyor mu ve eğer öyleyse, bu bize ne yapmamızı bildirir?

Soruyu açmam için bir dakika izin verin.

İlk olarak, gerçek kendi kendini süren bir arabada insan sürücünün bulunmadığına dikkat edin. Gerçek kendi kendini süren arabaların bir AI sürüş sistemi ile sürüldüğünü unutmayın. Direksiyonda bir insan sürücüye ihtiyaç yoktur ve bir insanın aracı sürmesi için bir hüküm yoktur. Otonom Araçlar (AV'ler) ve özellikle kendi kendini süren arabalarla ilgili kapsamlı ve devam eden kapsamım için, bkz. buradaki bağlantı.

Gerçek kendi kendini süren arabalardan bahsettiğimde ne anlama geldiğini daha fazla netleştirmek istiyorum.

Sürücüsüz Araçların Seviyelerini Anlamak

Açıklığa kavuşturmak gerekirse, gerçek sürücüsüz otomobiller, yapay zekanın otomobili tamamen kendi başına sürdüğü ve sürüş görevi sırasında herhangi bir insan yardımı olmadığı araçlardır.

Bu sürücüsüz araçlar Seviye 4 ve Seviye 5 olarak kabul edilir (açıklamama bakın: Burada bu linki), sürüş eforunu birlikte paylaşmak için bir insan sürücü gerektiren bir araba genellikle Seviye 2 veya Seviye 3'te değerlendirilir. Sürüş görevini birlikte paylaşan arabalar yarı otonom olarak tanımlanır ve tipik olarak çeşitli özellikler içerir. ADAS (Gelişmiş Sürücü Yardım Sistemleri) olarak adlandırılan otomatik eklentiler.

Seviye 5'te henüz bunun gerçek bir otomobili yok, ki bu da bunu başarmanın mümkün olup olmadığını ve oraya ulaşmanın ne kadar süreceğini bilmiyoruz.

Bu arada, Seviye 4 çabaları, çok dar ve seçici halka açık yol denemelerinden geçerek yavaş yavaş biraz ilgi çekmeye çalışıyor, ancak bu testin kendi başına izin verilip verilmeyeceği konusunda tartışmalar var (hepimiz bir deneyde ölüm kalım kobayız. otoyollarımızda ve yan yollarımızda yer alıyor, bazıları iddia ediyor, Burada bu linki).

Yarı özerk otomobiller bir insan şoför gerektirdiğinden, bu tür otomobillerin benimsenmesi geleneksel araçları sürmekten belirgin bir şekilde farklı olmayacaktır, bu nedenle bu konuda onları ele alacak çok fazla şey yoktur ( bir anda, daha sonra yapılan hususlar genellikle uygulanabilir).

Yarı özerk otomobiller için, halkın son zamanlarda ortaya çıkan rahatsız edici bir yönü hakkında uyarılması önemlidir, yani Seviye 2 veya Seviye 3 otomobilinin direksiyonunda uykuya dalmaya devam eden insan sürücülerine rağmen , hepimizin yarı-özerk bir araba sürerken sürücünün dikkatlerini sürüş görevinden uzaklaştırabileceğine inanmaktan kaçınmamız gerekir.

Ne kadar otomasyonun bir Seviye 2 veya Seviye 3'e atılabileceğine bakılmaksızın, aracın sürüş işlemlerinden sorumlu tarafsınız.

Kendi Kendini Süren Arabalar ve Tekinsiz Vadi

Seviye 4 ve Seviye 5 gerçek kendi kendine giden araçlar için, sürüş görevinde bir insan sürücüsü olmayacaktır.

Tüm yolcular yolcu olacak.

AI sürüş yapıyor.

Hemen tartışılması gereken bir husus, günümüzün AI sürüş sistemlerinde yer alan AI'nın bilinçli olmadığı gerçeğini gerektirir. Başka bir deyişle, yapay zeka tamamen bilgisayar tabanlı programlama ve algoritmalardan oluşan bir kollektiftir ve kesinlikle insanların yapabildiği şekilde akıl yürütemeyecektir.

Yapay zekanın duyarlı olmamasına neden bu ilave vurgu yapılıyor?

Çünkü AI sürüş sisteminin rolünü tartışırken, AI'ya insani nitelikler atfetmediğimin altını çizmek istiyorum. Lütfen bugünlerde yapay zekayı insana benzetmeye yönelik süregiden ve tehlikeli bir eğilim olduğunu unutmayın. Aslında insanlar, henüz böyle bir YZ'nin var olmadığı yadsınamaz ve tartışılmaz gerçeğe rağmen, bugünün yapay zekasına insan benzeri bir duyarlılık atıyorlar.

Bu açıklamayla, AI sürüş sisteminin doğal olarak bir şekilde sürüşün yönlerini "bilmeyeceğini" öngörebilirsiniz. Sürüş ve bunun gerektirdiği her şeyin, sürücüsüz arabanın donanım ve yazılımının bir parçası olarak programlanması gerekecektir.

Bu konuyla ilgili olarak ortaya çıkan sayısız konuya dalalım.

İlk olarak, tüm AI kendi kendine giden arabaların aynı olmadığını anlamak önemlidir. Her otomobil üreticisi ve kendi kendini süren teknoloji firması, kendi kendini süren otomobiller tasarlama yaklaşımını benimsiyor. Hal böyle olunca da yapay zekalı sürüş sistemlerinin ne yapıp ne yapmayacağı konusunda kapsamlı açıklamalar yapmak zor.

Ayrıca, ne zaman bir AI sürüş sisteminin belirli bir şey yapmadığını belirtse, bu, daha sonra, aslında bilgisayarı o şeyi yapmak için programlayan geliştiriciler tarafından geçilebilir. AI sürüş sistemleri adım adım geliştirilmekte ve genişletilmektedir. Bugün var olan bir sınırlama, sistemin gelecekteki bir yinelemesinde veya sürümünde artık mevcut olmayabilir.

Bunun, birazdan anlatacağım şeyin altını çizmek için yeterli sayıda uyarı sağladığına inanıyorum.

Şimdi kendi kendini süren arabalara ve esrarengiz vadiyi içeren etik AI sorularına derin bir dalış yapmaya hazırız.

Bu konuyla ilgili olarak burada ele alınacak dört husus vardır:

1. Kendi kendine giden arabaların genel görünümü

2. Kendi kendine giden arabaların “nereye baktığı” sorusu

3. Kendi kendini süren arabaların AI sürüş eylemleri

4. Kendi kendini süren arabalara ulaşmanın bir yolu olarak araba kullanan robotlar

Ek yönler de uygulanabilir bir şekilde kapsanmıştır, ancak alan kısıtlamaları için bu dört konu, yapay zeka tabanlı kendi kendini süren arabalarla ilgili olarak tekinsiz vadinin yönünü aydınlatmak için yeterli olacaktır.

1. Kendi Kendini Süren Arabaların Genel Görünümü

İddiaya girerim, bugünün sürücüsüz araba denemelerinin resimlerini veya videolarını görmüşsünüzdür. Bu nedenle, araçların çoğunun ek özel ekipmanlarla donatılmış geleneksel görünümlü arabalar olduğunu fark etmiş olabilirsiniz. Örneğin, bir dizi elektronik sensör içeren bir çatı katı rafı olabilir. Sensörler bazen video kameraları, radar ünitelerini, LIDAR cihazlarını, ultrasonik sensörleri ve benzerlerini içerir.

Fütüristik tasarımlar, geleneksel görünümlü otomobillerden ayrılıp otomobilleri hem iç hem de dış olarak daha kaygan görünümlü otonom araçlar olacak şekilde yeniden tasarlamamız gerektiğini önerme eğilimindedir. Şu anda, genel düşünce, geleneksel arabaları kullanmanın daha basit olduğu ve aynı anda geleneksel olmayan görünümlü arabalarla kurcalayarak çabayı uzatmaya çalışmak için enerji harcamak değil (bu genel bakış açısının bazı istisnaları vardır, şuradaki kapsamıma bakınız). buradaki bağlantı).

Şu anda ana fikir, karayolunda sürüyorsanız ve yakınlarda kendi kendine giden bir araba ile karşılaşırsanız, neredeyse her zaman, otonom araca monte edilmiş sensörlerin saçılmasını fark ederek muhtemelen kendi kendini süren bir araba olduğunu hemen fark edebilirsiniz. Bu hızlı bir görsel hediyedir. Tabii ki, kendi kendine sürüş olduğundan emin değilsiniz çünkü bu noktada sürüş kontrolleri genellikle hala sağlam ve direksiyonda bir insan yedek sürücü olabilir.

Bir düşünce tarzıyla, sürücüsüz arabaların fiziksel olarak göze çarpıyor gibi görünmesinin ve yakındaki insan güdümlü arabalardaki insan sürücüler ve ayrıca yakınlardaki yayalar tarafından görsel olarak kolayca fark edilmesinin özellikle kullanışlı olduğunu önerebilirsiniz. Yakınlarda kendi kendini süren bir arabanın dolaştığının farkına varmak, tetikte olmak için kullanışlı bir ipucu olabilir ve sizi, AI'nın aracı sürdüğü veya kullanabileceği konusunda dikkatli ve dikkatli olmanızı ister.

Kendi kendini süren arabaların, geleneksel bir insan güdümlü araba ile aynı göründüğünü varsayalım. Bu, en az iki şekilde gerçekçi olarak uygulanabilir. İlk olarak, sensörler potansiyel olarak gizlenebilir veya geçici görsel inceleme için çok açık olmayacak şekilde şekillendirilebilir. İkincisi, araç yine de ağırlıklı olarak insan güdümlü bir araba olarak kalacak olsa bile, geleneksel insan güdümlü arabalar da dahil olmak üzere tüm arabaların yavaş yavaş benzer sensörlerle donatılması olabilir. Daha fazla kapsama alanıma bakın Burada bu linki.

Kendi kendini süren arabaların görünüşte geleneksel insan güdümlü arabalarla aynı olup olmayacağı veya olması gerektiği konusunda bu düşünceyi dikkatlice düşünürseniz, bu güveçte esrarengiz bir vadinin gizlendiğini düşünmeye başlayabilirsiniz.

Görüyorsunuz, bariz bir şekilde kendi kendine giden arabalara benzeyen arabalar, tekinsiz vadinin hemen altındaki bir kavşakta olarak tanımlanabilir. Temel olarak, bunun bir robot veya robotik bir sistem olduğunu “biliyorsunuz”. Bu, neredeyse hemen atlayabileceğiniz bir yargıdır.

Kendi kendini süren arabalar aynı şekilde insan güdümlü arabalara baktığında, belki de bu, otonom araçların robot benzeri görünümleri açısından esrarengiz vadiyi aştığını gösteriyor. Bizi tekinsiz vadiye indiren bu iki fiziksel görünüm arasında bir orta yol var mı?

Belki de caddeden aşağı inen kendi kendini süren bir araba görüyorsunuz ve bu muhtemelen kendi kendini süren bir araba gibi görünüyor, diğer yandan görünüm ne tamamen otonom ne de kesinlikle insan odaklı görünüyor. Kendi kendini süren arabanın artık ürkütücü veya rahatsız edici bir görünümde olduğunu iddia edebilirsiniz.

Kendi kendini süren araba görünüşte kendini esrarengiz vadiye daldırdı.

Olduğu söyleniyor, herkes bu kategorizasyonla aynı fikirde değil. Bazıları, fiziksel görünümün tekinsiz vadiyle hiçbir ilgisi olmadığını iddia edebilir. Elbette bazıları, gerçekçi olarak tekinsiz vadi olarak bilinen bir şey olmadığını da iddia ediyor.

Daha önce de belirtildiği gibi, bu konuda kendi kararınızı verebilirsiniz.

2. Kendi Kendini Süren Arabaların Nereye Baktığı Sorusu

Kendi kendini süren arabalarla ilgili pek çok kişinin başgösteren endişesi, genellikle sürücü koltuğunda herhangi bir insan sürücünün bulunmaması ve bu nedenle, arabayı sürerken “sürücünün” nereye baktığını anlamanın zor olmasıdır.

Normalde aradıkları yeri gözetlemek için insan sürücülere bakarsınız. Örneğin, bir yaya geçidinde yaya olabilirsiniz ve bir araba yaya geçidine yaklaşıyor. Sürücü koltuğunda oturan kişiye dikkatle bakar ve başının nereye döndüğünü ve gözlerinin nereye baktığını ayırt etmeye çalışırsınız. İnsan sürücünün sizi gördüğüne inanıyorsanız, karşıdan karşıya geçerken daha rahat olabilirsiniz. Buna karşılık, insan sürücü sizi görmediyse, karşıya geçmek konusunda haklı olarak endişe duyuyorsunuz.

Bazı şehirlerde bu yönlerde bir tür kedi fare oyunu vardır. Belirli bir şehirdeki belirli bir kültürel norm, bir sürücüyle göz teması kurarsanız, sürücünün “kazanması” ve sürüş durumunun yasallığı ne olursa olsun, görünüşe göre devam etme hakkına sahip olmaları olabilir. Diğer şehirler tamamen tersi olabilir, yani kültürel norm, göz teması kurulduğunda yaya “kazanır” ve insan sürücünün yayanın hareketlerini ertelemesi beklenir.

Bu geleneği, arabaların şehirlerimizin ve topluluklarımızın ortasında olduğu nispeten uzun süre boyunca benimsemiş görünüyoruz. Kendi kendini süren arabaların ortaya çıkışıyla ilgili sorun, sürücü koltuğunda bir insan sürücünün olmaması ve dolayısıyla normalde araba sürücülerinin kafasını ve gözlerini sürüş niyetinin kültürel bir göstergesi olarak kullanan herhangi bir yaya veya yakındaki insan sürücünün artık geçerli olmamasıdır. şanssız.

Otomobil üreticileri ve sürücüsüz otomobil geliştiricileri, ortaya çıkan bu sorunun son derece farkındalar. Önerilen bir çözüm, kendi kendini süren arabanın, otonom aracın farlarını yakıp söndürmesini veya muhtemelen kornaya basmasını içeriyor. Başka bir fikir, kendi kendini süren arabanın bir hoparlör çeşidine sahip olabileceği ve yakındakilere AI sürüş sisteminin "amaçlarının" ne olduğunu söyleyebileceğidir. Bu fikirlerin her birinin önemli dezavantajları vardır.

Yine de farklı bir teklif, ilk başta gülünç olduğuna inanabileceğiniz bir şey yapmayı gerektirir. Teklif, otonom aracın dışına göz küresi benzeri küreler yerleştirmeyi içeriyor. Bu küreler, ileri geri dönebilme görünümünde hemen hemen insan gözlerine benzeyecek ve size AI'nın "sizi gördüğünü" düşündüren anında bir gösterge verecektir (bunu, kendi yönünüze bakan göz küreleriyle yorumlayacaksınız). Bu yaklaşımı şurada analiz ettim: buradaki bağlantı.

Kendi kendini süren bir arabanın yoldan aşağı indiğini ve kaportaya veya çatıya monte edilmiş bu devasa tuhaf göz küresi görünen kürelere sahip olduğunu görseniz tepkiniz ne olurdu?

Sanırım bunun ürkütücü, belki de ürkütücü olduğunu düşünebilirsiniz.

Bazıları, ürkütücülüğün, tekinsiz vadide bulunan kendi kendine giden arabadan kaynaklandığını öne sürüyor. Diğerleri şiddetle bunun tekinsiz vadiyle hiçbir ilgisi olmadığını iddia ederdi. Bu tür uzmanlardan bazıları, tekinsiz vadiye yerleşmek zorunda kalmadan ürkütücü olabilen bir ürkütücülük olduğunu söyleyecektir (yani, tekinsiz vadi görünüşte her zaman ürkütücülük üretir, ancak tüm ürkütücülük yalnızca tekinsiz vadi yoluyla üretilmez). Diğer açı, kürelerin muhtemelen daha az göz küresi ve daha robotik görünecek şekilde tasarlanabileceği veya hepimizin bu kürelerin görünümünü kaçınılmaz olarak kabul edeceğimiz ve ilk şaşırtıcı reaksiyonun azalacağıdır.

3. Kendi Kendini Süren Arabaların Yapay Zeka Sürüş Eylemleri

Günümüzün kendi kendini süren araba denemelerinin çoğu, mevcut AI sürüş sistemlerinin oldukça yumuşak ve bir şekilde kesinlikle yasal yollara uymak üzere programlanma eğiliminde olduğunu gösterdi. AI sürüş sistemi tipik olarak kendi kendini süren arabayı Dur işaretlerinde tam olarak durdurur. AI sürüş sistemi, trafik sinyalinin yakında kırmızı olacağı durumlarda kavşaklardan cüretkar koşular yapmaz. Bu asi sürüş uygulamaları, insan sürücülerin alanıdır.

Bir bakıma, sergilediği sürüş tarzına göre kendi kendini süren bir arabanın kendi kendini süren bir araba olduğunu neredeyse tahmin edebilirsiniz. Otonom araç görsel olarak geleneksel insan güdümlü bir araba gibi görünse bile, sürüş hareketlerini gözlemleyebilir ve mantıksal olarak muhtemelen bir yapay zeka sistemi tarafından sürüldüğü sonucuna varabilirsiniz.

Bazıları, sürüşe ilişkin normatif yaklaşımlara etkin bir şekilde uyum sağlamaları için AI sürüş sistemlerini insan sürücülerin maskaralıklarına daha yakın hale getirmemiz gerektiğine inanıyor. Sanırım bunu ateşe ateşle karşılık vermek olarak yorumlayabilirsiniz.

Bunu yapmak mantıklı mı?

Açık sözlü şüphecilerin ve eleştirmenlerin bu fikirden nefret ettiğini unutmayın. AI sürüş sistemlerinin düzgün ve dikkatli bir şekilde sürmesini istediğimizi şiddetle tartışırlar. Hatalı insan sürücüler gibi programlanmış yollara potansiyel olarak milyonlarca kendi kendine giden araba eklemek devasa bir kabus gibi görünebilir. Bu tartışmalı öneriyi şu adreste tartıştım: buradaki bağlantı.

Tekinsiz vadiden yararlanarak ikilemi yeniden şekillendirelim.

AI sürüş sistemi, sürüş eylemleriyle kesinlikle yasal olduğunda, bu belki de robotik bir sistem olma ihtimalinin açıklayıcı bir ipucudur (bununla birlikte insan sürücülerin bunu yapmasına rağmen, bugünün dünyasında çok az görünüyorlar). AI sürüş sistemleri, insan sürücüler kadar ilginç olacaksa, bu tekinsiz vadiden mi atlıyor yoksa tekinsiz vadiye mi düşüyor?

Üzerinde kafa yorun.

4. Kendi Kendini Süren Arabalara Ulaşmak İçin Araba Kullanan Robotlar

Kapsam için bu son öğe, bu dördünün en şaşırtıcı olanıdır.

Bazı AI geliştiricilerinin araba kullanacak robotlar yapmaya çalıştıklarından tamamen habersiz olabilirsiniz. Robot, robotik bacaklara ve uzuv olarak robotik kollara sahip olduğundan, çeşitli açılardan bir insana benzeme eğiliminde olacaktır. Herhangi bir geleneksel insan güdümlü arabanın kendi kendini süren bir araba olmasını istediğinizde, bu özel AI sürüş robotunu arabanızın sürücü koltuğuna koymanız yeterlidir. Bu kavramla ilgili analizime şu adresten bakın: buradaki bağlantı.

Neden robotları sürmek isteyelim ki?

Böyle bir robotun güzelliği, günümüzün tüm insan güdümlü arabalarının, bir yorumda, neredeyse bir gecede kendi kendini süren arabalara dönüşebilmesidir. Sadece satın alır, kiralar veya bir şekilde kendinize bir sürüş robotu alırsınız. Bir sürüş yolculuğuna çıkarken robotu sürücü koltuğuna koyarsınız. Robot sizi hedefinize götürür. İnsan sürüşüne geçmek istiyorsanız, robotu araçtan çıkarırsınız, belki daha sonra kullanmak üzere bagaja koyarsınız.

Bugün Amerika Birleşik Devletleri'nde yaklaşık 250 milyon geleneksel araba var. Bazıları, kendi kendine giden arabalar ortaya çıktıkça bunların sonunda çöpe atılacağına inanıyor. Bu geleneksel arabaları hurdaya çıkarmak yerine, belki de onları kendi kendine giden arabalar haline getirmeye çalışabiliriz, ancak bu muhtemelen oldukça maliyetli bir fikir. Görünüşe göre daha ihtiyatlı yaklaşım, kullanılabilir sürüş robotları yapmak olacaktır.

Mahallenizin sokağından gelen geleneksel görünümlü bir araba görseniz ve direksiyonda bir robot olsaydı, tepkiniz ne olurdu?

Muhtemelen ürkütücü.

Kuşkusuz tartışılabilir bir iddia, bu ürkütücülüğün, geleneksel arabayı süren robotun ünlü veya rezil tekinsiz vadiye dalması nedeniyle olduğudur.

Sonuç

Etik AI perspektifinden bakıldığında, esrarengiz vadi ilgi çekici bir bilmece sunuyor.

AI'da esrarengiz vadiye tamamen inanan ve inanmayan bazıları var. Ancak, esrarengiz vadiye inansanız da inanmasanız da, konunun kendisi dolaşıyor. Kafanızı gizleyemez ve yapının kendi başına var olmadığını iddia edemezsiniz. Bir fikir olarak yapı yaşar ve bir görünüşte viral olarak güçlüdür. Nefret et ya da sev, lanetli ya da belki de yüce konu devam ediyor.

AI açısından tekinsiz vadinin esasına ilişkin daha önceki söylemime göre, orada bir düello aşk ve nefret ilişkisi var. Etik AI alemindekiler tekinsiz vadiyi kucaklamalı mı yoksa tekinsiz vadiyi özetle reddetmeli mi yoksa doğruluk konusunda bir şekilde tarafsız kalmalı ve bunun yerine onunla ilgili süregelen farklı inançlar nedeniyle tahakkuk eden etkiye odaklanmalı mı?

Bu meydan okuma, önde gelen iktisatçı Adam Smith'i bir keresinde (başka bir deyişle) Şüphecilik Şehri'nden yola çıkarken Belirsizlik Vadisi'nden geçmeniz gerektiğini söylediği gibi gündeme getiriyor.