Yapay Zeka Etiği, Yapay Zekanın Özellikle İnsan Önyargıları Bol Olduğunda Uygulanması Gerektiğini Söyledi

İnsanlar sınırlarını bilmeli.

1973 filminde Dirty Harry karakteri tarafından cesurca dile getirilen sınırlarımızı bilmekle ilgili ünlü repliği hatırlayabilirsiniz. Magnum Force (Aktör Clint Eastwood'un Müfettiş Harry Callahan rolündeki unutulmaz rolünde konuşulan sözlerine göre). Genel fikir, bazen kendi sınırlarımızı gözden kaçırma ve buna göre kendimizi sıcak suya sokma eğiliminde olduğumuzdur. Kibir, benmerkezcilik ya da basitçe kendi yeteneklerimize karşı kör olma nedeniyle, eğilimlerimizin ve eksikliklerimizin farkında olma ve bunları açıkça hesaba katma ilkesi fazlasıyla mantıklı ve yararlıdır.

Adaçayı tavsiyesine yeni bir dokunuş ekleyelim.

Yapay Zeka (AI) sınırlarını bilmek zorunda.

Bu saygıdeğer sloganın bu çeşidiyle ne demek istiyorum?

Günümüz yapay zekasını dünya sorunlarının umutlu bir çözücüsü olarak kullanmaya yönelik ilk acelenin, bugünün yapay zekasının oldukça ciddi sınırlamalara sahip olduğunun farkına varılmasıyla kirlendiği ve tamamen bulandırıldığı ortaya çıktı. Yükselen manşetlerden gittik AI için iyi ve kendimizi giderek daha fazla içine batmış bulduk Kötü İçin AI. Görüyorsunuz, birçok AI sistemi, her türlü istenmeyen ırk ve cinsiyet önyargıları ve bunun gibi sayısız başka korkunç eşitsizlik ile geliştirildi ve sahaya sürüldü.

AI Etiği ve Etik AI ile ilgili kapsamlı ve devam eden kapsamım için bkz. buradaki bağlantı ve buradaki bağlantı, Sadece birkaç isim.

Bu yapay zeka sistemlerinde keşfedilen önyargılar, insan davranışına atfedeceğimiz “kasıtlı” dememiz gerekmez mi? Bugünün yapay zekasının duyarlı olmadığını vurgulamak için bundan bahsediyorum. Aksini öne süren bu abartılı manşetlere rağmen, hiçbir yerde sezgiye yaklaşan herhangi bir yapay zeka yok. Bunun da ötesinde, yapay zekayı duyarlılık aralığına nasıl sokacağımızı bilmiyoruz ve ayrıca hiç kimse yapay zeka duyarlılığına ulaşıp ulaşamayacağımızı kesin olarak söyleyemez. Belki bir gün olur, belki olmaz.

Demek istediğim, şu anda sahip olduğumuz AI türüne özellikle niyet atayamayız. Bununla birlikte, AI sistemlerini işleyenlere bolca niyet verebiliriz. Bazı yapay zeka geliştiricileri, tatsız ve muhtemelen yasa dışı önyargılar içeren bir yapay zeka sistemi tasarladıklarının farkında değiller. Bu arada, diğer AI geliştiricileri, AI sistemlerine önyargılar yerleştirdiklerini ve bunu potansiyel olarak kasıtlı bir şekilde yanlış bir şekilde yaptıklarını fark ediyorlar.

Her iki durumda da, sonuç yine de uygunsuz ve muhtemelen yasa dışıdır.

Yapay zeka geliştiricilerini aydınlatacak ve yapay zeka sistemlerine önyargıları yerleştirmek için uygun rehberlik sağlayacak AI Etik ilkelerini yaymak için yoğun çabalar sürüyor. Bu iki yönlü bir şekilde yardımcı olacaktır. İlk olarak, yapay zeka üretenler artık hangi ilkelerin izlenmesi gerektiğinin farkında olmadıklarına dair hazır mazeretlere sahip olmayacaklar. İkincisi, Etik AI koşullarından sapanlar daha kolay yakalanacak ve hem yapmaları hem de yapmamaları konusunda önceden uyarıldıkları şeylerden kaçındıkları gösterilecektir.

Yapay zeka geliştiricilerinin bir AI Etiği duruşundan ne düşünmesi ve titizlikle üstlenmesi gerektiğini göstermek için bazı önemli Etik AI ilkelerini kısaca ele alalım.

Vatikan'ın da belirttiği gibi Yapay Zeka Etiği İçin Roma Çağrısı ve derinlemesine ele aldığım gibi buradaki bağlantı, bunlar belirlenmiş altı temel AI etik ilkesidir:

• Şeffaflık: Prensipte, yapay zeka sistemleri açıklanabilir olmalıdır
• Kapsama: Herkesin yararlanabilmesi için tüm insanların ihtiyaçları göz önünde bulundurulmalı ve tüm bireylere kendilerini ifade etmeleri ve geliştirmeleri için mümkün olan en iyi koşullar sunulmalıdır.
• Sorumluluk: Yapay zeka kullanımını tasarlayan ve uygulayanlar sorumluluk ve şeffaflıkla ilerlemelidir.
• Tarafsızlık: Önyargıya göre yaratmayın veya hareket etmeyin, böylece adaleti ve insan onurunu koruyun
• Güvenilirlik: AI sistemleri güvenilir bir şekilde çalışabilmelidir
• Güvenlik ve gizlilik: AI sistemleri güvenli bir şekilde çalışmalı ve kullanıcıların gizliliğine saygı göstermelidir.

ABD Savunma Bakanlığı'nın (DoD) raporlarında belirttiği gibi Yapay Zeka Kullanımına İlişkin Etik İlkeler ve derinlemesine ele aldığım gibi buradaki bağlantı, bunlar onların altı temel AI etik ilkesidir:

• Sorumluluk sahibi: Savunma Bakanlığı personeli, AI yeteneklerinin geliştirilmesi, devreye alınması ve kullanılmasından sorumlu olmaya devam ederken, uygun düzeyde muhakeme ve özen gösterecektir.
• Adil: Departman, AI yeteneklerinde istenmeyen önyargıları en aza indirmek için kasıtlı adımlar atacaktır.
• İzlenebilir: Departmanın yapay zeka yetenekleri, ilgili personelin teknoloji, geliştirme süreçleri ve şeffaf ve denetlenebilir metodolojiler, veri kaynakları ve tasarım prosedürü ve dokümantasyon dahil olmak üzere AI yeteneklerine uygulanabilir operasyonel yöntemler hakkında uygun bir anlayışa sahip olacağı şekilde geliştirilecek ve konuşlandırılacaktır.
• Güvenilir: Departmanın yapay zeka yeteneklerinin açık, iyi tanımlanmış kullanımları olacaktır ve bu tür yeteneklerin emniyeti, güvenliği ve etkinliği, tüm yaşam döngüleri boyunca bu tanımlanmış kullanımlar dahilinde teste ve güvenceye tabi olacaktır.
• Yönetilebilir: Departman, amaçlanan işlevlerini yerine getirmek için AI yeteneklerini tasarlayacak ve tasarlayacak ve istenmeyen sonuçları tespit etme ve bunlardan kaçınma yeteneğine ve istenmeyen davranışlar sergileyen konuşlandırılmış sistemleri devre dışı bırakma veya devre dışı bırakma yeteneğine sahip olacaktır.

Ayrıca, “AI Etik Yönergelerinin Küresel Peyzajı” (yayınlanan) başlıklı bir makalede çok sayıda ulusal ve uluslararası AI etik ilkesinin özünü inceleyen ve yoğunlaştıran araştırmacılar tarafından tasarlanan bir diziyi ele almak da dahil olmak üzere AI etik ilkelerinin çeşitli toplu analizlerini tartıştım. içinde Tabiat) ve kapsamımın araştırdığı buradaki bağlantı, bu kilit taşı listesine yol açtı:

• Şeffaflık
• Adalet ve Adalet
• Zarar Vermez
• sorumluluk
• Gizlilik
• ihsan
• Özgürlük ve Özerklik
• Güven
• Sürdürülebilirlik
• Haysiyet
• Dayanışma

Doğrudan tahmin edebileceğiniz gibi, bu ilkelerin altında yatan özellikleri belirlemeye çalışmak son derece zor olabilir. Daha da ötesi, bu geniş ilkeleri tamamen somut ve AI sistemlerini oluştururken kullanılabilecek kadar ayrıntılı bir şeye dönüştürme çabası da kırılması zor bir cevizdir. AI Etik ilkelerinin ne olduğu ve genel olarak nasıl gözlemlenmesi gerektiği hakkında genel olarak biraz el sallamak kolaydır, ancak AI kodlamasının yolu karşılayan gerçek kauçuk olması gerektiğinden çok daha karmaşık bir durumdur.

AI Etik ilkeleri, AI geliştiricileri tarafından, AI geliştirme çabalarını yönetenler ve hatta nihayetinde AI sistemlerinde saha ve bakım yapanlar tarafından kullanılacaktır. Tüm AI geliştirme ve kullanım yaşam döngüsü boyunca tüm paydaşlar, Etik AI'nın yerleşik normlarına uyma kapsamında değerlendirilir. "Yalnızca kodlayıcıların" veya AI'yı programlayanların AI Etiği kavramlarına bağlı kalmaya tabi olduğu olağan varsayım olduğundan, bu önemli bir vurgudur. Lütfen AI'yı tasarlamanın ve sahaya çıkarmanın bir köy gerektirdiğini unutmayın. Bunun için tüm köyün AI Etiği hakkında ayak parmaklarını tutması gerekiyor.

Her neyse, artık yapay zekanın önyargılar içerebileceği masaya yatırıldığıma göre, belki de hepimiz şu iki açık gerçeği kabul edebiliriz:

1. İnsanlar çok sayıda istenmeyen önyargıya sahip olabilir ve bunlara göre hareket edebilir.

2. AI'nın sayısız istenmeyen önyargısı olabilir ve bu önyargılara göre hareket edebilir

Bu bağlamda insanları yapay zekaya karşı bir araya getirmekten biraz nefret ediyorum çünkü bu bir şekilde yapay zekanın insanlarla eşit duyarlı kapasitelere sahip olduğunu ima edebilir. Bu kesinlikle böyle değil. Bu tartışmada biraz sonra yapay zekanın antropomorfize edilmesiyle ilgili artan endişelere bir an için döneceğim.

Hangisi daha kötü, istenmeyen önyargılar sergileyen insanlar mı yoksa bunu yapan yapay zeka mı?

Sorunun bu asık suratlı seçeneklerden birini teşkil ettiğini söylemeye cüret ediyorum. Bu, iki kötülüğün meşhur küçüğüdür, iddia edilebilir. İnsanların istenmeyen önyargılar içermemesini dilerdik. Ayrıca, insanların istenmeyen önyargıları olsa bile, bu önyargılara göre hareket etmemesini diliyoruz. Aynı şey uygun bir şekilde AI için de söylenebilir. AI'nın istenmeyen önyargıları yerleştirmemesini ve dahili olarak kodlanmış önyargılar olsa bile, AI'nın en azından bunlar üzerinde hareket etmemesini dilerdik.

Dilekler dünyayı ille de yönetmese de (sözde arzuların yükselen ve rahatsız edici görünümüne ilişkin analizim için) AI Dileğini Gerçekleştirme genel olarak toplum tarafından bkz. buradaki bağlantı).

Tamam, açıkçası insanların sınırlarını bilmelerini istiyoruz. Olumsuz önyargılarınız olduğunda bunu fark etmenin bir önemi vardır. Bu istenmeyen önyargıların eylemlerinize ve kararlarınıza bulaşmasını önlemeye çalışmak da aynı derecede önemlidir. Günümüzde işletmeler, çalışanlarını istenmeyen ön yargılara düşmekten alıkoymak için her türlü yaklaşımı deniyor. Çalışanlara, işlerini etik açıdan sağlıklı bir şekilde nasıl yapacakları konusunda özel eğitim verilmektedir. Süreçler, etik olmayan adetler sergilediklerinde onları uyarmak için çalışanlar etrafında şekillenir. Ve benzeri.

İnsanlarla ve onların istenmeyen önyargılarıyla başa çıkmanın bir başka yolu, insan temelli çalışmayı otomatikleştirmek olacaktır. Evet, sadece insanı döngüden çıkarın. Bir insanın bir karar verme görevini yerine getirmesine izin vermeyin ve muhtemelen artık, herhangi bir istenmeyen önyargıya karşı insan tutumu hakkında kalıcı bir endişeniz yok. İlgili bir insan yok ve bu nedenle potansiyel insan önyargıları sorunu çözülmüş görünüyor.

Bunu gündeme getiriyorum çünkü AI'yı bir algoritma karar verme (ADM) tarzında kullanmaya yönelik kademeli ve büyük boyutlu bir değişime tanık oluyoruz. Bir insan işçiyi AI ile değiştirebilirseniz, pek çok faydanın ortaya çıkma ihtimali vardır. Daha önce de belirtildiği gibi, artık o insan işçinin (artık o işi yapmayan) insani önyargıları hakkında endişelenmeyeceksiniz. Şanslar, AI'nın uzun vadeli bir zaman ufku ile karşılaştırıldığında genel olarak daha az maliyetli olacağıdır. İnsan işçilerle parça parça gelen tüm diğer çeşitli zorluklardan vazgeçiyorsunuz. Vb.

Yer kazanmakta olan bir önerme şuna benziyor: Yapay zekayı en iyi nereye yerleştireceğinize karar vermeye çalışırken, öncelikle çalışanlarınız tarafından zaten insani önyargılar içeren ve bu önyargıların yetersiz kaldığı veya belirli karar verme görevlerini aşırı derecede karmaşıklaştıran ayarlara bakın.

Sonuç olarak, olumsuz bir önyargı infüzyon perspektifinden kontrol edilmesi zor olan, yüksek düzeyde maruz kalan insan karar verme görevlerini doğrudan hedefleyerek AI'ya yatırım yapma açısından paranızın karşılığını en iyi şekilde toplamanın ihtiyatlı görünmesidir. Bu roldeki insan işçileri çıkarın. Bunları AI ile değiştirin. Varsayım, AI'nın böyle istenmeyen önyargılara sahip olmayacağıdır. Bu nedenle, pastanızı alabilir ve onu da yiyebilirsiniz, yani üstlenilen karar görevlerini alın ve bunu olumsuz önyargıların etik ve yasal hayaleti olmadan yapın.

Bunu kaleme aldığınızda, yatırım getirisi (yatırım getirisi) muhtemelen AI'nın benimsenmesini akıllıca bir seçim haline getirecektir.

İşte bu genellikle nasıl oynanır.

Firmanızın geneline bakın ve müşterileri etkileyen karar verme görevlerini belirlemeye çalışın. Bu görevlerden, işçiler istenmeyen önyargıları benimsiyorsa, hangilerinin uygunsuz bir şekilde etkilenmesi daha olasıdır? Zaten bu önyargıları dizginlemeye çalıştıysanız, belki de her şeyin olduğu gibi kalmasına izin verirsiniz. Öte yandan, önyargılar yeniden ortaya çıkmaya devam ederse ve bunları ortadan kaldırma çabası zahmetliyse, bu role uygun bir AI bırakmayı düşünün. Yapay zekayı geçersiz kılabilecekleri veya yapay zekayı istenmeyen önyargıların uçurumuna geri itebilecekleri için işçileri karışımda tutmayın. Ayrıca, yapay zekanın görevi yetkin bir şekilde yerine getirebildiğinden ve işi gerçekleştirmek için gereken karar verme yönlerini yeterince yakaladığınızdan emin olun.

Durulayın ve tekrarlayın.

Bunun basit bir fikir gibi göründüğünün farkındayım, ancak insan işçileri AI ile değiştirmenin kolayca ters gidebileceğinin birçok yolu olduğunun farkındayım. Birçok şirket bu tür eylemlerde bulunmaya hevesliydi ve bunu nasıl yapacaklarını dikkatli bir şekilde düşünmedi. Sonuç olarak, genellikle, başlangıçta sahip olduklarından çok daha kötü bir karmaşa yarattılar.

AI'nın her derde deva olmadığını açıklığa kavuşturmak ve vurgulamak istiyorum.

Sözü açılmışken, insan taraflı karar vericileri, tarafsız olduğu iddia edilen AI ile görünüşte bir kenara atmanın temizliği konusunda büyük bir aksaklık var. Sorun şu ki, yalnızca bir dizi istenmeyen önyargıyı bir başkasıyla değiştiriyor olabilirsiniz. Daha önceki göstergeye göre, AI istenmeyen önyargılar içerebilir ve bu önyargılara göre hareket edebilir. Önyargılı insanları tarafsız yapay zeka ile değiştirmenin, her şey olması gerektiği gibi olmadığı konusunda küstah bir varsayımda bulunmak.

Kısacası, konuya kesinlikle önyargı faktörlerinden bakıldığında anlaşma şudur:

• AI'nın istenmeyen bir önyargısı yoktur ve bu nedenle AI tabanlı ADM'yi dağıtmak için kullanışlıdır
• AI, değiştirilen insanlarla aynı istenmeyen önyargılara sahiptir ve bu nedenle AI tabanlı ADM sorunludur.
• AI, değiştirilen insanlarınkinin ötesinde yeni istenmeyen önyargılar getiriyor ve muhtemelen işleri buna göre daha da kötüleştirecek.
• AI ilk başta iyi görünüyor ve sonra yavaş yavaş istenmeyen önyargılara dönüşüyor
• Diğer

Bu olasılıkları kısaca açabiliriz.

Birincisi, olabileceklerin idealize edilmiş versiyonudur. AI'nın olumsuz önyargıları yoktur. AI'yı yerine koyarsınız ve işi mükemmel bir şekilde yapar. Aferin! Tabii ki, yapay zekanın dahil edilmesi nedeniyle insan işçilerin yerinden edilmesini de ustaca bir şekilde ele almış olmanızı umarız.

İkinci durumda, yapay zekayı yerleştirirsiniz ve yapay zekanın insan işçilerin sahip olduğu aynı istenmeyen önyargıları sergilediğini keşfedersiniz. Bu nasıl olabilir? Bu tuzağa düşmenin yaygın bir yolu, roldeki insanların daha önce kararlarını nasıl verdiğine dair toplanan verilere dayanarak Makine Öğrenimi (ML) ve Derin Öğrenme (DL) kullanmaktır.

Açıklamam için bir dakika izin verin.

ML/DL, bir hesaplama modeli eşleştirme biçimidir. Genel yaklaşım, bir karar verme göreviyle ilgili verileri bir araya getirmenizdir. Verileri ML/DL bilgisayar modellerine beslersiniz. Bu modeller matematiksel kalıpları bulmaya çalışır. Bu tür kalıpları bulduktan sonra, eğer bulunursa, AI sistemi yeni verilerle karşılaştığında bu kalıpları kullanacaktır. Yeni verilerin sunulması üzerine, güncel bir karar vermek için “eski” veya geçmiş verilere dayalı kalıplar uygulanır.

Sanırım bunun nereye gittiğini tahmin edebilirsiniz. Yıllardır bu işi yapan insanlar istenmeyen önyargıları benimsiyorsa, verilerin bunu ince ama önemli şekillerde yansıtması ihtimali yüksektir. Makine Öğrenimi veya Derin Öğrenme hesaplama modeli eşleştirmesi, verileri buna göre matematiksel olarak taklit etmeye çalışacaktır. Modellemenin kendi başına sağduyuya veya diğer duyarlı yönlerine dair hiçbir benzerlik yoktur.

Ayrıca, AI geliştiricileri de neler olup bittiğini anlamayabilir. Gizli matematik, artık gizli olan önyargıları ortaya çıkarmayı zorlaştırabilir. Haklı olarak, AI geliştiricilerinin, göründüğünden daha zor olsa da, potansiyel olarak gömülü önyargıları test etmelerini umar ve beklersiniz. Nispeten kapsamlı testlerde bile, ML/DL'nin model eşleştirme modellerinde hala gömülü olan önyargıların olacağına dair sağlam bir şans var.

Hepsi söylendi, sonunda birinci kareye dönebilirsin. İnsanların aynı istenmeyen önyargıları artık yapay zeka sisteminde hesaplamalı olarak yansıtılıyor. Önyargıları ortadan kaldırmadınız.

Daha da kötüsü, AI'nın önyargıları olduğunu fark etme olasılığınız daha düşük olabilir. İnsanlar söz konusu olduğunda, normalde insanların istenmeyen önyargıları olduğu konusunda tetikte olabilirsiniz. Bu temel bir beklentidir. AI kullanımı, liderleri otomasyonun her türlü insan önyargısını tamamen ortadan kaldırdığına inandırabilir. Böylece kendilerini ayaklarından vurduklarına hazırlıyorlar. Görünüşte bilinen istenmeyen önyargılara sahip insanlardan kurtuldular, yerlerini böyle bir önyargıya sahip olmadığı düşünülen AI ile değiştirdiler ve şimdi zaten var olduğu bilinen aynı önyargılarla dolu AI'yı kullanıma soktular.

Bu, işleri gerçekten şaşı yapabilir. Halihazırda beklenen insan önyargılarının ortaya çıkmasını tespit etmek ve önlemek için kurulmuş, insan işçilerle birlikte kullanılan diğer korkulukları kaldırmış olabilirsiniz. AI artık dizginleri serbest bırakıyor. Harekete geçmeden önce onu yakalayacak hiçbir şey yok. AI daha sonra sizi önyargılı eylemlerden oluşan geniş bir birikimden oluşan zorlu bir yola yönlendirmeye başlayabilir.

Ve bir zamanlar önyargılar hakkında bildiğiniz ve şimdi bu önyargıların hasara yol açmasına izin verdiğiniz garip ve belki de sorumlu bir duruştasınız. Bu tür istenmeyen önyargılarla hiç karşılaşmamış olmak ve sonra birdenbire yapay zekanın onları aniden ortaya çıkarması belki de bir şeydir. Bunu “kim tahmin edebilirdi” türünden bir çeldiriciyle (belki de pek inandırıcı değil) mazur göstermeye çalışabilirsiniz. Ancak şimdi, daha önce olduğu gibi aynı istenmeyen önyargılı eylemleri yapan AI'yı kurduğunuz için, mazeretleriniz giderek inceliyor ve topallıyor.

Bu konuda bir bükülme, yapay zekanın, insanlar görevi yaparken daha önce karşılaşılmamış olan istenmeyen önyargılar sergilemesini gerektirir. Firmanın daha önce aramadığı “yeni” önyargılardan oluştuğu için bunu önlemenin belki de daha zor olduğunu söyleyebilirsiniz. Sonunda, yine de, mazeretler size fazla rahatlama sağlamayabilir. Yapay zeka sistemi hem etik olmayan hem de yasa dışı alanlara giriş yaptıysa, kazınız pişmiş olabilir.

Akılda tutulması gereken diğer bir yön, AI'nın iyi bir şekilde başlayıp daha sonra istenmeyen önyargılara doğru ilerleyebileceğidir. Bu, özellikle Yapay Zekayı güncel tutmak için Makine Öğrenimi veya Derin Öğrenme kullanımı sürekli olarak gerçekleştiğinde olasıdır. ML/DL ister gerçek zamanlı olarak çalışıyor isterse periyodik olarak güncellemeler yapıyor olsun, dikkat edilmesi gereken nokta, AI'nın şu anda önyargılar içeren ve daha önce mevcut olmayan verileri alıp almadığı olmalıdır.

Önyargılı insan işçileri yapay zeka ile değiştirmek için sihirli bir değnek sallayarak bedava öğle yemeği aldıklarını düşünen liderler için çok kaba bir uyanış içindeler. AI Etiği ilkeleriyle liderleri güçlendirmenin önemi hakkındaki tartışmama şu adresten bakın: buradaki bağlantı.

Bu tartışmanın bu noktasında, bahse girerim ki, insanların istenmeyen önyargılarını yapay zeka temelli istenmeyen önyargılarla değiştirmenin (ya da değiştirmeme) bilmecesini gösterebilecek bazı gerçek dünya örneklerini arzuluyorsunuz.

Sorduğuna sevindim

Kalbime yakın, özel ve kesinlikle popüler bir dizi örnek var. Görüyorsunuz, etik ve yasal sonuçları da dahil olmak üzere bir yapay zeka uzmanı olarak, konunun biraz teorik doğasının daha kolay kavranabilmesi için sık sık yapay zeka Etik ikilemlerini sergileyen gerçekçi örnekler belirlemem isteniyor. Bu etik AI ikilemini canlı bir şekilde sunan en hatırlatıcı alanlardan biri, AI tabanlı gerçek kendi kendini süren arabaların ortaya çıkmasıdır. Bu, konuyla ilgili geniş bir tartışma için kullanışlı bir kullanım örneği veya örnek teşkil edecektir.

İşte o zaman üzerinde düşünmeye değer, dikkate değer bir soru: Yapay zeka tabanlı gerçek kendi kendini süren arabaların ortaya çıkışı, yapay zekadaki istenmeyen önyargılar hakkında herhangi bir şeyi aydınlatıyor mu ve eğer öyleyse, bu neyi gösteriyor?

Soruyu açmam için bir dakika izin verin.

İlk olarak, gerçek kendi kendini süren bir arabada insan sürücünün bulunmadığına dikkat edin. Gerçek kendi kendini süren arabaların bir AI sürüş sistemi ile sürüldüğünü unutmayın. Direksiyonda bir insan sürücüye ihtiyaç yoktur ve bir insanın aracı sürmesi için bir hüküm yoktur. Otonom Araçlar (AV'ler) ve özellikle kendi kendini süren arabalarla ilgili kapsamlı ve devam eden kapsamım için, bkz. buradaki bağlantı.

Gerçek kendi kendini süren arabalardan bahsettiğimde ne anlama geldiğini daha fazla netleştirmek istiyorum.

Sürücüsüz Araçların Seviyelerini Anlamak

Açıklığa kavuşturmak gerekirse, gerçek sürücüsüz otomobiller, yapay zekanın otomobili tamamen kendi başına sürdüğü ve sürüş görevi sırasında herhangi bir insan yardımı olmadığı araçlardır.

Bu sürücüsüz araçlar Seviye 4 ve Seviye 5 olarak kabul edilir (açıklamama bakın: Burada bu linki), sürüş eforunu birlikte paylaşmak için bir insan sürücü gerektiren bir araba genellikle Seviye 2 veya Seviye 3'te değerlendirilir. Sürüş görevini birlikte paylaşan arabalar yarı otonom olarak tanımlanır ve tipik olarak çeşitli özellikler içerir. ADAS (Gelişmiş Sürücü Yardım Sistemleri) olarak adlandırılan otomatik eklentiler.

Seviye 5'te henüz bunun gerçek bir otomobili yok, ki bu da bunu başarmanın mümkün olup olmadığını ve oraya ulaşmanın ne kadar süreceğini bilmiyoruz.

Bu arada, Seviye 4 çabaları, çok dar ve seçici halka açık yol denemelerinden geçerek yavaş yavaş biraz ilgi çekmeye çalışıyor, ancak bu testin kendi başına izin verilip verilmeyeceği konusunda tartışmalar var (hepimiz bir deneyde ölüm kalım kobayız. otoyollarımızda ve yan yollarımızda yer alıyor, bazıları iddia ediyor, Burada bu linki).

Yarı özerk otomobiller bir insan şoför gerektirdiğinden, bu tür otomobillerin benimsenmesi geleneksel araçları sürmekten belirgin bir şekilde farklı olmayacaktır, bu nedenle bu konuda onları ele alacak çok fazla şey yoktur ( bir anda, daha sonra yapılan hususlar genellikle uygulanabilir).

Yarı özerk otomobiller için, halkın son zamanlarda ortaya çıkan rahatsız edici bir yönü hakkında uyarılması önemlidir, yani Seviye 2 veya Seviye 3 otomobilinin direksiyonunda uykuya dalmaya devam eden insan sürücülerine rağmen , hepimizin yarı-özerk bir araba sürerken sürücünün dikkatlerini sürüş görevinden uzaklaştırabileceğine inanmaktan kaçınmamız gerekir.

Ne kadar otomasyonun bir Seviye 2 veya Seviye 3'e atılabileceğine bakılmaksızın, aracın sürüş işlemlerinden sorumlu tarafsınız.

Kendi Kendini Süren Arabalar ve Olumsuz Önyargılarla Yapay Zeka

Seviye 4 ve Seviye 5 gerçek kendi kendine giden araçlar için, sürüş görevinde bir insan sürücüsü olmayacaktır.

Tüm yolcular yolcu olacak.

AI sürüş yapıyor.

Hemen tartışılması gereken bir husus, günümüzün AI sürüş sistemlerinde yer alan AI'nın bilinçli olmadığı gerçeğini gerektirir. Başka bir deyişle, yapay zeka tamamen bilgisayar tabanlı programlama ve algoritmalardan oluşan bir kollektiftir ve kesinlikle insanların yapabildiği şekilde akıl yürütemeyecektir.

Yapay zekanın duyarlı olmamasına neden bu ilave vurgu yapılıyor?

Çünkü AI sürüş sisteminin rolünü tartışırken, AI'ya insani nitelikler atfetmediğimin altını çizmek istiyorum. Lütfen bugünlerde yapay zekayı insana benzetmeye yönelik süregiden ve tehlikeli bir eğilim olduğunu unutmayın. Aslında insanlar, henüz böyle bir YZ'nin var olmadığı yadsınamaz ve tartışılmaz gerçeğe rağmen, bugünün yapay zekasına insan benzeri bir duyarlılık atıyorlar.

Bu açıklamayla, AI sürüş sisteminin doğal olarak bir şekilde sürüşün yönlerini "bilmeyeceğini" öngörebilirsiniz. Sürüş ve bunun gerektirdiği her şeyin, sürücüsüz arabanın donanım ve yazılımının bir parçası olarak programlanması gerekecektir.

Bu konuyla ilgili olarak ortaya çıkan sayısız konuya dalalım.

İlk olarak, tüm AI kendi kendine giden arabaların aynı olmadığını anlamak önemlidir. Her otomobil üreticisi ve kendi kendini süren teknoloji firması, kendi kendini süren otomobiller tasarlama yaklaşımını benimsiyor. Hal böyle olunca da yapay zekalı sürüş sistemlerinin ne yapıp ne yapmayacağı konusunda kapsamlı açıklamalar yapmak zor.

Ayrıca, ne zaman bir AI sürüş sisteminin belirli bir şey yapmadığını belirtse, bu, daha sonra, aslında bilgisayarı o şeyi yapmak için programlayan geliştiriciler tarafından geçilebilir. AI sürüş sistemleri adım adım geliştirilmekte ve genişletilmektedir. Bugün var olan bir sınırlama, sistemin gelecekteki bir yinelemesinde veya sürümünde artık mevcut olmayabilir.

Bunun, birazdan anlatacağım şeyin altını çizmek için yeterli sayıda uyarı sağladığına inanıyorum.

Artık kendi kendini süren arabalara ve yapay zekanın ve istenmeyen önyargıların keşfedilmesini gerektiren Etik Yapay Zeka olasılıklarına derin bir dalış yapmaya hazırız.

Kolay anlaşılır bir örnek kullanalım. AI tabanlı kendi kendini süren bir araba mahallenizdeki sokaklarda ilerliyor ve güvenli bir şekilde sürüyor gibi görünüyor. İlk başta, sürücüsüz arabaya bir bakış atmayı başardığınız her sefere özel bir ilgi gösterdiniz. Otonom araç, video kameralar, radar birimleri, LIDAR cihazları ve benzerlerini içeren elektronik sensör rafıyla öne çıktı. Kendi kendini süren arabanın topluluğunuzun etrafında dolaştığını haftalarca geçirdikten sonra, şimdi bunu zar zor fark ediyorsunuz. Size göre, zaten yoğun olan halka açık yollardaki başka bir araba.

Kendi kendini süren arabaları görmenin imkansız ya da mantıksız olduğunu düşünmeyin diye, sürücüsüz araba denemeleri kapsamındaki yerellerin nasıl yavaş yavaş çekidüzenli araçları görmeye alıştığını sık sık yazdım, şuradaki analizime bakın Burada bu linki. Yerlilerin çoğu sonunda ağızları açık, kendinden geçmiş aval aval aval aval yapmaktan, artık bu dolambaçlı kendi kendine giden arabalara tanık olmak için geniş bir can sıkıntısı yaymaya geçti.

Muhtemelen şu anda otonom araçları fark etmelerinin ana nedeni, tahriş ve çileden çıkma faktörüdür. Kitaba göre AI sürüş sistemleri, araçların tüm hız sınırlarına ve yolun kurallarına uymasını sağlar. Geleneksel insan güdümlü arabalarındaki telaşlı insan sürücüler için, kesinlikle yasalara uyan AI tabanlı kendi kendine giden arabaların arkasında sıkışıp kaldığınızda zaman zaman canınız sıkılır.

Bu, doğru ya da yanlış, hepimizin alışması gerekebilecek bir şey.

Hikayemize dönelim.

Aksi takdirde zararsız olan ve genel olarak memnuniyetle karşılanan AI tabanlı kendi kendini süren arabalar hakkında iki uygunsuz endişenin ortaya çıkmaya başladığı ortaya çıktı:

a. AI'nın sürüşleri almak için kendi kendini süren arabaları dolaştığı yer, toplumun genelinde endişeli bir endişe haline geldi.

b. AI'nın, geçiş hakkına sahip olmayan bekleyen yayalara nasıl davrandığı da yükselen bir konudur.

İlk başta, AI tüm kasabada kendi kendine giden arabaları dolaştırıyordu. Kendi kendini süren arabaya binmek isteyen herkes, esasen eşit bir şansa sahipti. Yavaş yavaş, AI öncelikle kendi kendini süren arabaları şehrin sadece bir bölümünde dolaşımda tutmaya başladı. Bu bölüm daha fazla para kazandıran bir bölümdü ve AI sistemi, topluluktaki kullanımın bir parçası olarak gelirleri en üst düzeye çıkarmak için programlanmıştı.

Kasabanın yoksul kesimlerindeki topluluk üyelerinin, kendi kendini süren bir arabadan binebilmeleri daha az olasıydı. Bunun nedeni sürücüsüz arabaların daha uzakta olması ve bölgenin daha yüksek gelirli kısmında gezinmesiydi. Şehrin uzak bir yerinden bir talep geldiğinde, muhtemelen şehrin "saygın" bölgesinde olan daha yakın bir yerden gelen herhangi bir talep daha yüksek önceliğe sahip olacaktır. Sonunda, şehrin daha zengin kısmı dışında herhangi bir yerde kendi kendini süren bir arabaya sahip olmak neredeyse imkansızdı, şu anda kaynaklara kıt olan bu bölgelerde yaşayanlar için çileden çıkarıcı bir şekilde.

AI'nın hemen hemen bir tür vekil ayrımcılığına (genellikle dolaylı ayrımcılık olarak da adlandırılır) ulaştığını iddia edebilirsiniz. AI, bu daha fakir mahallelerden kaçınmak için programlanmadı. Bunun yerine, bunu ML/DL kullanarak yapmayı “öğrendi”.

Mesele şu ki, araç paylaşımlı insan sürücülerin aynı şeyi yaptıkları biliniyordu, ancak bu sadece para kazanma açısından değil. Kasabanın belirli bölgelerinde binicileri alma konusunda istenmeyen bir önyargıya sahip olan bazı insan sürücüleri vardı. Bu biraz bilinen bir fenomendi ve şehir bunu yapan insan sürücüleri yakalamak için bir izleme yaklaşımı koymuştu. İnsan sürücülerin, tatsız seçim uygulamalarını yürütmek için başı belaya girebilir.

Yapay zekanın asla aynı tür bataklığa düşmeyeceği varsayıldı. AI tabanlı kendi kendini süren arabaların nereye gittiğini takip etmek için özel bir izleme kurulmadı. Ancak topluluk üyeleri şikayet etmeye başladıktan sonra şehir liderleri neler olduğunu anladı. Otonom araçların ve kendi kendini süren araçların sunacağı bu tür şehir genelindeki sorunlar hakkında daha fazla bilgi için, şuradaki kapsamıma bakın: Burada bu linki ve bu, konuyla ilgili birlikte yazdığım Harvard liderliğindeki bir çalışmayı anlatıyor.

Yapay zeka tabanlı kendi kendini süren arabaların dolaşım yönlerine ilişkin bu örnek, kontrollerin yerleştirildiği ve bu insan sürücülerin yerini alan yapay zekanın geride bırakıldığı, istenmeyen önyargılara sahip insanları gerektiren durumların olabileceğine dair daha önceki göstergeyi göstermektedir. Bedava. Ne yazık ki, AI daha sonra kademeli olarak benzer önyargılara saplanabilir ve bunu yeterli korkuluklar olmadan yapabilir.

İkinci bir örnek, bir caddeyi geçme hakkına sahip olmayan yayaları beklemek için durup durmayacağını belirleyen AI'yı içerir.

Şüphesiz araba kullanmışsınızdır ve karşıdan karşıya geçmek için bekleyen ve henüz geçiş hakkına sahip olmayan yayalarla karşılaşmışsınızdır. Bu, durup geçmelerine izin verip vermeme konusunda takdir hakkınız olduğu anlamına geliyordu. Geçmelerine izin vermeden devam edebilir ve yine de bunu yapmak için yasal sürüş kuralları dahilinde olabilirsiniz.

İnsan sürücülerin bu tür yayalar için durmaya veya durmamaya nasıl karar verdiğine ilişkin araştırmalar, bazen insan sürücülerin seçimi istenmeyen önyargılara dayanarak yaptığını ileri sürdü. Bir insan sürücü yayaya göz atabilir ve yaya, ırk veya cinsiyet gibi farklı bir görünüme sahip olsaydı durmuş olsa bile durmamayı seçebilirdi. bunu şurada inceledim buradaki bağlantı.

AI tabanlı kendi kendine giden arabaların, geçiş hakkına sahip olmayan yayalar için durup durmayacağı sorusuyla başa çıkmak için programlandığını hayal edin. AI geliştiricilerinin bu görevi programlamaya nasıl karar verdikleri aşağıda açıklanmıştır. Kasabanın şehrin her yerine yerleştirilmiş video kameralarından veri topladılar. Veriler, geçiş hakkına sahip olmayan yayalar için duran insan sürücüleri ve durmayan insan sürücüleri göstermektedir. Hepsi büyük bir veri kümesinde toplanır.

Makine Öğrenimi ve Derin Öğrenme kullanılarak veriler hesaplamalı olarak modellenir. AI sürüş sistemi daha sonra ne zaman durup durmayacağına karar vermek için bu modeli kullanır. Genel olarak fikir, yerel gelenek ne olursa olsun, yapay zekanın kendi kendini süren arabayı bu şekilde yönlendirmesidir.

Şehir liderlerinin ve sakinlerin sürprizine göre, AI açıkça yayaların görünümüne, ırklarına ve cinsiyetlerine bağlı olarak durmayı veya durmamayı seçiyordu. Kendi kendini süren arabanın sensörleri, bekleyen yayayı tarayacak, bu verileri ML/DL modeline besleyecek ve model, dursun ya da devam etsin, ya da yapay zekaya yayacaktır. Ne yazık ki, kasaba zaten bu konuda birçok insan sürücü önyargısına sahipti ve AI şimdi aynı şeyi taklit ediyordu.

İyi haber şu ki, bu durum daha önce neredeyse hiç kimsenin varlığından haberdar olmadığı bir sorunu gündeme getiriyor. Kötü haber ise, yapay zeka bunu yaparken yakalandığı için suçun büyük kısmını üstlendi. Bu örnek, bir yapay zeka sisteminin, insanların önceden var olan istenmeyen önyargılarını yalnızca kopyalayabileceğini göstermektedir.

Sonuç

Yapay zekayı denemenin ve bundan kaçınmanın birçok yolu var, bu ya kapının dışında istenmeyen önyargılara sahip, ya da zamanla önyargıları ortadan kaldırıyor. Bir yaklaşım, AI geliştiricilerinin bunun farkında olmasını sağlamayı ve bu nedenle, AI'yı konuyu önlemek için programlamak için onları tetikte tutmayı içerir. Başka bir yol, yapay zekanın etik olmayan davranışlar için kendini izlemesini sağlamaktır (bkz. buradaki bağlantı) ve/veya potansiyel olarak etik olmayan davranışlar için diğer AI sistemlerini izleyen başka bir AI parçasına sahip olmak (bunu şurada ele aldım: buradaki bağlantı).

Özetlemek gerekirse, insanların istenmeyen önyargılara sahip olabileceğini ve bir şekilde sınırlarını bilmeleri gerektiğini anlamamız gerekiyor. Aynı şekilde, AI'nın da istenmeyen önyargıları olabilir ve bir şekilde onların sınırlarını bilmemiz gerekiyor.

AI Ethics'i hevesle kucaklayanlarınız için, herkesin zaten bilmesi gereken başka bir ünlü replik ile bitirmek istiyorum. Yani, lütfen Etik AI'nın önemini kullanmaya ve paylaşmaya devam edin. Ve bunu yaparak, arsızca şunu söylerdim: "Haydi, günümü güzelleştir."