Yapay Zeka Etiği ve Yapay Zeka Yasası, Yapay Zeka Önyargılarını Açıkça Belirleyen ve Yöneten Standartlara Doğru İlerliyor

Hiç elli iki kart toplama oyunu oynadın mı?

Normalde isteyerek üstleneceğiniz bir oyun değil. İşte nedeni. Birisi size bunun sözde eğlenceli bir spor olduğunu teklif ediyor ve eğer tatlı yemi yutarsanız, bir deste iskambil kağıdını havaya ve kısaca yere fırlatıyorlar. Daha sonra kişi size arsız bir gülümsemeyle devam etmenizi ve kartları almanızı söyler. Bütün oyun bu.

Şakacı!

Bu konuda size sormam gereken biraz düşünceli bir sorum var.

Kartlardan birinin yakındaki bir kanepenin altına düştüğünü varsayalım. Tüm kartları almayı bitirdiğinizde, bir tanesinin eksik olduğunu anlarsınız çünkü elinizde yalnızca elli bir tane kalır.

Soru şu; hangi kartın eksik olduğunu belirleyebildiniz mi?

Hangi kartın elinizde olmadığını kolayca anlayabileceğinizi hemen söyleyeceğinize eminim. Tek yapmanız gereken güverteyi düzene koymak. Standart bir destenin dört renkten oluştuğunu ve her takımdaki kartların birden ona kadar, ardından Vale, Kız ve Papaz olarak numaralandırıldığını biliyorsunuz.

Bunu biliyorsunuz çünkü standart bir oyun kağıdı destesi bir standarda dayanmaktadır.

Vay, bu ifade tamamen bariz iddialardan biri gibi görünebilir. Evet, elbette standart bir oyun destesi bir standardı temel alır. Hepimiz bunu biliyoruz. Demek istediğim, bir standarda sahip olarak ihtiyaç duyulduğunda standarda güvenebileceğimizdir. Bir destede hangi kartın eksik olduğunu tespit edebilmenin yanı sıra, diğer insanlarla zilyonlarca tanınmış kart oyununu da kolayca oynayabilirsiniz. Birisine oyunun kuralları söylendiğinde, doğrudan oynayabilir çünkü destenin nelerden oluştuğunu zaten tam olarak biliyor. Onlara destenin dört takımdan ve çeşitli numaralara sahip kartlardan oluştuğunu açıklamanıza gerek yok. Durumun böyle olduğunu zaten biliyorlar.

Bununla nereye gidiyorum?

Sizi yapay zeka alanında, özellikle de yapay zeka etiği ve etik yapay zeka alanında ilerleme kaydetmenin hayati bir yolu olan bir yola götürmeye çalışıyorum. Görüyorsunuz, Yapay Zeka Etiği ile ilgili yaygın ve üzerinde herkesin mutabakata vardığı standartlar bulmaya çalışmamız gerekiyor. Bunu yapabilirsek, Etik Yapay Zekanın benimsenme kolaylığını artıracak ve pazara sürekli karıştırılan (numarasız ve sırasız bir joker destesi gibi) yapay zeka sistemlerini geliştirmeyi açıkça hedefleyecektir. Yapay Zeka Etiği, Etik Yapay Zeka ve Yapay Zeka Hukuku ile ilgili devam eden ve kapsamlı kapsamım için bkz. buradaki bağlantı ve buradaki bağlantı, Sadece birkaç isim.

AI Ethics'in medyanın çok ilgisini çeken belirli bir bölümü veya bölümü, istenmeyen önyargılar ve eşitsizlikler sergileyen AI'dan oluşur. AI'nın son dönemi başladığında, bazılarının şimdi dediği şeye karşı büyük bir coşku patlaması yaşandığının farkında olabilirsiniz. AI için iyi. Ne yazık ki o coşkun heyecanın ardından şahit olmaya başladık. Kötü İçin AI. Örneğin, çeşitli AI tabanlı yüz tanıma sistemlerinin, şurada tartıştığım ırksal önyargılar ve cinsiyet önyargıları içerdiği ortaya çıktı. buradaki bağlantı.

Karşı koyma çabaları Kötü İçin AI aktif olarak yürütülmektedir. sesli yanı sıra yasal Yanlış yapmayı dizginleme arayışlarının yanı sıra, AI kötülüğünü düzeltmek için AI Etiğini benimsemeye yönelik önemli bir baskı da var. Buradaki fikir, AI'nın geliştirilmesi ve sahaya sürülmesi için temel Etik AI ilkelerini benimsememiz ve onaylamamız gerektiğidir. Kötü İçin AI ve aynı anda tercih edileni müjdeleyen ve teşvik eden AI için iyi.

İlgili bir fikirde, AI sıkıntılarına çözümün bir parçası olarak AI kullanmaya çalışmanın, bu şekilde ateşle ateşle mücadele etmenin bir savunucusuyum. Örneğin, Etik AI bileşenlerini, AI'nın geri kalanının işleri nasıl yaptığını izleyecek ve böylece potansiyel olarak herhangi bir ayrımcı çabayı gerçek zamanlı olarak yakalayacak bir AI sistemine yerleştirebiliriz, şuradaki tartışmama bakın: buradaki bağlantı. Ayrıca, bir tür AI Etik monitörü görevi gören ayrı bir AI sistemimiz olabilir. AI sistemi, başka bir AI'nın etik olmayan uçuruma girdiğini izlemek ve tespit etmek için bir gözetmen olarak hizmet eder (bkz. buradaki bağlantı).

Birazdan, AI Etiğinin altında yatan bazı kapsayıcı ilkeleri sizinle paylaşacağım. Orada burada dolaşan bu tür birçok liste var. Henüz tekil bir evrensel çekicilik ve uyum listesi olmadığını söyleyebilirsiniz. Bu talihsiz haber. İyi haber şu ki, en azından hazır AI Etik listeleri var ve bunlar oldukça benzer olma eğiliminde. Hepsi bir arada, bu, AI Etiğinin nelerden oluştuğuna dair genel bir ortaklığa doğru yolumuzu bulduğumuz bir tür mantıklı yakınsama yoluyla olduğunu gösteriyor.

Bunu, daha geniş bir AI Etiği alanının belirli bir bölümüne veya kısmına, yani daha önce de belirtildiği gibi, AI önyargılarının belirli bir unsuruna odaklanacak olan buradaki tartışmam için bir temel sağlamak amacıyla gündeme getiriyorum. Bu konuyu sizinle paylaşmamın nedeni de, Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) tarafından yayınlanan bir belgenin, yapay zeka önyargılarını karakterize eden bir standarda doğru ilerlememizi sağlamaya çalışmasıdır. Belgenin adı Yapay Zekada Önyargıyı Belirlemek ve Yönetmek İçin Bir Standarda Doğru yazarlar Reva Schwartz, Apostol Vassilev, Kristen Greene, Lori Perine, Andrew Burt ve Patrick Hall tarafından hazırlanmıştır ve Mart 1270'de ABD Ticaret Bakanlığı, NIST Özel Yayını 2022 tarafından yayınlanmıştır.

Yapay zeka önyargıları ile ne kastettiğimizi ortaya koymaya yönelik bu kullanışlı ve cesaret verici çabanın paketini açacağız. Eski deyiş, ölçemediğiniz şeyi yönetemezsiniz der. Yapay zeka önyargılarının çeşitliliğini ortaya koyan bir standarda sahip olarak, yapay zeka önyargılarının belasını ölçmeye ve yönetmeye başlayabilirsiniz.

İlk olarak, yapay zeka yapan, alan oluşturan veya kullanan herkes için nelerin hayati bir husus olması gerektiğini göstermek için genel Etik AI ilkelerinden bazılarını kısaca ele alalım.

Örneğin, Vatikan'ın da belirttiği gibi Yapay Zeka Etiği İçin Roma Çağrısı ve derinlemesine ele aldığım gibi buradaki bağlantı, bunlar belirlenmiş altı temel AI etik ilkesidir:

• Şeffaflık: Prensipte, yapay zeka sistemleri açıklanabilir olmalıdır
• Kapsama: Herkesin yararlanabilmesi için tüm insanların ihtiyaçları göz önünde bulundurulmalı ve tüm bireylere kendilerini ifade etmeleri ve geliştirmeleri için mümkün olan en iyi koşullar sunulmalıdır.
• Sorumluluk: Yapay zeka kullanımını tasarlayan ve uygulayanlar sorumluluk ve şeffaflıkla ilerlemelidir.
• Tarafsızlık: Önyargıya göre yaratmayın veya hareket etmeyin, böylece adaleti ve insan onurunu koruyun
• Güvenilirlik: AI sistemleri güvenilir bir şekilde çalışabilmelidir
• Güvenlik ve gizlilik: AI sistemleri güvenli bir şekilde çalışmalı ve kullanıcıların gizliliğine saygı göstermelidir.

ABD Savunma Bakanlığı'nın (DoD) raporlarında belirttiği gibi Yapay Zeka Kullanımına İlişkin Etik İlkeler ve derinlemesine ele aldığım gibi buradaki bağlantı, bunlar onların altı temel AI etik ilkesidir:

• Sorumluluk sahibi: Savunma Bakanlığı personeli, AI yeteneklerinin geliştirilmesi, devreye alınması ve kullanılmasından sorumlu olmaya devam ederken, uygun düzeyde muhakeme ve özen gösterecektir.
• Adil: Departman, AI yeteneklerinde istenmeyen önyargıları en aza indirmek için kasıtlı adımlar atacaktır.
• İzlenebilir: Departmanın yapay zeka yetenekleri, ilgili personelin teknoloji, geliştirme süreçleri ve şeffaf ve denetlenebilir metodolojiler, veri kaynakları ve tasarım prosedürü ve dokümantasyon dahil olmak üzere AI yeteneklerine uygulanabilir operasyonel yöntemler hakkında uygun bir anlayışa sahip olacağı şekilde geliştirilecek ve konuşlandırılacaktır.
• Güvenilir: Departmanın yapay zeka yeteneklerinin açık, iyi tanımlanmış kullanımları olacaktır ve bu tür yeteneklerin emniyeti, güvenliği ve etkinliği, tüm yaşam döngüleri boyunca bu tanımlanmış kullanımlar dahilinde teste ve güvenceye tabi olacaktır.
• Yönetilebilir: Departman, amaçlanan işlevlerini yerine getirmek için AI yeteneklerini tasarlayacak ve tasarlayacak ve istenmeyen sonuçları tespit etme ve bunlardan kaçınma yeteneğine ve istenmeyen davranışlar sergileyen konuşlandırılmış sistemleri devre dışı bırakma veya devre dışı bırakma yeteneğine sahip olacaktır.

Ayrıca, “AI Etik Yönergelerinin Küresel Peyzajı” (yayınlanan) başlıklı bir makalede çok sayıda ulusal ve uluslararası AI etik ilkesinin özünü inceleyen ve yoğunlaştıran araştırmacılar tarafından tasarlanan bir diziyi ele almak da dahil olmak üzere AI etik ilkelerinin çeşitli toplu analizlerini tartıştım. içinde Tabiat) ve kapsamımın araştırdığı buradaki bağlantı, bu kilit taşı listesine yol açtı:

• Şeffaflık
• Adalet ve Adalet
• Zarar Vermez
• sorumluluk
• Gizlilik
• ihsan
• Özgürlük ve Özerklik
• Güven
• Sürdürülebilirlik
• Haysiyet
• Dayanışma

Doğrudan tahmin edebileceğiniz gibi, bu ilkelerin altında yatan özellikleri belirlemeye çalışmak son derece zor olabilir. Daha da ötesi, bu geniş ilkeleri tamamen somut ve AI sistemlerini oluştururken kullanılabilecek kadar ayrıntılı bir şeye dönüştürme çabası da kırılması zor bir cevizdir. AI Etik ilkelerinin ne olduğu ve bunların genel olarak nasıl gözlemlenmesi gerektiği konusunda genel olarak biraz fikir alışverişi yapmak kolaydır, ancak AI kodlamasında yolu karşılayan gerçek kauçuk olmak zorunda olmak çok daha karmaşık bir durumdur.

AI Etik ilkeleri, AI geliştiricileri tarafından, AI geliştirme çabalarını yönetenler ve hatta nihayetinde AI sistemlerinde saha ve bakım yapanlar tarafından kullanılacaktır. Tüm AI geliştirme ve kullanım yaşam döngüsü boyunca tüm paydaşlar, Etik AI'nın yerleşik normlarına uyma kapsamında değerlendirilir. Bu önemli bir vurgudur, çünkü "yalnızca kodlayıcıların" veya AI'yı programlayanların AI Etiği kavramlarına bağlı kalmaya tabi olduğu olağan varsayımdır. Daha önce belirtildiği gibi, AI'yı tasarlamak ve sahaya çıkarmak için bir köy gerekir ve bunun için tüm köyün AI Etik ilkelerine hakim olması ve bunlara uyması gerekir.

Bu temel Yapay Zeka Etiği ilkelerinin çoğunun temelinde, yapay zeka önyargılarının sinsi doğası yatmaktadır.

Tıpkı bir iskambil destesi gibi, yapay zeka önyargılarını bir şekilde bir dizi "takım elbise" veya kategori halinde gruplandırabilseydik kesinlikle çok şık olurdu. Aslında NIST belgesi önerilen bir gruplandırma sunmaktadır.

Üç ana kategori öneriliyor:

1) Sistemik Önyargılar

2) İstatistiksel ve Hesaplamalı Önyargılar

3) İnsani Önyargılar

Tüm yapay zeka önyargılarının bu üç kategoriden birine tam olarak uyup uymadığı kesinlikle dikkate alınması gereken bir konudur. Bazı yapay zeka önyargılarının aynı anda bir, iki veya üç kategorinin tümüne girdiğini kesinlikle iddia edebilirsiniz. Dahası, dördüncü, beşinci, altıncı veya daha fazla gruplama dizisi gibi daha fazla kategoriden bahsedilmeyi hak ettiğini iddia edebilirsiniz.

Umarım böyle düşünüyorsunuzdur çünkü bu standartların şekillendirilmesine yardımcı olmak için herkesi dahil etmemiz gerekiyor. Bu standartların ilk olarak şekillenme şekli sizi sinirlendiriyorsa, sizden bu enerjiyi geri kalanımızın bu yeni gelişen standartları olabildiğince sağlam ve eksiksiz hale getirmemize yardımcı olmaya dönüştürmenizi rica ediyorum.

Şimdilik, önerilen üç kategoriye daha yakından bakabiliriz ve şu ana kadar nasıl bir el ile karşı karşıya olduğumuzu görebiliriz (evet, oyun kağıdı destesine benzetme yapmaya devam edeceğim; Bu yazılı eserin tamamı boyunca, o kadar da gizli olmayan bir temanın ası üzerine son dolarınıza bahse girebilirsiniz).

Sistemik önyargılara atıfta bulunmak ne anlama geliyor?

NIST belgesi şunu söylüyor: “Sistemik önyargılar, belirli sosyal grupların avantajlı veya ayrıcalıklı kılınmasına, diğerlerinin ise dezavantajlı veya değersizleştirilmesine yol açacak şekilde işleyen belirli kurumların prosedür ve uygulamalarından kaynaklanmaktadır. Bunun herhangi bir bilinçli önyargı veya ayrımcılığın sonucu olması gerekmez; daha ziyade çoğunluğun mevcut kurallara veya normlara uymasının sonucu olmalıdır. Kurumsal ırkçılık ve cinsiyetçilik en yaygın örneklerdir” (bunun yalnızca kısa bir alıntı olduğunu ve okuyucuların daha kapsamlı açıklamayı görmeye teşvik edildiğini unutmayın).

Yapay zeka, bu önyargıların yapay zeka tabanlı uygulamalara aktarılması ve uygulanması için bir araç sağlayarak sistemik önyargıların bir karışımına giriyor. Yapay zeka ile aşılanmış bir yazılım kullandığınızda, bildiğiniz gibi, bu yazılım, yapay zekanın yapımına yol açan şirketler ve endüstri uygulamaları aracılığıyla sisteme zaten yerleştirilmiş bir takım önyargılar içerebilir. NIST çalışmasına göre: "Bu önyargılar, yapay zekada kullanılan veri kümelerinde ve yapay zeka yaşam döngüsü boyunca ve daha geniş kültür ve toplumda kurumsal normlar, uygulamalar ve süreçlerde mevcuttur."

Daha sonra, istatistiksel ve hesaplamaya dayalı önyargılar olarak etiketlenen önyargılar kümesini düşünün.

NIST belgesi şunu belirtiyor: “İstatistiksel ve hesaplamaya dayalı önyargılar, numunenin popülasyonu temsil etmemesi durumunda ortaya çıkan hatalardan kaynaklanmaktadır. Bu önyargılar rastgele hatalardan ziyade sistematik hatalardan kaynaklanır ve önyargı, taraflılık veya ayrımcı niyet olmadığında ortaya çıkabilir. Yapay zeka sistemlerinde bu önyargılar, yapay zeka uygulamalarının geliştirilmesinde kullanılan veri kümelerinde ve algoritmik süreçlerde mevcuttur ve genellikle algoritmalar tek bir veri türü üzerinde eğitildiğinde ve bu verilerin ötesine geçemediğinde ortaya çıkar.

Bu tür istatistiksel ve hesaplamaya dayalı önyargılar genellikle Makine Öğrenimi (ML) ve Derin Öğrenmeyi (DL) kullanan bir yapay zeka sistemine dahil edilir. Çağdaş ML/DL'nin ağır konusunu gündeme getirmek, AI'nın ve ML/DL'nin ne olduğuna ilişkin ilgili bir yan teğet gerektirir.

Bugünün yapay zekasının doğası hakkında aynı sayfada olduğumuzdan emin olalım.

Bugün duyarlı olan herhangi bir yapay zeka yok. Bizde bu yok. Duyarlı AI'nın mümkün olup olmayacağını bilmiyoruz. Duyarlı yapay zekaya ulaşıp ulaşamayacağımızı veya duyarlı yapay zekanın bir şekilde mucizevi bir şekilde kendiliğinden bir hesaplamalı bilişsel süpernova biçiminde (genellikle tekillik olarak adlandırılır) ortaya çıkıp çıkmayacağını kimse uygun bir şekilde tahmin edemez, bkz. buradaki bağlantı).

Odaklandığım yapay zeka türü, bugün sahip olduğumuz duyarlı olmayan yapay zekadan oluşuyor. hakkında çılgınca spekülasyon yapmak istersek duygulu AI, bu tartışma tamamen farklı bir yöne gidebilir. Duyarlı bir AI, sözde insan kalitesinde olurdu. Duyarlı AI'nın bir insanın bilişsel eşdeğeri olduğunu düşünmeniz gerekir. Dahası, bazıları süper akıllı AI'ya sahip olabileceğimizi tahmin ettiğinden, böyle bir AI'nın sonunda insanlardan daha akıllı olabileceği düşünülebilir (süper akıllı AI'yı bir olasılık olarak keşfetmem için, bkz. buradaki kapsama).

İşleri daha gerçekçi tutalım ve günümüzün hesaplamalı, duyarlı olmayan yapay zekasını ele alalım.

Günümüzün yapay zekasının hiçbir şekilde insan düşüncesiyle aynı düzeyde “düşünemediğini” anlayın. Alexa veya Siri ile etkileşime girdiğinizde, konuşma kapasiteleri insan kapasitelerine benzer görünebilir, ancak gerçek şu ki, hesaplamaya dayalıdır ve insan bilişinden yoksundur. Yapay zekanın son dönemi, hesaplamalı model eşleştirmesinden yararlanan Makine Öğrenimi ve Derin Öğrenmeyi kapsamlı bir şekilde kullandı. Bu, insan benzeri eğilimlerin görünümüne sahip AI sistemlerine yol açmıştır. Bu arada, bugün sağduyuya benzeyen ve sağlam insan düşüncesinin bilişsel harikasından hiçbirine sahip olmayan herhangi bir AI yoktur.

ML/DL, bir hesaplama modeli eşleştirme biçimidir. Genel yaklaşım, bir karar verme göreviyle ilgili verileri bir araya getirmenizdir. Verileri ML/DL bilgisayar modellerine beslersiniz. Bu modeller matematiksel kalıpları bulmaya çalışır. Bu tür kalıpları bulduktan sonra, eğer bulunursa, AI sistemi yeni verilerle karşılaştığında bu kalıpları kullanacaktır. Yeni verilerin sunulması üzerine, güncel bir karar vermek için “eski” veya geçmiş verilere dayalı kalıplar uygulanır.

Sanırım bunun nereye gittiğini tahmin edebilirsiniz. Kararları kalıplaştıran insanlar, istenmeyen önyargılar içeriyorsa, verilerin bunu ince ama önemli şekillerde yansıtması ihtimali vardır. Makine Öğrenimi veya Derin Öğrenme hesaplama desen eşleştirmesi, verileri buna göre matematiksel olarak taklit etmeye çalışacaktır. Yapay zeka yapımı modellemenin kendi başına sağduyu veya diğer duyarlı yönleri yoktur.

Ayrıca, AI geliştiricileri de neler olup bittiğini anlamayabilir. ML/DL'deki gizli matematik, şimdi gizli olan önyargıları ortaya çıkarmayı zorlaştırabilir. Haklı olarak, AI geliştiricilerinin, göründüğünden daha zor olsa da, potansiyel olarak gömülü önyargıları test etmelerini umar ve beklersiniz. Nispeten kapsamlı testlerde bile, ML/DL'nin model eşleştirme modellerinde hala gömülü önyargıların olacağına dair sağlam bir şans var.

Çöpü içeri çöpü dışarı atmakla ilgili ünlü ya da kötü şöhretli atasözünü bir şekilde kullanabilirsiniz. Mesele şu ki, bu önyargılara daha çok benziyor - bu, yapay zekanın içine daldırılmış önyargılar olarak sinsi bir şekilde aşılanıyor. AI'nın algoritma karar verme (ADM) aksiyomatik olarak eşitsizliklerle yüklü hale gelir.

İyi değil.

Bu bizi doğrudan NIST'in üç gruptan oluşan üçüncü kategorisine, özellikle de yapay zeka önyargılarının ortaya çıkmasında insan önyargılarının rolüne getiriyor. NIST belgesinin belirttiği şey şu: “İnsan önyargıları, sınırlı sayıda buluşsal ilkelere dayalı olarak insan düşüncesindeki sistematik hataları yansıtır ve daha basit yargılama işlemlerine yönelik değerleri tahmin eder. Bu önyargılar genellikle örtülüdür ve bir bireyin veya grubun, bir karar vermek veya eksik veya bilinmeyen bilgileri doldurmak için bilgileri (otomatik yapay zeka çıktısı gibi) nasıl algıladığıyla ilgili olma eğilimindedir. Bu önyargılar, yapay zeka yaşam döngüsü boyunca kurumsal, grup ve bireysel karar alma süreçlerinde ve devreye alındıktan sonra yapay zeka uygulamalarının kullanımında her yerde mevcut."

Artık üç kategoriye hızlı bir giriş yaptınız.

NIST belgesinde ifade edildiği gibi, üzerinde düşünülmesi gereken bazı ek konuları sizinle paylaşmak istiyorum. Anlatımlarındaki bir grafik, üç yapay zeka önyargısının her birinin altında yatan temel soruların ve düşüncelerin yararlı bir özetini sunuyor. Referans ve düzenleme kolaylığınız için bunları burada listeliyorum.

#1: Sistemik Önyargılar

• Kimler sayılır, kimler sayılmaz?

— Gizli değişkenlerle ilgili sorunlar

— Ötekileştirilmiş grupların yetersiz temsili

— Eşitsizliklerin otomasyonu

— Fayda fonksiyonunun belirlenmesinde yetersiz temsil

— Çoğunluğun/azınlığın lehine olan süreçler

— Amaç fonksiyonunda kültürel önyargı (bireyler için en iyisi vs grup için en iyisi)

• Neyin doğru olduğunu nasıl bileceğiz?

— Eşitsizliklerin güçlendirilmesi (yapay zekanın daha fazla kullanılmasıyla gruplar daha fazla etkileniyor)

— Tahmine dayalı polislik daha olumsuz etkilendi

— Araç paylaşımı/sürücüsüz otomobiller/vb.'nin yaygın biçimde benimsenmesi. kullanıma dayalı olarak nüfusu etkileyen politikaları değiştirebilir

#2: İstatistiksel ve Hesaplamalı Önyargılar

• Kimler sayılır, kimler sayılmaz?

— Örnekleme ve seçim yanlılığı

— Ölçülmeleri daha kolay olduğundan temsili değişkenlerin kullanılması

— Otomasyon önyargısı

— Likert ölçeği (kategoriden sıralıya ve kardinal)

— Doğrusal olmayan ve doğrusal

- Ekolojik yanlışlık

— L1 ve L2 normunun en aza indirilmesi

— Bağlamsal olguların ölçülmesinde genel zorluk

• Neyin doğru olduğunu nasıl bileceğiz?

— Yeterli çapraz doğrulama eksikliği

- Hayatta kalma yanlılığı

- Adil olma zorluğu

#3: İnsanın Önyargıları

• Kimler sayılır, kimler sayılmaz?

— Gözlemsel önyargı (sokak ışığı etkisi)

— Kullanılabilirlik önyargısı (sabitleme)

— McNamara yanılgısı

— Grup düşüncesi dar seçimlere yol açar

— Rashomon etkisi öznel savunuculuğa yol açar

— Hedeflerin nicelikselleştirilmesindeki zorluk McNamara yanılgısına yol açabilir

• Neyin doğru olduğunu nasıl bileceğiz?

— Onay yanlılığı

— Otomasyon önyargısı

Bu ağır tartışmanın bu noktasında, yapay zeka önyargılarının üç kategorisini sergileyebilecek bazı açıklayıcı örnekler arzuladığınıza bahse girerim. Kalbime yakın, özel ve kesinlikle popüler bir dizi örnek var. Görüyorsunuz, etik ve yasal sonuçları da içeren yapay zeka konusunda bir uzman olarak, konunun teorik doğasının daha kolay kavranabilmesi için sık sık yapay zeka Etiği ikilemlerini gösteren gerçekçi örnekler belirlemem isteniyor. Bu etik yapay zeka ikilemini canlı bir şekilde sunan en çağrıştırıcı alanlardan biri, yapay zeka tabanlı gerçek otonom arabaların ortaya çıkışıdır. Bu, konuyla ilgili geniş bir tartışma için kullanışlı bir kullanım örneği veya örnek görevi görecektir.

İşte o zaman üzerinde düşünmeye değer, dikkate değer bir soru: Yapay zeka tabanlı gerçek sürücüsüz arabaların ortaya çıkışı, önerilen üç yapay zeka önyargısı kategorisi hakkında herhangi bir şeyi aydınlatıyor mu ve eğer öyleyse, bu neyi gösteriyor?

Soruyu açmam için bir dakika izin verin.

İlk olarak, gerçek kendi kendini süren bir arabada insan sürücünün bulunmadığına dikkat edin. Gerçek kendi kendini süren arabaların bir AI sürüş sistemi ile sürüldüğünü unutmayın. Direksiyonda bir insan sürücüye ihtiyaç yoktur ve bir insanın aracı sürmesi için bir hüküm yoktur. Otonom Araçlar (AV'ler) ve özellikle kendi kendini süren arabalarla ilgili kapsamlı ve devam eden kapsamım için, bkz. buradaki bağlantı.

Gerçek kendi kendini süren arabalardan bahsettiğimde ne anlama geldiğini daha fazla netleştirmek istiyorum.

Sürücüsüz Araçların Seviyelerini Anlamak

Açıklığa kavuşturmak gerekirse, gerçek sürücüsüz otomobiller, yapay zekanın otomobili tamamen kendi başına kullandığı ve sürüş görevi sırasında herhangi bir insan yardımının olmadığı arabalardır.

Bu sürücüsüz araçlar Seviye 4 ve Seviye 5 olarak kabul edilir (açıklamama bakın: Burada bu linki), sürüş eforunu birlikte paylaşmak için bir insan sürücü gerektiren bir araba genellikle Seviye 2 veya Seviye 3'te değerlendirilir. Sürüş görevini birlikte paylaşan arabalar yarı otonom olarak tanımlanır ve tipik olarak çeşitli özellikler içerir. ADAS (Gelişmiş Sürücü Yardım Sistemleri) olarak adlandırılan otomatik eklentiler.

Henüz Seviye 5'te gerçek bir kendi kendini süren araba yok ve bunun başarılmasının mümkün olup olmayacağını veya oraya varmanın ne kadar süreceğini henüz bilmiyoruz.

Bu arada, Seviye 4 çabaları, çok dar ve seçici halka açık yol denemelerinden geçerek yavaş yavaş biraz ilgi çekmeye çalışıyor, ancak bu testin kendi başına izin verilip verilmeyeceği konusunda tartışmalar var (hepimiz bir deneyde ölüm kalım kobayız. otoyollarımızda ve yan yollarımızda yer alıyor, bazıları iddia ediyor, Burada bu linki).

Yarı özerk otomobiller bir insan şoför gerektirdiğinden, bu tür otomobillerin benimsenmesi geleneksel araçları sürmekten belirgin bir şekilde farklı olmayacaktır, bu nedenle bu konuda onları ele alacak çok fazla şey yoktur ( bir anda, daha sonra yapılan hususlar genellikle uygulanabilir).

Yarı özerk otomobiller için, halkın son zamanlarda ortaya çıkan rahatsız edici bir yönü hakkında uyarılması önemlidir, yani Seviye 2 veya Seviye 3 otomobilinin direksiyonunda uykuya dalmaya devam eden insan sürücülerine rağmen , hepimizin yarı-özerk bir araba sürerken sürücünün dikkatlerini sürüş görevinden uzaklaştırabileceğine inanmaktan kaçınmamız gerekir.

Ne kadar otomasyonun bir Seviye 2 veya Seviye 3'e atılabileceğine bakılmaksızın, aracın sürüş işlemlerinden sorumlu tarafsınız.

Sürücüsüz Arabalar ve Yapay Zeka Önyargıları

Seviye 4 ve Seviye 5 gerçek kendi kendine giden araçlar için, sürüş görevinde bir insan sürücüsü olmayacaktır.

Tüm yolcular yolcu olacak.

AI sürüş yapıyor.

Hemen tartışılması gereken bir husus, günümüzün AI sürüş sistemlerinde yer alan AI'nın bilinçli olmadığı gerçeğini gerektirir. Başka bir deyişle, yapay zeka tamamen bilgisayar tabanlı programlama ve algoritmalardan oluşan bir kollektiftir ve kesinlikle insanların yapabildiği şekilde akıl yürütemeyecektir.

Yapay zekanın duyarlı olmamasına neden bu ilave vurgu yapılıyor?

Çünkü AI sürüş sisteminin rolünü tartışırken, AI'ya insani nitelikler atfetmediğimin altını çizmek istiyorum. Lütfen bugünlerde yapay zekayı insana benzetmeye yönelik süregiden ve tehlikeli bir eğilim olduğunu unutmayın. Aslında insanlar, henüz böyle bir YZ'nin var olmadığı yadsınamaz ve tartışılmaz gerçeğe rağmen, bugünün yapay zekasına insan benzeri bir duyarlılık atıyorlar.

Bu açıklamayla, AI sürüş sisteminin doğal olarak bir şekilde sürüşün yönlerini "bilmeyeceğini" öngörebilirsiniz. Sürüş ve bunun gerektirdiği her şeyin, sürücüsüz arabanın donanım ve yazılımının bir parçası olarak programlanması gerekecektir.

Bu konuyla ilgili olarak ortaya çıkan sayısız konuya dalalım.

İlk olarak, tüm AI kendi kendine giden arabaların aynı olmadığını anlamak önemlidir. Her otomobil üreticisi ve kendi kendini süren teknoloji firması, kendi kendini süren otomobiller tasarlama yaklaşımını benimsiyor. Hal böyle olunca da yapay zekalı sürüş sistemlerinin ne yapıp ne yapmayacağı konusunda kapsamlı açıklamalar yapmak zor.

Ayrıca, ne zaman bir AI sürüş sisteminin belirli bir şey yapmadığını belirtse, bu, daha sonra, aslında bilgisayarı o şeyi yapmak için programlayan geliştiriciler tarafından geçilebilir. AI sürüş sistemleri adım adım geliştirilmekte ve genişletilmektedir. Bugün var olan bir sınırlama, sistemin gelecekteki bir yinelemesinde veya sürümünde artık mevcut olmayabilir.

Bunun, birazdan anlatacağım şeyin altını çizmek için yeterli sayıda uyarı sağladığına inanıyorum.

Artık sürücüsüz arabalara ve yapay zeka önyargılarının üç kategorisini içeren Etik Yapay Zeka olanaklarına derinlemesine dalmaya hazırız.

Mahallenizdeki sokaklarda yapay zeka tabanlı kendi kendini süren bir arabanın sürdüğünü ve güvenli bir şekilde sürüyor gibi göründüğünü hayal edin. İlk başta, sürücüsüz arabaya bir bakış atmayı başardığınız her sefere özel bir ilgi gösterdiniz. Otonom araç, video kameralar, radar birimleri, LIDAR cihazları ve benzerlerini içeren elektronik sensör rafıyla öne çıktı. Kendi kendini süren arabanın topluluğunuzun etrafında dolaştığını haftalarca geçirdikten sonra, şimdi bunu zar zor fark ediyorsunuz. Size göre, zaten yoğun olan halka açık yollardaki başka bir araba.

Kendi kendini süren arabaları görmenin imkansız ya da mantıksız olduğunu düşünmeyin diye, sürücüsüz araba denemeleri kapsamındaki yerellerin nasıl yavaş yavaş çekidüzenli araçları görmeye alıştığını sık sık yazdım, şuradaki analizime bakın Burada bu linki. Yerlilerin çoğu sonunda ağızları açık, kendinden geçmiş aval aval aval aval yapmaktan, artık bu dolambaçlı kendi kendine giden arabalara tanık olmak için geniş bir can sıkıntısı yaymaya geçti.

Muhtemelen şu anda otonom araçları fark etmelerinin ana nedeni, tahriş ve çileden çıkma faktörüdür. Kitaba göre AI sürüş sistemleri, araçların tüm hız sınırlarına ve yolun kurallarına uymasını sağlar. Geleneksel insan güdümlü arabalarındaki telaşlı insan sürücüler için, kesinlikle yasalara uyan AI tabanlı kendi kendine giden arabaların arkasında sıkışıp kaldığınızda zaman zaman canınız sıkılır.

Bu, doğru ya da yanlış, hepimizin alışması gerekebilecek bir şey.

Hikayemize dönelim.

Bundan sonra, sürücüsüz otomobiller bağlamında sistemik önyargıların nasıl ortaya çıkabileceğini ele alacağız.

Bazı uzmanlar, sürücüsüz araçların yalnızca zengin ve seçkinlerin elinde olacağından oldukça endişeli. Kendi kendini süren arabaları kullanmanın maliyeti aşırı derecede pahalı olabilir. Büyük paralarınız olmadığı sürece sürücüsüz bir arabanın içini asla göremeyebilirsiniz. Sürücüsüz arabaları kullanacak olanların zengin olması gerektiği iddia ediliyor.

Bu nedenle, bazıları endişe verici bir şekilde, bir tür sistemik önyargının yapay zeka tabanlı sürücüsüz arabaların ortaya çıkışına nüfuz edeceğini öne sürüyor. Genel otonom araç endüstriyel sistemi bir bütün olarak sürücüsüz arabaları fakir veya daha az varlıklı olanların elinden uzak tutacak. Bu mutlaka açık bir niyetle olmayabilir ve sürücüsüz arabaları icat etmenin külfetli maliyetlerini telafi etmenin tek inanılan yolunun aşırı derecede yüksek fiyatlar talep etmek olacağı ortaya çıktı.

Bugün sıradan insanların kullanmasına izin veren sürücüsüz araba denemelerinin olduğunu ve dolayısıyla zengin olmanıza gerek olmadığı açıkça görüldüğünü söylerseniz, karşı argüman bunun bir tür paravan oyun olduğudur. Öyleydi. Otomobil üreticileri ve sürücüsüz teknoloji firmalarının, maliyetin önemli bir engel olmayacakmış gibi görünmesini sağlamaya istekli oldukları söyleniyor. Şu anda bunu halkla ilişkiler amacıyla yapıyorlar ve kırışıklıkları çözdükten sonra fiyatları artıracaklar. Bir komplocu, sıradan insanlar olarak "kobayların", zenginlerin sonuçta daha zengin olmasını sağlamak için zararlı bir şekilde kullanıldığını bile iddia edebilir.

Dolayısıyla, bu oldukça tartışmalı konu göz önüne alındığında ve bu kirli konuya kendi iki kuruşumu koyarsam, sürücüsüz arabaların günlük kullanım için daha pahalı olacağına inanmıyorum. Böyle bir iddiada bulunmamın temeline ilişkin ayrıntılara burada girmeyeceğim ve sizi şu adresteki dikkatli tartışmalarımı görmeye davet ediyorum: buradaki bağlantı ve ayrıca buradaki bağlantı.

Devam edersek, yapay zeka ile ilgili istatistiksel ve hesaplamaya dayalı önyargılar konusunu ele alabiliriz.

Sürücüsüz arabaların yolcu almak için nerede dolaşacağına dair önemsiz gibi görünen soruyu düşünün. Bu oldukça zararsız bir konu gibi görünüyor. Yapay zeka ile ilgili istatistiksel ve hesaplamaya dayalı önyargıların belki de şaşırtıcı derecede potansiyel hayaletini vurgulamak için sürücüsüz arabalara sahip kasaba veya şehrin hikayesini kullanacağız.

İlk başta, yapay zekanın tüm kasabada sürücüsüz arabaları dolaştığını varsayalım. Sürücüsüz arabaya binmek isteyen herkesin esasen bu arabayı arama şansı eşitti. Yavaş yavaş, yapay zeka öncelikle sürücüsüz arabaların şehrin sadece bir bölümünde dolaşmasını sağlamaya başladı. Bu bölüm daha fazla para kazandırıyordu ve yapay zeka sistemi, topluluktaki kullanımın bir parçası olarak gelirleri en üst düzeye çıkarmaya çalışacak şekilde programlanmıştı.

Kasabanın yoksul kesimlerindeki topluluk üyelerinin, kendi kendini süren bir arabadan binebilmeleri daha az olasıydı. Bunun nedeni sürücüsüz arabaların daha uzakta olması ve bölgenin daha yüksek gelirli kısmında gezinmesiydi. Şehrin uzak bir yerinden bir talep geldiğinde, muhtemelen şehrin "saygın" bölgesinde olan daha yakın bir yerden gelen herhangi bir talep daha yüksek önceliğe sahip olacaktır. Sonunda, şehrin daha zengin kısmı dışında herhangi bir yerde kendi kendini süren bir arabaya sahip olmak neredeyse imkansızdı, şu anda kaynaklara kıt olan bu bölgelerde yaşayanlar için çileden çıkarıcı bir şekilde.

Yapay zekanın, bir tür vekalet ayrımcılığına (aynı zamanda dolaylı ayrımcılık olarak da adlandırılır) benzer bir tür istatistiksel ve hesaplamaya dayalı önyargıya dayandığını iddia edebilirsiniz. Yapay zeka bu yoksul mahallelerden uzak duracak şekilde programlanmadı. Bunun yerine bunu ML/DL kullanarak yapmayı "öğrendi".

Yapay zekanın asla bu tür utanç verici bir bataklığa düşmeyeceği varsayılmıştı. Yapay zeka tabanlı sürücüsüz arabaların nereye gittiğini takip etmek için özel bir izleme kurulmadı. Ancak topluluk üyeleri şikayet etmeye başladıktan sonra şehir liderleri neler olduğunu anladı. Otonom araçların ve sürücüsüz araçların sunacağı şehir çapındaki bu tür sorunlar hakkında daha fazla bilgi için şu adresteki yayınlarıma bakın: Burada bu linki ve bu, konuyla ilgili birlikte yazdığım Harvard liderliğindeki bir çalışmayı anlatıyor.

Yapay zeka önyargılarıyla ilgili insan önyargılarının üçüncü kategorisi için, yapay zekanın caddeyi geçme hakkı olmayan yayaları beklemek için durup durmayacağına karar vermesini içeren bir örneğe dönüyoruz.

Şüphesiz araba kullanmışsınızdır ve karşıdan karşıya geçmek için bekleyen ve henüz geçiş hakkına sahip olmayan yayalarla karşılaşmışsınızdır. Bu, durup geçmelerine izin verip vermeme konusunda takdir hakkınız olduğu anlamına geliyordu. Geçmelerine izin vermeden devam edebilir ve yine de bunu yapmak için yasal sürüş kuralları dahilinde olabilirsiniz.

İnsan sürücülerin bu tür yayalar için durmaya veya durmamaya nasıl karar verdiğine ilişkin araştırmalar, bazen insan sürücülerin seçimi istenmeyen önyargılara dayanarak yaptığını ileri sürdü. Bir insan sürücü yayaya göz atabilir ve yaya, ırk veya cinsiyet gibi farklı bir görünüme sahip olsaydı durmuş olsa bile durmamayı seçebilirdi. bunu şurada inceledim buradaki bağlantı.

AI tabanlı kendi kendine giden arabaların, geçiş hakkına sahip olmayan yayalar için durup durmayacağı sorusuyla başa çıkmak için programlandığını hayal edin. AI geliştiricilerinin bu görevi programlamaya nasıl karar verdikleri aşağıda açıklanmıştır. Kasabanın şehrin her yerine yerleştirilmiş video kameralarından veri topladılar. Veriler, geçiş hakkına sahip olmayan yayalar için duran insan sürücüleri ve durmayan insan sürücüleri göstermektedir. Hepsi büyük bir veri kümesinde toplanır.

Makine Öğrenimi ve Derin Öğrenme kullanılarak veriler hesaplamalı olarak modellenir. AI sürüş sistemi daha sonra ne zaman durup durmayacağına karar vermek için bu modeli kullanır. Genel olarak fikir, yerel gelenek ne olursa olsun, yapay zekanın kendi kendini süren arabayı bu şekilde yönlendirmesidir.

Şehir liderlerinin ve sakinlerin sürprizine göre, AI açıkça yaya yaşına bağlı olarak durmayı veya durmamayı seçiyordu. Bu nasıl olabilir?

İnsan sürücünün takdirine ilişkin videoyu daha yakından inceledikten sonra, durmama durumlarının çoğunun, yaşlı bir vatandaşın bastonu olan yayaları gerektirdiği ortaya çıktı. İnsan sürücüler, muhtemelen birisinin yolculuğu yapması için gereken sürenin uzun olması nedeniyle, yaşlı bir kişinin caddeyi geçmesine izin vermeye isteksiz görünüyorlardı. Yaya, hızla caddenin karşısına geçip sürücünün bekleme süresini en aza indirebilecek gibi görünüyorsa, sürücüler kişinin karşıya geçmesine izin vermeye daha yatkındı.

Bu, AI sürüş sisteminin derinliklerine gömüldü. Sürücüsüz aracın sensörleri bekleyen yayaları tarayacak, bu verileri ML/DL modeline besleyecek ve model yapay zekaya durup devam etmeyeceğini bildirecek. Yürüyen bastonun kullanılması gibi yayanın yavaş geçebileceğini gösteren herhangi bir görsel gösterge, yapay zeka sürüş sisteminin bekleyen yayanın karşıya geçmesine izin verip vermeyeceğini belirlemek için matematiksel olarak kullanılıyordu.

Bunun önceden var olan insani önyargılara dayanmak olduğunu iddia edebilirsiniz.

Sonuç

Şimdilik bazı son düşünceler.

Size dağıtılan kartları değiştiremeyeceğinizi ve bunun yerine size verilen el ile nasıl yeterince oynayacağınızı öğrenmeniz gerektiğini söyleyen popüler bir deyiş vardır.

Yapay Zeka önyargıları söz konusu olduğunda, Yapay Zeka Etiğini genel anlamda oluşturma konusunda hararetli bir şekilde zirveye çıkmazsak ve özellikle Yapay Zeka önyargılarının karakterizasyonunu sağlamlaştırmazsak, karşılaşacağımız eller, köhne etik dışı şeylerle dolup taşacak, ve muhtemelen yasa dışı bir katman. Başlangıç ​​olarak bu kartların dağıtılmasını engellemeliyiz. Etik yapay zeka standartlarını oluşturma ve yayınlama yönündeki cesur amaç, yaklaşmakta olan küresel krizin artan tsunamisiyle mücadelede çok önemli bir araçtır. Kötü İçin AI.

Aşırı yapay zeka önyargısının ve etik olmayan yapay zekanın dayanıksız bir iskambil evi gibi olacağını, kendi kendine patlayacağını ve muhtemelen hepimiz için felaket olacağını bankaya kesinlikle inandırabilirsiniz.

Kazanmak için oynayalım ve bunu uygun etik yapay zekayla yapalım.