YZ Etiğiyle İlgili En Son Sarsıcı Endişe, Yapay Zekanın, Zararsız Yapay Zeka Tabanlı Kendi Kendini Süren Arabalar Vakası da dahil olmak üzere, Politik Önyargıları Ayrılmaz Bir Şekilde Şekillendirebilmesidir

Siyaset konuşalım.

Pekala, bugünlerde mevcut tüm medya kaynakları boyunca görünüşte kesintisiz olarak siyasete odaklanma konusunda muhtemelen tükenmiş olduğunuzun farkındayım. Kırmızı eyaletler mavi eyaletlere karşı. Liberaller muhafazakarlara karşı. Cumhuriyetçilere karşı Demokratlar. Siyasi entrikalar hakkında gevezelik, bıktırıcı bir şekilde sonsuzdur.

Siyasetin özellikle resme girmediği bazı konular olduğunu makul bir şekilde varsaymış olabilirsiniz. Özünde, belki iki farklı konu sınıfı vardır, yani ne olursa olsun politik olarak aşılanan konular ve politik alanın yanından geçecek veya ondan kaçacak diğer daha banal konular.

Ulusal sağlık konuları, seçim yönleri, silah kontrolü, göçmenlik gibi uzun süredir devam eden liste gibi, siyasete ve siyasi öfkelere sonsuza kadar batmaya mahkum olan göz alıcı parlama noktası konularının olacağı mantıklı görünüyor. ve benzerleri. Tek yapmanız gereken bu konulardan herhangi birinden bahsetmek ve bir sonraki şey politik bir ateş fırtınasına dalmak. Daha ziyade hararetli argümanlar oldukça garantilidir.

Yangın madalyonun diğer tarafında belki de böylesine ani bir siyasi tepkiye yol açmayan bazı konular var. İlk içgüdüsel tepkinizi almak için böyle bir konuyu önünüzde gezdirmek istiyorum.

Hazır?

Otomobil.

Evet, arabaların, otomobillerin, motorlu taşıtların günlük konusu, ya da nasıl ifade etmek isterseniz, bu politik bir haykırışa mı yol açıyor ya da politik olarak yüklü bir eleştiriyi ya da hakkında dedikodu yapılması gereken sözlü yumruklaşmaları körüklüyor mu?

Arabalarla ilgili siyasi kaygıların arttığı yüzeyde görünmeyebilir. Onlar sadece bir günlük ulaşım şeklidir. Arabanıza biniyorsunuz ve işe gidiyorsunuz. Arabanızı ayak işlerini yapmak ve yiyecek almak için kullanırsınız. Bir tatil için biraz zaman ayırabilirseniz, arabanızı açık ormanlık alanlara gitmek veya belki bazı değerli ulusal anıtları ziyaret etmek için kullanırsınız.

Arabalar apolitik görünüyor.

Üzgünüm, ama durum böyle değil.

Arabaların, diğer sözde parlama noktası konularının herhangi biri gibi, siyasetle iç içe olduğu ve siyasete daldığı söylenebilir. Belki de genel medya, daha çekici diğer konular için yapılabileceği kadar araba odaklı siyaseti kapsamıyor, ancak yine de, siyasi alt akımlar hala var.

Açık bir politik boyut, arabalarımızın nelerden oluşması gerektiğidir.

Arabaların makyajından veya mekanizasyonundan bahsediyorum. Örneğin, otomobillerin ICE'yi (içten yanmalı motorlar) mı yoksa EV'ye mi (elektrikli araçlar) geçişi mi kullanması gerektiği konusunda ciddi bir siyasi tartışma var. Bu, çevre sorunları ve iklim değişikliği yönleri gibi politik olarak yüklü çok sayıda başka konuya bağlanan önemli bir söylem alanıdır.

Daha az bilinen ve bununla ilgili bir konu, arabaların boyutları ve çeşitli açılardan genel ayak izi ile ilgilidir. Büyük boyutlu arabalarımız mı yoksa sadece daha küçük boyutlu arabalarımız mı olmalı? İnsanları bunun yerine toplu taşımayı ve toplu taşımayı kullanmaya yönlendirmeyi amaçlayan, herkesin bildiği gibi araba kullanımını caydırmak için arabalar tasarlamalı mıyız? Ve benzeri.

İşte muhtemelen düşünmediğiniz bir şey.

Bazı araştırmalar, sahip olunan araba türünün, araba sahibinin politik eğilimlerine dayanıp dayanmadığını incelemiştir. Muhtemelen, satın alınan arabanın türüyle ilgili olarak Demokrat olarak beyan edilen biri arasında istatistiksel bir korelasyon bulabilir ve aynı şekilde Cumhuriyetçi olmakla sahip olunan araba türü arasında istatistiksel bir korelasyon bulabilirsin. Burada bu çalışmalara girmeyeceğim, ancak bu tür çalışmaları ve sonuçlarını dikkatli bir gözle ve ilgili istatistiksel geçerlilik konusunda yüksek dozda şüphecilikle yorumlamanız gerektiğini belirtmek isterim.

İstatistikleri kullanmaktan bahsetmişken, politik özellikler ve arabalarla ilgili ilginç bir başka açı daha var. Çeşitli bağlantılara sahip gibi görünen araştırma çabaları var. sürüş davranışları Bu sürücülerin siyasi parti üyeliğine insanların.

Sıklıkla ele alınan sorular şunları içerir:

· Araba kazalarına veya çarpışmalara maruz kalan sürücülerin Demokrat veya Cumhuriyetçi olma olasılıkları daha mı yüksek yoksa daha mı düşük?

· Sarhoş sürücülerin liberal veya muhafazakar olma olasılığı daha mı yüksek?

· Sürücülerin çıldırdığı ve birbirlerine saldırdığı bu çılgın trafik kazaları meydana geldiğinde, bu çılgın azgın deliler liberaller mi yoksa muhafazakarlar mı olma eğiliminde?

· Kim daha fazla trafik cezası alıyor ve muhtemelen daha riskli araba kullanıyor, Demokratlar mı Cumhuriyetçiler mi?

· Vb.

Yine, burada bu araştırma çabalarına dalmayacağım. Ve bir kez daha, lütfen bu tür çalışmaları okurken veya sonuçlarıyla ilgili çarpıcı manşetleri gördüğünüzde her şeyin hazır olduğundan emin olun. Söyleyeceğim tek şey, istatistiklerle ilgili eski çizginin, yalanlar, kahrolası yalanlar ve istatistikler olduğu gibi bugün hâlâ fazlasıyla doğru olduğudur (daha kibar bir izleyici için bu biraz tuzlu bilgeliği temizledim).

Bu nedenle, araba konusunun ne yazık ki siyasi çağrışımlarla aşılanmış olduğuna dair yeterli kanıtımız var gibi görünüyor.

O zaman farklı bir konu seçeceğim, belki de tamamen apolitik olacak.

Bu sefer hazır mısın?

Yapay Zeka (AI).

Elbette, AI sistemlerinin iç kapasiteleri söz konusu olduğunda, AI'nın apolitik olması gerektiğini umarız. Elbette siyaset olduğundan şüphelenebilirsiniz. çevreleyen AI'nın kullanılması gerekip gerekmediği, ancak görünüşe göre bir AI sisteminin içselliğinin herhangi bir siyasi fermentasyonun ötesinde olacağını düşünürdünüz.

Bu yaygın varsayıma daha yakından bakmadan önce, son zamanlarda birçok kişinin yapay zeka sistemlerini bir şapka damlasında üretme ve içgüdüsel olarak kabul etme konusundaki beceriksiz dürtüsünü yeniden düşünmesine neden olan yapay zekanın diğer bazı yönlerini ele almak öğretici olabilir.

Görüyorsun, aceleyle AI için iyi Son birkaç yılın heyecanı, tüm AI'ların mutlaka iyi olmayacağına dair artan bir farkındalık oldu. için de pek çok fırsatın olduğunu görmeye geldik. Kötü İçin AI ortaya çıkması. Bu, AI geliştirenlerin kasıtlı niyeti ile gerçekleşebilir ve bazılarının kesinlikle AI geliştiricileri ve AI sistemlerini yayınlayanlar tarafından tamamen sorumsuz bir uygun gözetim eksikliği olduğunu iddia ettiği şeyle de olabilir.

Buradaki bağlantı ve buradaki bağlantı gibi, bu AI Etiği konularının çoğunu sütun kapsamımda ele aldım..

bir göstergesi olarak düşünün Kötü İçin AI yüz tanıma meselesi

Pek çok kişi yüz tanımanın yapay zeka teknolojilerinin en dandiki olacağını düşündü (ve birçok yönden gerçekten de bir tür yapay zekadır. AI için iyi). Gizli bir pin kodu ve banka kartı kullanmak yerine, yüzünüzü tanıma için tarayarak ATM'lerde bankacılık yapmak çok kolay olurdu. Bir bakkala girmek ve seçtiğiniz herhangi bir ürün için ücretlendirilebilecek çevrimiçi bakkal hesabınızı belirtmek için yalnızca yüzünüzü kullanarak alışveriş yapmak çok uygun olacaktır.

Matkabı biliyorsun.

Bildiğiniz bir sonraki şey, toplum yüz tanımanın tüm tatlı şekerler ve tatlı kokulu güller olmadığını keşfetmeye başladı. AI tabanlı yüz tanıma algoritmalarından bazıları, insanları ırklarından dolayı ayırt edebilmek için berbat bir iş çıkardı. Cinsiyet ve diğer faktörlerle ilgili doğal önyargılar da dahil olmak üzere çok sayıda başka rahatsız edici ve düpedüz ölçüsüz sorun ortaya çıktı. Yüz tanımanın temelini oluşturan AI Etiği konularına ilişkin kapsamım için buradaki bağlantıya bakın.

Genel olarak mesele şu ki, herhangi birinin sağlam bir şansı var. AI için iyi aşağıdakilerden oluşan ilgili bagajı da taşıyacaktır. Kötü İçin AI. Bazı durumlar vardır ki Kötü İçin AI tamamen kötüdür ve bir nebze olsun AI için iyi içinde. Sonuç olarak, yine de, genellikle bir AI sistemi her ikisinin de bir benzerine sahip olacaktır. AI için iyi ve Kötü İçin AI. İlkini teşvik etmek, ikincisini önlemek, azaltmak, hafifletmek ve diğer her şey başarısız olduğunda mümkün olan en kısa sürede yakalayıp savunmak isteriz.

Evet, bunların hepsi mantıklı ve her türlü ırksal önyargı, cinsiyet önyargısı ve her türlü eşitsizlik için AI'yı dikkatle incelememiz gerektiğini düşünebilirsiniz. Bu, uygun eylem ve topluma kötüden kaçınma ve AI'nın iyiliğini verimli bir şekilde toplama konusunda yardım olacaktır.

İster inanın ister inanmayın, AI'ya sarılmış birçok kişinin AI rengarenk güveçte olduğunu fark etmediği şaşırtıcı şeyler listesine eklenebilecek başka bir faktör daha var.

Siyasi eğilimler.

Son araştırmalar, yapay zeka sistemlerinin (antropomorfik olarak olmasa da) çok sayıda siyasi eğilim, görüş, tercih ve bu tür siyasi temelli nitelikler ve kaynaşmalar barındırabileceğini göstermektedir. Bu da yapay zekanın nasıl çalıştığını, örneğin yapay zekanın programlamasına dayalı olarak neye "karar verdiği" gibi etkileyebilir.

Bir kredi için çevrimiçi başvuruda bulunursanız ve AI tabanlı bir algoritmik karar verme sistemi kullanılıyorsa, çoğu zaman AI programlamanın nelerden oluştuğuna dair hiçbir fikriniz olmaz. Kredi için reddedildiğinizi söylediğiniz zaman, AI'nın dönüş seçimini yaparken ırkınızı, cinsiyetinizi veya benzeri diğer faktörleri kullanmaktan kaçındığından emin olamazsınız.

Yapay zekanın politik önyargıları nedeniyle kredi talebinizi engellemediğinden de emin olamazsınız.

Bunu bu kadar katı ifadelerle belirttiğimde, yapay zekanın duyarlı olduğuna inanarak bu kavramı aşırı şişirmeyin. Birazdan bahsedeceğim gibi, bugün duyarlı yapay zekaya sahip değiliz. Tam durak, nokta. Hangi çılgın manşetleri görürseniz görün, lütfen bugün duyarlı yapay zekaya yakın bir şey olmadığını bilin. AI ile duyarlılığa ulaşmanın mümkün olup olmadığını bile bilmiyoruz. Ayrıca ne zaman olacağı ya da gerçekleşip gerçekleşmeyeceğine dair bir gösterge de yok.

Elimizdeki konuya geri dönelim.

Artık yapay zekanın siyasi önyargılar içerebileceğine dair masaya oturdum, bunun nasıl olduğuna ve siyasi eğilimlerin sinsice nasıl ortaya çıkabileceğine daha yakından bakabiliriz.

Bir yana, eğer yapay zekanın politik tercihleri ​​içine gömebileceği fikri size korkunç bir dehşete ya da şoka neden oluyorsa, bunu yapay zekanın kusursuz perdesini delmenin başka bir örneğine tebeşirleyin. Toplum, şimdiye kadar, büyük masumiyet ve bozulmamış tarafsızlık ve denge aurasını içeren bir yapay zeka imajını kabul etmiş görünüyor.

Bunu diğer makine türlerinden aktarmış olabiliriz. Ekmek kızartma makinelerinin ırk, cinsiyet vb. temelli doğal önyargıları yok gibi görünüyor. Benzer şekilde, bir ekmek kızartma makinesinin olduğu gibi politik fikirli olmasını da beklemezdik. Tost makinesi, tost makinesidir. Sadece bir makine olarak yorumlanır.

Konu yapay zeka olduğunda ekmek kızartma makinesi perspektifinin su tutmamasının nedeni, yapay zeka sisteminin bilişsel benzeri kapasiteleri sürdürmeye çalışmak üzere programlanmış olmasıdır. Bu haliyle, makineyi önyargıların somutlaştırılması ve benzerleri gibi bilişsel konuların çıkmazına sokar. Sizi temin ederim, yakında yapay zeka tabanlı ekmek kızartma makinelerinin önyargılar ve sorunlu endişelerle dolu olduğunu keşfedeceğiz.

AI'nın politik olarak nasıl aşılanabileceğini anlamaya yönelik kapıyı açmanın kullanışlı bir yolu, AI tabanlı gerçek kendi kendini süren arabaların ortaya çıkışında AI kullanımına bir göz atmak olacaktır. Bir taşla iki kuş vurabilir ve politik somutlaştırmayı içeren genel ve kapsayıcı AI konusunu inceleyebiliriz ve bunu kendi kendini süren arabalarda bunun nasıl ortaya çıkabileceğine dair örnek bir bağlamda yapabiliriz.

Yine de, AI politik aşılamanın kendi hakkını vermeyi hak eden bağımsız bir konu olduğunu açıklığa kavuşturmak istiyorum. Kendi kendini süren arabaların yapay zekasını, yapay zekanın politik boyutlarıyla karıştırmayın. Tüm AI'ların politik olarak doğal olasılıkları olacaktır ve derinlik ve derece, AI'nın nasıl tasarlandığına ve sahaya nasıl yerleştirildiğine bağlı olacaktır.

İşte o zaman üzerinde düşünmeye değer dikkate değer bir soru: Yapay zeka, politik eğilimleri içsel olarak nasıl aşılayacak ve bu, ortaya çıkan AI tabanlı kendi kendini süren arabalar için kullanılan AI'nın görünüşte apolitik alanında bile gerçekleşebilir mi?

Kendi kendini süren arabalarla ilgili olduğu için soruyu açmama izin verin.

İlk olarak, gerçek kendi kendini süren bir arabada insan sürücünün bulunmadığına dikkat edin. Gerçek kendi kendini süren arabaların bir AI sürüş sistemi ile sürüldüğünü unutmayın. Direksiyonda bir insan sürücüye ihtiyaç yoktur ve bir insanın aracı sürmesi için bir hüküm yoktur. Otonom Araçlar (AV'ler) ve özellikle kendi kendini süren arabalarla ilgili kapsamlı ve devam eden kapsamım için buradaki bağlantıya bakın.

Gerçek kendi kendini süren arabalardan bahsettiğimde ne anlama geldiğini daha fazla netleştirmek istiyorum.

Sürücüsüz Araçların Seviyelerini Anlamak

Açıklığa kavuşturmak gerekirse, gerçek sürücüsüz otomobiller, yapay zekanın otomobili tamamen kendi başına sürdüğü ve sürüş görevi sırasında herhangi bir insan yardımı olmadığı araçlardır.

Bu sürücüsüz araçlar Seviye 4 ve Seviye 5 olarak kabul edilirken (buradaki bu bağlantıdaki açıklamama bakın), bir insan sürücünün sürüş çabasını paylaşması gereken bir otomobil genellikle Seviye 2 veya Seviye 3 olarak değerlendirilir. sürüş görevini paylaşma görevi yarı otonom olarak tanımlanır ve tipik olarak ADAS (Gelişmiş Sürücü Yardım Sistemleri) olarak adlandırılan çeşitli otomatik eklentiler içerir.

Seviye 5'te henüz bunun gerçek bir otomobili yok, ki bu da bunu başarmanın mümkün olup olmadığını ve oraya ulaşmanın ne kadar süreceğini bilmiyoruz.

Bu arada, Seviye 4 çabaları, çok dar ve seçici halka açık yol denemelerinden geçerek yavaş yavaş biraz ilgi çekmeye çalışıyor, ancak bu testin kendiliğinden izin verilip verilmeyeceği konusunda tartışmalar var (hepimiz bir deneyde ölüm kalım kobayız. Bazıları karayollarımızda ve yan yollarımızda yer aldığını iddia ediyor, buradaki bağlantıdaki kapsamımı görün).

Yarı özerk otomobiller bir insan şoför gerektirdiğinden, bu tür otomobillerin benimsenmesi geleneksel araçları sürmekten belirgin bir şekilde farklı olmayacaktır, bu nedenle bu konuda onları ele alacak çok fazla şey yoktur ( bir anda, daha sonra yapılan hususlar genellikle uygulanabilir).

Yarı özerk otomobiller için, halkın son zamanlarda ortaya çıkan rahatsız edici bir yönü hakkında uyarılması önemlidir, yani Seviye 2 veya Seviye 3 otomobilinin direksiyonunda uykuya dalmaya devam eden insan sürücülerine rağmen , hepimizin yarı-özerk bir araba sürerken sürücünün dikkatlerini sürüş görevinden uzaklaştırabileceğine inanmaktan kaçınmamız gerekir.

Ne kadar otomasyonun bir Seviye 2 veya Seviye 3'e atılabileceğine bakılmaksızın, aracın sürüş işlemlerinden sorumlu tarafsınız.

Kendi Kendini Süren Arabalar ve Yapay Zeka İçeren Politik Eğilimler

Seviye 4 ve Seviye 5 gerçek kendi kendine giden araçlar için, sürüş görevinde bir insan sürücüsü olmayacaktır.

Tüm yolcular yolcu olacak.

AI sürüş yapıyor.

Hemen tartışılması gereken bir husus, günümüzün AI sürüş sistemlerinde yer alan AI'nın bilinçli olmadığı gerçeğini gerektirir. Başka bir deyişle, yapay zeka tamamen bilgisayar tabanlı programlama ve algoritmalardan oluşan bir kollektiftir ve kesinlikle insanların yapabildiği şekilde akıl yürütemeyecektir.

Yapay zekanın duyarlı olmamasına neden bu ilave vurgu yapılıyor?

Çünkü AI sürüş sisteminin rolünü tartışırken, AI'ya insani nitelikler atfetmediğimin altını çizmek istiyorum. Lütfen bugünlerde yapay zekayı insana benzetmeye yönelik süregiden ve tehlikeli bir eğilim olduğunu unutmayın. Aslında insanlar, henüz böyle bir YZ'nin var olmadığı yadsınamaz ve tartışılmaz gerçeğe rağmen, bugünün yapay zekasına insan benzeri bir duyarlılık atıyorlar.

Bu açıklamayla, AI sürüş sisteminin doğal olarak bir şekilde sürüşün yönlerini "bilmeyeceğini" öngörebilirsiniz. Sürüş ve bunun gerektirdiği her şeyin, sürücüsüz arabanın donanım ve yazılımının bir parçası olarak programlanması gerekecektir.

Bu konuyla ilgili olarak ortaya çıkan sayısız konuya dalalım.

İlk olarak, tüm AI kendi kendine giden arabaların aynı olmadığını anlamak önemlidir. Her otomobil üreticisi ve kendi kendini süren teknoloji firması, kendi kendini süren otomobiller tasarlama yaklaşımını benimsiyor. Hal böyle olunca da yapay zekalı sürüş sistemlerinin ne yapıp ne yapmayacağı konusunda kapsamlı açıklamalar yapmak zor.

Ayrıca, ne zaman bir AI sürüş sisteminin belirli bir şey yapmadığını belirtse, bu, daha sonra, aslında bilgisayarı o şeyi yapmak için programlayan geliştiriciler tarafından geçilebilir. AI sürüş sistemleri adım adım geliştirilmekte ve genişletilmektedir. Bugün var olan bir sınırlama, sistemin gelecekteki bir yinelemesinde veya sürümünde artık mevcut olmayabilir.

Bunun, birazdan anlatacağım şeyin altını çizmek için yeterli sayıda uyarı sağladığına inanıyorum.

Şimdi yapay zeka siyasetinin gömülü ikilemine derin bir dalış yapmaya hazırız.

Kendi kendini süren araba özelliklerini kısaca bir kenara bırakın ve önce AI konusunu, politik eğilimleri nasıl içerdiğine göre inceleyelim. AI'nın politik olarak basılmasının en kolay yolu, AI yazılımını oluşturan AI geliştiricilerinin eylemleridir. İnsanlar olarak, yazılımı programladıkları şeye kişisel politik eğilimlerini aktarabilirler.

Yapay zeka sistemleri, çeşitli ırk ve cinsiyet önyargılarını ilk kez sergilemeye başladığında, bunun, bu sistemleri tasarlayan AI geliştiricilerinin bir sonucu olması gerektiğine dair büyük bir tepki vardı. Bunun AI geliştiricileri tarafından kasıtlı bir eylem olduğu yönünde suçlamalar vardı. Ancak diğerleri, AI geliştiricilerinin çeşitlilikten yoksun olduğunu öne sürdüler ve bu nedenle, dikkatsizce veya düşüncesizce mevcut önyargılarının AI programlama çabalarına taşınmasına izin verdiler.

Birçok AI ekibi için bu, programlama gruplarına yeni üyelerin eklendiği zamanlar da dahil olmak üzere diğer geliştiriciler arasında çeşitliliği sağlama konusunda daha bilinçli hale gelmelerini sağladı. Ayrıca, AI geliştiricileri için çeşitlilik bilincini artırmak için özel öğretici eğitim kursları oluşturuldu. Hatta yapay zeka projelerini sistemlerine önyargı ve eşitsizlikler yerleştirmeye yönelik olarak açıkça yönlendirmek için çeşitlilik unsurlarını kapsayan yapay zeka geliştirme metodolojileri bile var.

Neredeyse hiç kimse AI için politik olarak yerleşik bir önyargı türünün farkında olmasa da, muhtemelen bunun eninde sonunda ön plana çıkması ve sesli bir kargaşaya neden olması muhtemeldir. Bir kez daha, AI geliştiricileri yakından incelenecek. Belki bazıları siyasi eğilimlerini kasıtlı olarak aşılıyor, bazıları ise bunu yaptıklarının farkında olmadan yapıyor olabilir.

AI geliştiricilerinin AI'ya önyargı getirmenin tek kaynağı olduğunu varsaymanın odağının, AI önyargılarının nereden kaynaklandığının tamamını gözden kaçırdığını söylemeye cesaret ediyorum. Makine Öğrenimi (ML) ve Derin Öğrenme (DL) kullanımının, AI dahili önyargı yönlerine de önemli bir katkıda bulunduğuna dair kademeli bir farkındalık oluştu.

Makine Öğrenimi ve Derin Öğrenme, hesaplamalı model eşleştirme teknikleri ve teknolojileridir.

ML/DL'ye beslemek istediğiniz verileri birleştirirsiniz, bu veri daha sonra hesaplamalı olarak sağlanan veri kümesinde matematiksel modeller bulmaya çalışır. Hesaplanan bu kalıplara dayanarak, yüz tanımayı söyleyebilmek gibi ML/DL kullanılacaktır. Yüz tanıma için, bir grup insan resmini besleyebiliriz ve ML/DL, burnun şekli ve boyutu, ağız ve dudakların şekli ve boyutu gibi yüzleri tanınabilir kılan özelliklerin dikkate değer özelliklerini hesaplayacaktır. , alnın şekli ve boyutu vb.

Bu hesaplama yaklaşımı, her türlü önyargı etkisinin ötesinde görünmektedir. Hepsi sadece hesaplamalar.

Aha, ancak "eğitim" veya hesaplamalı model eşleştirmesinin bir parçası olarak ML/DL'ye resimleri (veya her neyse) beslediğimizi unutmayın. Yüz tanıma için, esas olarak belirli bir ırktan insanları gösteren resimleri besleyecek olsaydık, hesaplamalı model eşleştirmesinin bu yüz yönlerine doğru ilerleme olasılığı yüksektir. Daha sonra, bu yüz tanıma sistemini yaygın olarak kullandığımızı varsayarsak, onu kullanan ve farklı bir ırktan olanların matematiksel olarak “tanınma” olasılığı daha düşük olabilir, çünkü ML/DL kalıpları ağırlıklı olarak antrenmanda bulunan ırk etrafında şekilleniyor. ayarlamak.

Yani, ML/DL'nin aksi takdirde “tarafsız” matematiksel yaklaşımının nasıl çarpık hale gelebileceğini açıkça görebilirsiniz (başka yollar da var, ama burada sadece bu büyük olandan bahsediyorum). Yapay zeka geliştiricileri kasıtlı olarak ırksal olarak dengesiz bir veri seti mi yarattı? Bunun nadiren kasıtlı bir eylem olduğunu söyleyebilirim, ancak bunu yaptıklarının farkında olmamaları hala yeterli bir mazeret değil.

Günümüzde, ML/DL kullananların eğitim için hangi verileri kullandıkları ve bunun ne gibi sonuçlar doğurduğu konusunda daha dikkatli olmalarını sağlamaya yönelik güçlü bir çaba var. Ne yazık ki, herkes ML/DL çoğunluğuna atladı ve ML/DL mantosunu alan bu yeni başlayanların veya gece uçuşlarının çoğu, aşılanan önyargıların farkında olmadan bunu yapıyor. Bunu kasıtlı olarak yapabilecek kötü aktörler de olabilir, ancak umalım ki bunların sayısı çok azdır.

Yukarıdakilerin, sizi günümüzün AI'sına önyargıların aşılanmasını içeren AI Etiği yönleri konusunda hızlandırdığına inanıyorum.

Devam edin ve genel önyargı kavramını politik yerleşik eğilimlerin belirli göstergeleriyle değiştirerek tüm meseleyi tekrarlayın. AI geliştiricilerinin kendilerinin, politik eğilimlerini programlanmış AI'nın yaptıklarına açıkça veya yanlışlıkla taşıyabileceklerinden daha önce bahsetmiştim. Ayrıca bahsettiğim diğer yön, Makine Öğrenimi ve Derin Öğrenmenin kullanımı için, belirli bir siyasi boyuta uyan kalıplar arasında kasıtlı veya kazara taşınabilecek eğitim verilerini seçme olasılığının olmasıdır.

Pekala, bu sütunda biraz uzun yazıyorum (ayy, TLDR, bazıları acımasızca diyecek), bu yüzden, AI tabanlı kendi kendini süren bir araba için AI'nın bunlara nasıl süpürülebileceğine dair kısaca bir örnek çizmeyi hedefleyeceğim. siyasi eğilimli solucan delikleri (birçok köşe yazılarımda bu tür konulara geniş yer verdiğim için, buradaki bağlantıya bakın).

AI kendi kendini süren arabalarla ilgili iyi bilinen ve sıklıkla tartışılan bir potansiyel eşitlik sorunu, robot taksilerin kullanımı ve bu yeni bir hizmet olarak mobilite seçeneğine kimlerin erişebileceği ile ilgilidir. Endişeler, yalnızca zenginlerin robo-taksileri kullanmaya gücü yetecek ve bu nedenle düşük gelirli gruplarda olanlar, gelişmekte olan sürücüsüz arabalar çağının dışında kalacaklardır (bağlantıda bununla ilgili ayrıntılı bir rapora bakın) ).

Bu nitelikten parlayan başka bir bükülme var.

Kendi kendini süren arabaların bir şehirde dolaştığını ve bir yolculuk talebi beklediğini hayal edin. Bir istek gelir ve yakındaki bir robo-taksi sürücüsüz araba, biniciyi almak için yanaşır. Sürücü nereye gitmek istediğini belirtir ve AI sürüş sistemi oraya ulaşmak için bir yol çizer. AI sürüş sistemi daha sonra otonom aracı istenen hedefe sürmeye devam ediyor.

Bunların hepsi iyi görünüyor.

İşte ifade edilen ayık bir korku.

AI sürüş sisteminin, daha fazla ezilen mahallelerden kaçınan bir yol tasarlamayı seçtiğini varsayalım. Navigasyon çiziminin yalnızca en az mesafe veya belki de en kısa süre gibi en uygun yolu temel alacağını varsayabilirsiniz. Belki, belki değil.

Diğer faktörler, kendi kendini süren arabanın suçla dolu yerler olarak hesaplanabilecek yerlerden geçme olasılığı olabilir. Otonom araca ve yolculara yönelik tehlikenin hangi yolu izlemesi gerektiği göz önünde bulunduruluyor olabilir.

Kendi kendini süren arabaların daha yoksul veya ezilmiş topluluklardan neredeyse her zaman ayrılmaz bir şekilde kaçınacağı konusunda elle sıkma var. Kendi kendini süren arabalara binen insanlar, şehirlerinde veya kasabalarında bu tür yerlerin bulunduğunu asla fark etmeyecek gibi görünüyor. Bu da muhtemelen onları bu tür toplulukların ihtiyaçlarından habersiz hale getirecektir. Üstelik, bu bölgelerde yaşayanlar, uygun fiyatlı olsa bile, nadiren kendi kendine giden bir araba kullanma fırsatı bulabilirler. Hesapla kendilerini bu bölgelerin dışında tuttukları için, aralarında dolaşan herhangi bir robo-taksi olmayacaktı.

Bu önyargı, AI'nın geliştiriciler tarafından kasıtlı olarak programlanması nedeniyle mi ortaya çıkacak?

Mutlaka öyle olmasa da olabilir.

Belki de bu önyargı, Makine Öğrenimi ve Derin Öğrenmenin kullanımından kaynaklanmaktadır?

Tabii, düşünülen bir ihtimal.

AI sürüş sistemi, bir yolun haritasını çıkarırken nerede devam edileceğine ilişkin eğitim için verileri kullanan ML/DL'ye dayalı olabilir. Bu veriler belirli alanlardan kaçınılması etrafında şekillendiyse, ML/DL muhtemelen böyle bir kalıbı algılar ve onunla ilerler. Zamanla, sürücüsüz arabalar devre dışı kaldıkça bu tür verilerin daha fazla biriktiği varsayılırsa, daha sonra güncellemeler ve bakım için kullanılan veriler aynı uydurulmuş kalıpları daha da güçlendirecektir.

Bir önceki kalıbın kullanımı tekrar tekrar yerine oturtulduğunda, bir tür kartopu veya sürekli dönen bir etki olarak kalıpların birleştiğini söyleyebilirsiniz.

Bir bakıma, nereye sürüleceğine dair bu görünüşteki önyargının, olası bir AI politik eğiliminin nasıl ortaya çıkabileceğinin bir örneği olduğunu yorumlayabilirsiniz. Bir bakış açısı, AI'nın bu tercihte azalmadan devam etmesine izin vermek olacaktır. Bir diğeri, AI'yı kasıtlı olarak kapsam dışı kalıpla eşleşen alanlara sürmek için revize etmek olabilir; bir kez daha, AI'ya belki de politik olarak eğilimli bir duruşun aşılandığını iddia edebilirsiniz.

Hepsi söylendi, AI ya sergileyen Şeylerin siyasetiyle ilgili herhangi bir benzerliği olup olmadığına (ki bu, duyusal olarak böyle değildir) bakılmaksızın, politik bir eğilimdir ya da en azından öyle algılanır.

Sonuç

Bu tür örneklerden çokça verilebilir.

Kendi kendini süren araba bağlamında kalacağım ve size başka bir hızlı örnek vereceğim. Bir sürücünün yapay zeka sürücüsüz araba robo-taksi ile asansör talep ettiğini ve bunu şehir merkezindeki adliyede gerçekleşen siyasi bir mitinge gitmek için yaptığını varsayalım. AI sürüş sistemi, sürücüyü oraya götürmeyi reddediyor.

Neden?

Bir varış noktası olarak siyasi mitingler hakkında toplanan önceki verilerin, kendi kendini süren arabaların trafik karmaşasına yakalandığını gösterdiğini hayal edin. Bunun, trafikte uzun bekleme süreleri ve bu bekleme süreleri için daha az ücret talep etmesi nedeniyle sürücüsüz arabaların sürücülerden daha az para kazanabileceği anlamına geldiğini varsayalım. ML/DL kullanmak gibi bir AI algoritması, siyasi mitinglere gitmenin ekşi bir para kazanma seçeneği olduğunu hesaplamalı olarak belirleyebilir. Bu nedenle, bir siyasi mitinge gitmek için robo-taksi talepleri ortaya çıktığında, talep reddedilir.

Sanırım bunun nasıl politik olarak motive edilmiş bir seçim olarak görülebileceğini anlayabilirsiniz. AI herhangi bir konuşma biçiminde doğrudan herhangi bir siyasi güdü kullanmasa da, her halükarda siyasi bir seçim yapıyor gibi görünüyor.

Çok yakında yapay zekanın siyasi eğilimleri hakkında siyasi bir tepkiyle karşı karşıya kalacağımıza dair en düşük fiyatınıza bahse girebilirsiniz. Kelimelerimi işaretle!

Sözcüklerden bahsetmişken, ünlü Yunan şair ve oyun yazarı Aristophanes, her taşın altında bir politikacının gizlendiğini iddia etti. Bugünün dünyasında, her AI sisteminde, bilseniz de bilmeseniz de, politik olarak gömülü bir eğilimin şüphe götürmez bir şansı vardır.

Şu taşları çevirmeye başlasan iyi olur.