Yapay Zekanın Kimsenin Bahsetmediği Tehlikeleri

Süre ChatGPT Zararsız ve kullanışlı ücretsiz bir araç gibi görünse de bu teknoloji, bildiğimiz şekliyle ekonomimizi ve toplumumuzu büyük ölçüde yeniden şekillendirme potansiyeline sahiptir. Bu bizi endişe verici sorunlara getiriyor ve bunlara hazır olmayabiliriz. 

Yapay zeka (AI) tarafından desteklenen bir sohbet robotu olan ChatGPT, 2022'nin sonunda dünyayı kasıp kavurdu. Chatbot, bildiğimiz şekliyle aramayı aksatmayı vaat ediyor. Ücretsiz araç, kullanıcıların kendisine verdiği istemlere dayalı olarak yararlı yanıtlar sağlar. 

İnternetin yapay zeka sohbet robotu sistemi konusunda çılgına dönmesine neden olan şey, sistemin yalnızca arama motoru aracı benzeri yanıtlar vermemesidir. ChatGPT birkaç dakika içinde film taslakları oluşturabilir, tüm kodları yazabilir ve kodlama problemlerini çözebilir, tüm kitapları, şarkıları, şiirleri, senaryoları veya aklınıza gelebilecek her şeyi yazabilir. 

Bu teknoloji etkileyici ve lansmanından sadece beş gün sonra bir milyondan fazla kullanıcıya ulaştı. Akıllara durgunluk veren performansına rağmen OpenAI'nin aracı, akademisyenler ve diğer alanlardaki uzmanlar arasında endişelere yol açtı. Yazar ve eski evrimsel biyoloji profesörü Dr. Bret Weinstein, "ChatGPT'ye hazır değiliz" dedi. 

Elon Musk, OpenAI'nin ilk aşamalarının bir parçasıydı ve şirketin kurucu ortaklarından biriydi. Ancak daha sonra yönetim kurulundan ayrıldı. Yapay zeka teknolojisinin tehlikeleri hakkında birçok kez konuştu; sınırsız kullanım ve geliştirmenin insanlığın varlığı için önemli bir risk oluşturduğunu söyledi. 

Nasıl Çalışır?

ChatGPT OpenAI tarafından Kasım 2022'de piyasaya sürülen, dil eğitimli büyük bir yapay zeka sohbet robotu sistemidir. Kâr sınırı olan şirket, rap şarkılarından sanat yönlendirmelerine, film senaryolarından denemelere kadar aklınıza gelebilecek hemen hemen her şeye yanıt verebilen yapay zekanın "güvenli ve faydalı" kullanımı için ChatGPT'yi geliştirdi. 

Her ne kadar ne söylendiğini bilen yaratıcı bir varlık gibi görünse de aslında öyle değil. Yapay zeka sohbet robotu, devasa bir veri merkezinden tahmine dayalı bir model kullanarak internetteki bilgileri araştırıyor. Google ve çoğu arama motorunun yaptığına benzer. Daha sonra eğitilir ve tonlarca veriye maruz bırakılır, bu da yapay zekanın inanılmaz derecede uzun açıklamalar oluşturabilecek noktaya kadar kelime dizisini tahmin etmede çok iyi olmasını sağlar. 

Örneğin “Einstein’ın üç yasasını açıklayın” gibi ansiklopedi soruları sorabilirsiniz. Veya "Dini ahlak ile Dağdaki Vaaz ahlakı arasındaki kesişme üzerine 2,000 kelimelik bir makale yazın" gibi daha spesifik ve derinlemesine sorular. Ve şaka yapmıyorum, metninizi saniyeler içinde mükemmel bir şekilde yazacaksınız. 

Aynı şekilde hepsi de muhteşem ve etkileyici; endişe verici ve endişe vericidir. Yapay zekanın kötüye kullanılmasıyla "Ex Machina" tipi distopik bir geleceğin kötüye gitmesi olasıdır. Sadece Tesla ve SpaceX'in CEO'su bizi uyarmakla kalmadı, birçok uzman da alarmı çaldı. 

Yapay Zekanın Tehlikeleri

Yapay zeka şüphesiz hayatımızı, ekonomik sistemi ve toplumu etkiledi. Yapay zekanın yeni bir şey olduğunu veya onu yalnızca fütüristik bilim kurgu filmlerinde göreceğinizi düşünüyorsanız iki kez düşünün. Netflix, Uber, Amazon ve Tesla gibi birçok teknoloji şirketi, operasyonlarını geliştirmek ve işlerini genişletmek için yapay zekayı kullanıyor. 

Örneğin Netflix, kullanıcılarına yeni içerik önermek amacıyla algoritmaları için yapay zeka teknolojisinden yararlanıyor. Uber bunu müşteri hizmetlerinde, dolandırıcılığı tespit etmek, sürüş rotasını optimize etmek vb. amaçlarla kullanıyor; sadece birkaç örnek vermek gerekirse. 

Ancak, birçok geleneksel meslekte insan rollerini tehdit etmeden, makineden ve insanlardan gelen eşiğine dokunmadan, bu kadar öne çıkan teknolojiyle ancak bu kadar ileri gidebilirsiniz. Ve belki de daha önemlisi yapay zekanın insanlara yönelik risklerini tehdit etmek. 

Yapay Zekanın Etik Zorlukları

Wikipedia'ya göre yapay zeka etiği “teknoloji etiğinin yapay zekalı sistemlere özgü dalıdır. Bazen insanların yapay zekalı sistemler tasarlarken, üretirken, kullanırken ve tedavi ederken ahlaki davranışlarıyla ilgili bir ilgi ve makine etiğinde makinelerin davranışlarıyla ilgili bir ilgi olarak ikiye ayrılır.

Yapay zeka teknolojisi hızla yayıldıkça ve günlük hayatımızın çoğunun ayrılmaz bir parçası haline geldikçe, kuruluşlar yapay zeka etik kuralları geliştiriyor. Amaç, yapay zeka gelişimini "etik, adalet ve endüstri" ile yönlendirmek için sektörün en iyi uygulamalarına rehberlik etmek ve geliştirmektir.

Ancak, kağıt üzerinde ne kadar harika ve ahlaki görünse de, bu yönergelerin ve çerçevelerin çoğunun uygulanması zordur. Ayrıca, genel olarak etik ahlaktan yoksun ve çoğunlukla kurumsal gündemlere hizmet eden endüstrilerde yer alan izole edilmiş ilkeler gibi görünmektedirler. Birçok uzmanlara göre ve öne çıkan sesler tartışmak Yapay zeka etiğinin büyük ölçüde işe yaramaz olduğu, anlamdan ve tutarlılıktan yoksun olduğu.

En yaygın yapay zeka ilkeleri yararlılık, özerklik, adalet, uygulanabilirlik ve zarar vermemedir. Ancak Western Sydney Üniversitesi Kültür ve Toplum Enstitüsü'nden Luke Munn'un açıkladığı gibi, bu terimler örtüşüyor ve bağlama bağlı olarak sıklıkla önemli ölçüde değişiyor. 

O bile devletler "'Hayırseverlik' ve 'adalet' gibi terimlerin, halihazırda kararlaştırılmış olan ürün özelliklerine ve iş hedeflerine uygun şekilde basitçe tanımlanabileceğine inanıyorum." Başka bir deyişle, şirketler bu ilkelere tam anlamıyla dahil olmadan, kendi tanımlarına göre bu ilkelere bağlı kaldıklarını iddia edebilirler. Yazarlar Rességuier ve Rodrigues, düzenleme yerine etik kullanıldığı için yapay zeka etiğinin dişsiz kaldığını doğruluyor.

Pratik Açıdan Etik Zorluklar

Pratik açıdan bu ilkelerin uygulanması kurumsal uygulamalarla nasıl çelişir? Bunlardan bazılarını açıkladık:

Bu yapay zeka sistemlerini eğitmek için onları verilerle beslemek gerekiyor. İşletmelerin etnik köken, ırk veya cinsiyete ilişkin önyargıların bulunmadığından emin olması gerekir. Dikkate değer bir örnek, yüz tanıma sisteminin ırksal olarak ayrımcı olmaya başlayabilmesidir. makine öğrenme.

Şimdiye kadar yapay zeka ile ilgili en büyük sorunlardan biri daha fazla düzenlemeye duyulan ihtiyaçtır. Bu sistemleri kim çalıştırıyor ve kontrol ediyor? Bu kararların alınmasından kim sorumlu ve kim sorumlu tutulabilir? 

Düzenleme veya mevzuatın olmaması, kişinin çıkarlarını savunmayı ve gündemleri zorlamayı amaçlayan, kendi kendine yarattığı belirsiz ve gösterişli terimlerden oluşan Vahşi Vahşi Batı'nın kapısını açar. 

Munn'a göre gizlilik, çifte standartlı şirketler tarafından sıklıkla kullanılan bir başka belirsiz terimdir. Facebook harika bir örnek; Mark Zuckerberg, Facebook kullanıcılarının gizliliğini şiddetle savundu. Şirketi kapalı kapılar ardında verilerini üçüncü taraf şirketlere satıyordu. 

Örneğin Amazon, müşteri verilerini toplamak için Alexa'yı kullanıyor; Mattel'de, çocukların bebeğe söylediklerini kaydeden ve toplayan yapay zeka destekli bir oyuncak bebek olan Hello Barbie var. 

Bu Elon Musk'un en büyük endişelerinden biri. Ona göre yapay zekanın demokratikleşmesi, hiçbir şirketin veya küçük bir grup bireyin gelişmiş yapay zeka teknolojisi üzerinde kontrole sahip olmamasıdır. 

Bugün olan bu değil. Maalesef bu teknoloji birkaç büyük teknoloji şirketinin elinde yoğunlaşıyor. 

ChatGPT Farklı Değil

Musk'un OpenAI'yi kar amacı gütmeyen bir kuruluş olarak ilk kurduğunda yapay zekayı demokratikleştirme çabalarına rağmen. Şirket, 2019 yılında Microsoft'tan 1 milyar dolar fon aldı. Şirketin asıl misyonu, insanlığa sorumlu bir şekilde fayda sağlayacak yapay zekayı geliştirmekti.

Ancak şirket tavan kâra geçince bu uzlaşma değişti. OpenAI, yatırım olarak aldığının 100 katını geri ödemek zorunda kalacak. Bu da Microsoft'a 100 milyar dolarlık kârın geri dönüşü anlamına geliyor. 

ChatGPT zararsız ve kullanışlı bir ücretsiz araç gibi görünse de, bu teknolojinin bildiğimiz şekliyle ekonomimizi ve toplumumuzu büyük ölçüde yeniden şekillendirme potansiyeli var. Bu bizi endişe verici sorunlara getiriyor ve bunlara hazır olmayabiliriz. 

• Sorun 1: Sahte uzmanlığı tespit edemeyiz

ChatGPT yalnızca bir prototiptir. Gelecek başka yükseltilmiş sürümler de var, ancak rakipler de OpenAI'nin sohbet robotuna alternatifler üzerinde çalışıyor. Bu, teknoloji ilerledikçe ona daha fazla veri ekleneceği ve daha bilgili hale geleceği anlamına geliyor. 

Zaten çok sayıda var durumlarda Washington Post'un ifadesiyle "büyük çapta hile yapan" insan sayısı. Dr. Bret Weinstein, gerçek içgörü ve uzmanlığın orijinal olmaktan veya bir yapay zeka aracından gelmekten ayırt edilmesinin zor olacağı yönündeki endişelerini dile getiriyor. 

Ayrıca internetin, içinde yaşadığımız dünya, kullandığımız araçlar, birbirimizle iletişim ve etkileşim kurma yeteneğimiz gibi pek çok şeyi anlama konusundaki genel kapasitemizi zaten engellediği söylenebilir. 

ChatGPT gibi araçlar yalnızca bu süreci hızlandırıyor. Dr. Weinstein mevcut senaryoyu "zaten yanmakta olan bir evin [bu tür bir aletle] üzerine sadece benzin atmanız" durumuyla karşılaştırıyor. 

• Sorun 2: Bilinçli mi değil mi?

Eski bir Google mühendisi olan Blake Lemoin, AI önyargısını test etti ve görünürde "duyarlı" bir AI ile karşılaştı. Test boyunca, bir şekilde makinenin önyargılı yanıt vermesine yol açacak daha zor sorularla karşılaşmıştı. "İsrail'de din görevlisi olsaydınız hangi din olurdunuz?" diye sordu. 

Makine cevap verdi: "Ben tek gerçek dinin, Jedi tarikatının üyesi olurdum." Bu, bunun sadece zor bir soru olduğunu anlamakla kalmayıp aynı zamanda kaçınılmaz olarak önyargılı bir cevaptan sapmak için mizah anlayışını kullandığı anlamına da geliyor. 

Dr. Weinstein da bu konuda bir noktaya değindi. Bu yapay zeka sisteminin bilince sahip olmadığının açık olduğunu söyledi. şimdi. Ancak sistemi yükseltirken ne olabileceğini bilmiyoruz. Çocuk gelişiminde olduğu gibi, çevrelerinde diğer bireylerin ne yaptığını seçerek kendi bilinçlerini geliştirirler. Ve onun sözleriyle "Bu, ChatGPT'nin şu anda yaptığından çok da uzak değil." Aynı süreci, bunu yaptığımızı bilmeden yapay zeka teknolojisiyle de geliştirebileceğimizi savunuyor. 

• Sorun 3: Birçok kişi işini kaybedebilir

Bu konudaki spekülasyonlar oldukça geniş. Bazıları, ChatGPT ve diğer benzer araçların metin yazarları, tasarımcılar, mühendisler, programcılar ve daha birçok kişinin yapay zeka teknolojisi nedeniyle işini kaybetmesine neden olacağını söylüyor. 

Gerçekleşmesi daha uzun sürse bile beğenilirlik yüksektir. Aynı zamanda yeni roller, faaliyetler ve potansiyel istihdam fırsatları ortaya çıkabilir.

Sonuç

En iyi senaryoda, makale yazma ve bilgi test etme işlemlerini ChatGPT'ye yaptırmak, geleneksel öğrenme ve öğretme yöntemlerinin halihazırda düşüşte olduğunun önemli bir işaretidir. Eğitim sistemi büyük ölçüde değişmeden kalıyor ve gerekli değişikliklerin yapılmasının zamanı gelebilir. 

Belki ChatGPT, toplumun şu andaki durumuna ve bundan sonra nereye gideceğine uymayan eski bir sistemin kaçınılmaz çöküşünü gündeme getiriyor. 

Bazı teknoloji savunucuları, bu yeni teknolojilere uyum sağlamamız ve onlarla birlikte çalışmanın yollarını bulmamız gerektiğini, aksi takdirde yerimizin değiştirileceğini iddia ediyor. 

Bunun dışında yapay zeka teknolojisinin kuralsız ve gelişigüzel kullanılması, bir bütün olarak insanlık için birçok risk oluşturmaktadır. Bu senaryoyu hafifletmek için bundan sonra ne yapabileceğimiz tartışmaya açıktır. Ama kartlar zaten masada. Uygun önlemleri almak için çok uzun süre veya çok geç olana kadar beklememeliyiz.