OpenAI, Google DeepMind ve Anthropic CEO'ları da dahil olmak üzere düzinelerce yapay zeka (AI) uzmanı, geçtiğimiz günlerde Center for AI Safety (CAIS) tarafından yayınlanan bir açık bildiriye imza attı.
Hemen bir açıklama yaptık:
"Yapay zekanın yok olma riskini azaltmak, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerin yanı sıra küresel bir öncelik olmalıdır."
İmzacılar arasında Hinton, Bengio, Altman, Hassabis, Song vb. yer almaktadır.https://t.co/N9f6hs4bpa
(1 / 6)
— Dan Hendrycks (@DanHendrycks) Mayıs 30, 2023
Açıklama tek bir cümle içeriyor:
"Yapay zekanın yok olma riskini azaltmak, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerin yanı sıra küresel bir öncelik olmalıdır."
Belgeyi imzalayanlar arasında, AI'nın “Babası” Geoffrey Hinton da dahil olmak üzere, AI aydınlarının gerçek bir “kim kimdir”; Kaliforniya Üniversitesi, Berkeley'den Stuart Russell; ve Massachusetts Institute of Technology'den Lex Fridman. Müzisyen Grimes da imza sahibidir ve "diğer önemli figürler" kategorisinde listelenmiştir.
İlgili: Müzisyen Grimes, yapay zeka tarafından oluşturulan müzikle 'telif haklarının %50'sini paylaşmaya' istekli
İfade, yüzeyde zararsız görünse de, altta yatan mesaj, AI topluluğunda biraz tartışmalıdır.
Görünüşe göre artan sayıda uzman, mevcut teknolojilerin kaçınılmaz olarak insan türü için varoluşsal bir tehdit oluşturabilecek bir AI sisteminin ortaya çıkmasına veya gelişmesine yol açabileceğine veya olacağına inanıyor.
Ancak görüşlerine, taban tabana zıt görüşlere sahip bir grup uzman tarafından karşı çıkılıyor. Örneğin, meta baş yapay zeka bilimcisi Yann LeCun, birçok kez yapay zekanın kontrol edilemez hale geleceğine inanmadığını belirtti.
Süper insan yapay zekası, varoluşsal riskler listesinin zirvesine yakın değil.
Büyük ölçüde henüz var olmadığı için.Köpek düzeyinde yapay zeka için bile temel bir tasarıma sahip olana kadar (insan düzeyini bırakın), onu nasıl güvenli hale getireceğimizi tartışmak için erken. https://t.co/ClkZxfofV9
- Yann LeCun (@ylecun) Mayıs 30, 2023
Google Brain'in kurucu ortağı ve Baidu'nun eski baş bilim adamı Andrew Ng gibi ona ve "yok olma" retoriğine katılmayan diğerlerine göre yapay zeka sorun değil, yanıttır.
Tartışmanın diğer tarafında, Hinton ve Conjecture CEO'su Connor Leahy gibi uzmanlar, insan düzeyinde yapay zekanın kaçınılmaz olduğuna ve bu nedenle şimdi harekete geçme zamanının geldiğine inanıyor.
Tüm büyük AI laboratuvarlarının başkanları, AGI'den yok olma riskini açıkça kabul eden bu mektubu imzaladı.
İleriye doğru inanılmaz bir adım, bunu bir araya getiren inanılmaz çalışması için Dan'i tebrik ediyoruz ve daha iyi bir gelecek için üzerine düşeni yapan her imza sahibine teşekkür ediyoruz! https://t.co/KDkqWvdJcH
- Connor Leahy (@NPCollapse) Mayıs 30, 2023
Ancak bildiriyi imzalayanların hangi eylemleri talep ettikleri belirsiz. Hemen hemen her büyük yapay zeka şirketinin CEO'ları ve/veya yapay zeka başkanlarının yanı sıra akademi genelinde ünlü bilim adamlarının imza atanlar arasında yer alması, niyetin bu potansiyel olarak tehlikeli sistemlerin gelişimini durdurmak olmadığını açıkça ortaya koyuyor.
Bu ayın başlarında, yukarıda bahsedilen bildiriye imza atanlardan biri olan OpenAI CEO'su Sam Altman, AI yönetmeliğini tartışmak üzere bir Senato duruşması sırasında Kongre huzuruna ilk kez çıktı. İfadesinin çoğunu milletvekillerini endüstrisini düzenlemeye çağırmak için harcadıktan sonra manşetlere taşındı.
Altman'ın kripto para birimini ve şahsiyet kanıtını birleştiren bir proje olan Worldcoin'i de C Serisi fonlamada 115 milyon dolar topladıktan sonra son zamanlarda medya turları yaptı ve üç turdan sonra toplam fonunu 240 milyon dolara çıkardı.
Kaynak: https://cointelegraph.com/news/ai-experts-sign-doc-comparing-risk-of-extinction-from-ai-to-pandemics-nuclear-war