Dawn Project videosundan Tesla'nın çocuk şeklindeki bir kuklaya vurduğunu gösteren klip.
Şafak Projesi
A son video Tesla'dan
O'Dowd sık sık Tesla FSD'nin yasaklanmasını istediğini yazdı. Daha önce onun kampanyasını anlatmıştım. ve kısa süre önce yalnızca Tesla karşıtı FSD kampanya reklamları yayınlamak için Kaliforniya Senatosu adaylığına aday oldu. Doğal olarak Elon Musk'un ve Tesla yanlısı topluluğun öfkesini artırdı. Bu nedenle hemen tartışma yaşandı. Yukarıda bağlantısı verilen orijinal video, FSD'nin etkin olduğunu göstermiyordu, ancak daha sonraki sürümler öyle olduğunu gösterdi. Bazıları, okunması zor ekran görüntülerinin sürücünün pedalı basılı tuttuğunu gösterdiğini öne sürdü. Diğer veriler arabanın yavaşladığını veya uyarı verdiğini gösteriyor ve gösterinin ne kadar gerçek olduğuna dair tartışmalar ileri geri gidiyor.
REKLAM
Hiçbir şey arabaların çocuklara çarpmasından daha korkutucu olmadığı için gösteri provokatif olarak seçildi. ABD'de her gün 3 çocuk araba kazalarında ölüyor ve her yıl yaklaşık 170 çocuk yaya otomobillerin çarpması sonucu hayatını kaybediyor. Birçoğunun tepkisi, bir çocuğun üzerinden geçebilecek hiçbir teknolojinin kabul edilemez olduğu yönünde. NHT
Bu konu çok karmaşık ve çok da sıra dışı olmadığı için kimse konuyu tam olarak doğru anlayamıyor. FSD sistemi, her ne kadar beta olarak adlandırılsa da, daha doğrusu prototip olarak adlandırılıyor. Çoğu geliştiricinin görüşüne göre, sürücüsüz prototipler (ve betalar) yolda büyük miktarda teste ihtiyaç duyuyor ve her ekip bunu, insan "güvenlik sürücülerinin" sistemi izlemesi ve hataları önlemek için hata yaptığında düzenli olarak müdahale etmesiyle yapıyor. Tesla, sıradan müşterilerin bu teste katılmasına izin vermesi açısından alışılmadık bir durum; diğer tüm şirketlerin bu görevi belirli düzeyde eğitimli çalışanları var ve genellikle araç başına 2 çalışanı var.
Prototipler, yoldaki yayaları durdurmak gibi önemli şeyler de dahil olmak üzere, doğaları gereği başarısız oluyor. Waymo gibi en iyisinden en kötüsüne kadar her takım, müdahale dışında düzenli olarak ciddi şekilde kötü şeyler yapacak araçları yollara koydu.ve çoğu, bu tür erken aşamadaki araçların test edilmesinin, ilerleme kaydetmek ve sonunda arabaları konuşlandırmak için gerekli olduğunu ve hala gerekli olduğunu düşünüyor. Araçlar konuşlandırıldıktan sonra çok daha kaliteli olacak ve hayat kurtaracak (birçoğu) dolayısıyla herkes bu dağıtımın mümkün olan en kısa sürede gerçekleşmesini istiyor ancak bu noktaya nasıl ulaşacağımız ve ne zaman ulaşacağımız konusunda tartışılacak birçok konu var. BT.
REKLAM
Sürücü Asistanı ve Kendi Kendine Sürüş Karşılaştırması
Tesla'nın prototiplerini test etmek için müşterileri kullanmasının iyi bir fikir olup olmadığı sorusuna ek olarak, pek çok sorun, bir insanın tamamen sürüşe dahil olduğu, ancak fiziksel olarak hareket etmek yerine sistemi denetleyen sürücü destek sistemleri arasındaki fark etrafında dönüyor. insan denetiminin gerekli olmadığı kontroller ve kendi kendine sürüş sistemleri (ve aslında araç, içinde kimse yokken de çalışabilir).
Sektördeki pek çok kişi, bunların oldukça farklı iki şey olduğunu ve NHTSA'nın bunları otomasyon teknolojisinin yalnızca iki farklı "seviyesi" olarak ilan etmesinin bir hata olduğunu düşünüyor. Aurora otonom sürüş sisteminin kurucu ortağı Sterling Anderson, sürücü yardımından (veya gelişmiş sürücü desteği için ADAS'tan) kendi kendine sürüşe geçişin, daha uzun merdivenler inşa ederek aya ulaşmaya çalışmak gibi olduğunu düşünüyor.
Bir kişinin ayaklarını pedallardan çekmesine olanak tanıyan ilk büyük gelişmiş sürücü destek sistemi hız sabitleyici, özellikle de uyarlanabilir hız sabitleyiciydi. Daha sonra ellerinizi direksiyondan çekmenizi sağlayan şerit takip özelliği geldi ve çok geçmeden ikisi Tesla "Otomatik Pilot" gibi ürünlerde birleştirildi. ADAS (sürücü asistanı) araçları olarak bunların tam dikkatle kullanılması amaçlanmıştır.
REKLAM
Başlangıçta herkes buna inanmasa da bugün genel kanı bu sistemlerin çalıştığı ve yolda tehlike yaratmadığı yönünde. İnsanlar ilk başta temel hız sabitleyiciden bile şüpheliydi, ancak kısa süre sonra arabalarda çok yaygın bir özellik haline geldi.
Tesla Autopilot çeşitli nedenlerden dolayı yeni sorular ortaya attı, ancak en ilginç konu, daha basit hız kontrolleri de dahil olmak üzere işlevsellik açısından önceki ürünlere göre açıkça üstün olduğu gerçeği etrafında dönüyor; ancak bu üstünlük onu aslında daha tehlikeli ve dolayısıyla daha aşağı hale getirebilir. Garip bir paradoks ortaya çıkıyor; sistem ne kadar iyi olursa sonuç da o kadar kötü olabilir, çünkü üstün sistem, denetçi sürücünün yola daha az dikkat ettiği bir "otomasyon rehavetine" neden olur. (Bazıları Tesla'nın "Otomatik pilot" ve FSD adlarının da bu rahatlığı teşvik ettiğine ve bu ürünlerle ilgili kamuya açık mesajların da bunu yaptığına inanıyor.)
Bu iyi bir paradoks değil. Daha iyi sistemler geliştirmek istiyoruz, ancak bir sistem siz onu iyileştirdikçe genel olarak daha da kötüleşirse, işlerin iyileşmeden önce daha da kötüye gittiği bir tehlike vadisinde seyahat ederken gerçekten iyi sistemlere sahip olmak çok daha zordur. Bugün standart bir hız sabitleyiciyi bir çocuğa çarpacağı veya kırmızı ışıkta geçeceği için asla suçlayamayız; bu sistemler çok daha basitti ve bu hataları önleme konusunda hiçbir kapasiteye sahip değildi. Ancak çoğu kişi, %100 durmadığı için çoğu engele karşı duran çok daha üstün sistemi suçlamak ister; her ne kadar hiçbir sistem %100 hatalardan kaçınacak kadar mükemmel olmasa da ve insanlar da mükemmel olmasa da.
REKLAM
Yollarda test yaptıkları sırada bir Uber ATG arabası
Getty Images üzerinden AFP
Dünyanın ilk otonom sürüş test yasalarının Nevada ve Kaliforniya'da hazırlanmasına katıldım. Oyuncular, yollarda testlerin nasıl yapılacağına ilişkin bazı temel kuralların olması gerektiği konusunda hemfikirdi (tabii ki kimse bunu yapmayı düşünmediğinden önceki kurallar bunu yasaklamıyordu). Aynı zamanda, ADAS aletleri satan otomobil üreticileri de, ADAS araçlarının otonom sürüş testi düzenlemelerine tabi olmasını istemiyorlar, bu nedenle ADAS operasyonu bu düzenlemelerin kapsamına girmeyecek şekilde düzenlendi.
Özellikle Kaliforniya'da bu durum açık bir soru yarattı. Tüm kendi kendine sürüş testleri (birkaç yeni istisna dışında) denetleyici bir güvenlik sürücüsü ile yapılır. Bu şekilde bir ADAS arabasını sürmeye çok benziyor. Bazı ilginç durumlar yaratan ayrım konusunda kanunda netlik yoktu. Yönetmeliklerin hazırlanmasına da katılan Anthony Levandowski, daha sonra Uber'in başkanı oldu.
REKLAM
DMV, eğer sürücüsüz bir sistem yapmaya çalışıyorsanız, denetim gerektiren ve her zaman denetlenen, henüz tamamlanmamış bir sistem olmasına rağmen, kurallara göre yönetilen bir sürücüsüz test şirketi olarak görülmeniz gerektiği yaklaşımını benimsedi.
Buna rağmen Tesla aynı yaklaşımı sürdürüyor. Tesla'nın kesinlikle bir ADAS ürünü olduğu için hiçbir zaman kendi kendine sürüş testi yaptıklarını devlete bildirmiyorlar. Şu ana kadar DMV bu durumun kaymasına izin verdi; hatta Tesla FSD'nin Tesla çalışanları tarafından test edilmesi bile, bunu Uber'in yapmasını engelledikleri şeyle ayırt etmek çok zor. DMV bunu pekala düzenleyebilir. Peki ya resmi olarak (küçük yazıları okuyup adını görmezden gelirseniz) bir sürücü destek aracı olan müşteri kullanımına ne dersiniz?
Ama işe yarıyor gibi görünüyor
Bunun ana çözümü, denetimin dikkatinin yüksek kalmasını sağlamanın yolları olmuştur. Bunun için, sürücüyü çeşitli şekillerde izlemek ve dikkat etmiyorlarsa dırdır etmek veya belirtildiği gibi eğitimli profesyonel sürücülere veya hatta yolda birden fazla gözü olan onlardan oluşan bir ekibe sahip olmak da dahil olmak üzere çeşitli teknikler vardır. Onlarca yıldır genç yaştaki sürücüleri, direksiyonu tutabilen ve arabayı durdurmak için kendi frenine sahip bir eğitmenle sürücü okullarında eğittik ve bu sistem çok iyi çalıştı.
REKLAM
Şu ana kadar varılan güçlü sonuç bunun işe yaradığıdır. Waymo gibi büyük otonom sürüş şirketlerinin güvenlik sicili örnek niteliğindedir. Waymo, 20'de güvenlik sürücüleri ile 2021 milyon kilometreden fazla test yapıldığını bildirdi ve bu süre zarfında muhtemelen 2 hatalı kaza yaşandı. İnsanoğlu bu süre içinde ortalama 40'a yakın kaza geçirecek. Tıpkı sürücü eğitmeni olan sürücü öğrencilerinin yeni ehliyet almış sürücülerden çok daha iyi performans göstermesi gibi, izleme sistemi de açıkça çalışıyor ve bu araçlar aslında sıradan insanların benzer şekilde araç kullanmasına kıyasla halk için daha az risk yaratıyor.
En azından ABD'de eğer kimse zarar görmüyorsa ya da en azından risk düzeyi sıradan araç kullanmanınkinden daha azsa, bir faaliyet genellikle düzenlenmez. ABD'nin yaklaşımı çok daha hoşgörülüdür; yaptığınız şeyin güvenli olduğunu kanıtlamak zorunda değilsiniz, ancak güvenli olmadığı ortaya çıkarsa durdurulabilir ve neden olduğunuz zarardan sorumlu tutulabilirsiniz. Diğer bazı ülkeler, düzenleyicilerin bir şeyin güvenli olup olmadığına önceden karar vermesini gerektirebilir; bu da çok daha yüksek bir çıtadır ve bu da yeniliğe çok daha az olanak sağlar.
Elbette ünlü bir vakada, Uber ATG'nin aracı Arizona'da bir yayayı öldürdüğünde, güvenlik sürücüsü yaklaşımı ölümle sonuçlandı. NTSB soruşturması ve daha sonraki davalar güvenlik sürücüsünün ihmalkar olduğunu ortaya çıkardı (işini yapmak yerine TV izliyordu), ancak Uber de bu hataya katkıda bulunan güvenlik sürücülerini yönetme konusunda zayıf bir kültüre sahip olduğu için hatalıydı. Ancak önemli sonuç şu ki Güvenlik sürücüsü sistemi çalışıyor ve halkı aşırı riske atmıyorAncak insan güvenliğine yönelik sürücülerin ihmalkar olması ve yüksek riske neden olması elbette mümkündür.
REKLAM
Eğitimli ücretli sürücülerin olduğu sistem budur. Tesla daha da ileri gidiyor ve işi sıradan müşterilere yaptırıyor. Tesla sürücülerinin Autopilot ürününü denetleme konusunda açıkça ihmalkar davrandığı ve ölümcül olanlar da dahil olmak üzere kazaların meydana geldiği bir dizi olay yaşandı. Ancak Tesla arabaları, Otopilot ile herhangi bir kendi kendine sürüş ekibinin yaptığından çok daha fazla kilometre kat ediyor; bu nedenle olumsuz ve hatta trajik olayların varlığı, sistemin halkı daha büyük riske maruz bıraktığının mutlaka kanıtı değildir.
Her üç ayda bir Tesla, bazı Autopilot kullanıcılarının ihmalkar olmasına rağmen, Autopilot kullanan sürücülerin kullanmayanlara göre daha iyi güvenlik kayıtlarına sahip olduğunu belirten yanıltıcı istatistikler yayınlıyor. Bu rakamlar yalanla eş değerde olsa da, Ben ve diğerleri gerçek sayıları tersine çevirmeye çalıştık, Gerçek rakamlar o kadar da kötü değil ve Autopilot kullanıcılarının, kullanmayanlarla benzer bir güvenlik geçmişine sahip olduğunu gösteriyor. Üstün olmasa da insanları ek riske maruz bırakmaz. Sonuç, NHTSA'nın Tesla'nın acil durum araçlarıyla yaptığı kazalarla ilgili bir soruşturma yürütmesine yetecek kadar yakın. İhtiyati yaklaşım mı izleyecekleri yoksa genel güvenlik kayıtlarına mı bakacakları bilinmiyor.
Birçoğu Tesla'nın daha iyi sürücü izlemeyle rekorunu geliştirebileceğini öne sürdü. Standart izleme, sürücünün tekerleğe düzenli olarak kuvvet uygulamasını gerektirir. Diğer şirketler, sürücünün yolu izlediğinden emin olmak için gözlerini izleyen kameralara sahip; eğer Uber ATG bunu yapsaydı, ölümlerini önleyebilirlerdi. Tesla yakın zamanda sürücü bakışlarını izlemeyi de kullanmaya başladı.
REKLAM
Tesla Otopilot güvenliğini normal sürüşe benzer şekilde gösteren hesaplamanın faydacı bir hesaplama olduğunu belirtmek gerekir. Aslında bu, yolu görmezden gelen veya otomasyona kayıtsız kalan küçük bir ihmalkar Autopilot kullanıcıları kadrosu arasındaki daha yüksek kaza oranı ile gayretli olanların daha iyi bir güvenlik sicilinin birleşimidir. Bu konuda felsefi açıdan zor bir zamanımız var; daha fazla insanın daha düşük risk almasına rağmen bazı insanların daha yüksek riske sahip olmasını sağlamaktan hoşlanmıyoruz. Amacımız bu olmasa da, gayretli insanları, ihmalkar olanları korumak için onları daha güvenli hale getiren bir araçtan mahrum bırakacak kadar hoşumuza gitmiyor.
Peki ya FSD?
Yukarıdaki veriler bir nakliye ürünü olan Autopilot ile ilgilidir. Tesla FSD bir nakliye ürünü değildir. Buna “beta” diyorlar (piyasaya sürülmeden önceki son test aşamasında neredeyse tamamlanmış bir ürün) ama hiç de öyle değil. Şimdi bunu deneyen 100,000'den fazla Tesla sahibi var. Bunu kullanabilmek için, sahibinin nihai FSD sisteminin ön siparişini vermek için bir ücret ödemesi (şu anda 15,000 dolara yükseliyor) ve test grubuna kabul edilmek üzere bir tür güvenli sürüş testini geçmesi gerekiyor. Güvenli sürüş testi büyük ölçüde sahtedir ve bu görev için gerçekte ne isteyeceğinizi test etmez, ancak bu, para ödeyen herkesin bu testi alamayacağı anlamına da gelmez.
Sürücüleri, sistemin birçok hatası olduğu ve ADAS gibi sürekli denetime ihtiyaç duyduğu konusunda uyararak, "En kötü zamanda yanlış şeyi yapacak" diyorlar. Bu oldukça açık bir ifade, ancak aynı zamanda "tam otonom sürüş" adı açıkça ADAS'tan farklı bir imajı çağrıştırıyor. Bu sistemle sürüş yaptım ve kendi kendine sürüş sistemi olarak performansının oldukça zayıf olduğuna karar verdim.
REKLAM
Öyle bile olsa, aksi yöndeki sezgilere rağmen Tesla'nın yaklaşımı işe yarıyor gibi görünüyor. 100,000 sürücüyle sistem, milyonlarca kilometrelik bir çalışma sürecinden geçiyor (ancak her sürücünün sistemi ne kadar kullandığına dair kamuya açık bir veri yok.) Ayrıca, FSD'nin test edilmesini içeren herhangi bir kaza hakkında çok sayıda kamu incelemesi yapıldığını da biliyoruz. sistem ve sadece az sayıda küçük olay kamuoyuna açıklandı. Bazı Tesla FSD test uzmanları, yaşadıkları bir kazayı gizleyecek kadar büyük Tesla hayranları olsa da, hiçbirinin açığa çıkmadan önemli sayıda büyük kazanın meydana gelmesi son derece düşük bir ihtimal. Polisin bildirdiği herhangi bir ciddi kaza, özellikle yaralanmalı kazalar, Autopilot'ta olduğu gibi dikkat çekme olasılığı çok yüksektir.
Ama yine de onları görmüyoruz. Bu gerçek bir bilimsel analiz olmasa da Tesla'nın FSD programının şu anda halkı riske atmaması muhtemel görünüyor. Bunun nedeni sistemin ne kadar kötü olduğu olabilir. Çoğu sürücü, mevcut haliyle bu sisteme dikkat etmemenin gerçekten aptalca olacağını biliyor. İyileştikçe bu durumun değişmesi mümkündür. Çok daha ilkel olan temel hız sabitleyiciyi düşünürsek işe yarıyor çünkü kimse onu kullanırken yola dikkat etmeye cesaret edemiyor.
REKLAM
Tesla'nın Adlandırılması
Tesla, ürün adlarıyla kendine yardımcı olmuyor. Birçoğu Autopilot'u isim olarak eleştirdi çünkü (yanlış) kamuoyu algısı, uçak otopilotlarının uçağı kendi başlarına uçurduğu yönünde. Aslında bir uçağın otopilotu, Tesla'nın araba otopilotundan çok ama çok daha basit bir sistemdir ve yalnızca havadayken çarpabileceğiniz her şeyden çok uzakta olduğunuz için işe yarar. Ancak bu, kamuoyundaki yanlış algıyı engellemiyor. FSD ile durum daha da kötü. Henüz kendi kendine sürüş seviyesinde değil, yakın bile değil ve kesinlikle "dolu" değil. Bu kafa karışıklığı Waymo'nun, Tesla'nın bu terimi kamuoyunda yanlış tanımladığı korkusuyla, ürünlerini tanımlamak için otonom sürüş terimini kullanmaktan vazgeçmesine neden oldu.
Tesla'nın ürünleri için daha fazla abartılı reklama ihtiyacı yok. Yapabilecekleri her şeyi satıyorlar. Azaltmak ve gereğinden fazla vermek yerine kasıtlı olarak bu adları kullanmaları kafa karıştırıcıdır. Kendilerini, "her türlü tanıtım iyi bir tanıtımdır" türünden başka bir çok kederden kurtarırlar.
Peki bir Tesla'nın çocuk boyutunda bir kuklaya çarpması sorun olur mu?
Şaşırtıcı cevap “muhtemelen”. Tüm test prototip sistemleri buna benzer şeyler yapacaktır ve prototiplerin tüm testlerini yasaklamanın dışında, çocuklarla çarpışma gibi çağrıştırıcı bir konuda bile mükemmellik talep etmenin bir yolu yoktur. Zamanla milyonlarca hayat kurtaracak çok önemli teknolojinin gelişimini yasaklamayan veya yavaşlatmayan Tesla FSD'yi yasaklayacak bir düzenleyici rejim oluşturmak zordur. Milyonlarca hayat küçük bir şey değil; insanlık tarihinde güvenlik konusunda yaşanan en büyük ilerlemelerden biri olacak.
REKLAM
En fazla bu tür test sistemlerini denetleyenlerin belirli kriterleri karşılamasını sağlayacak şekilde tanımlama yapmaya çalışabiliriz. Daha iyi bir izleme almaları konusunda ısrar edebiliriz (ki Tesla bunu yapıyor). Onlardan profesyonel olmalarını veya bir testi geçmelerini isteyebiliriz, ancak daha sonra bu testleri tanımlayan ve uygulayan bir yapı oluştururuz ki bu da hantal olur. Sadece yazılı bir sınavı geçip sağlık sertifikası alarak direksiyon eğitmeni olabilirsiniz, canlı yetenek testi yapılmaz.
Bununla birlikte, bir prototip sistemi kimin denetleyebileceğine dair bir dizi kural tanımlayabiliriz ve bu, Tesla'nın faaliyetlerini durdurabilir. Ancak bunu yapmak, "ne kadar iyi olursa, ondan o kadar hoşlanmayız" paradoksuna düşmek olacaktır. Daha iyi bir sistem haline gelmek için bu vadiyi geçmeyi zorlaştırmak istemiyoruz. Asıl soru, eğer kimse zarar görmeyecekse neden oraya gitmek isteyebileceğimizdir. Şu anda insanların yaralandığı yönünde bir rapor yok, özellikle de sıradan araç kullanmanın neden olduğu riskten daha fazla risk olduğunu gösterecek düzeyde değil. Tehlikeli olduklarına dair bir sezgiye sahip olduğumuz için bazı şeyleri yasaklama tuzağına düşmek istemiyoruz. Biz sadece gerçekten tehlikeli olan şeyleri yasaklamak istiyoruz.
Tesla FSD testinin daha sonra çok tehlikeli olmaya başlaması oldukça olası. Bunun nedeni otomasyonun rahatlığı veya sistemdeki değişiklikler olabilir. Tesla'dan sistemin testi sırasında kaç olayın meydana geldiğini yetkililere bildirmesinin istenmesi mantıklıdır, böylece tehlikeli hale gelip gelmediğini ve ne zaman tehlikeli hale geldiğini öğrenebiliriz. O'Dowd'un “bunu yasaklamalıyız çünkü bana tehlikeli geliyor” yaklaşımı yanlıştır, en azından ABD'de.
REKLAM
Kaynak: https://www.forbes.com/sites/bradtempleton/2022/08/25/the-argument-over-whether-tesla-fsd-will-run-over-a-child-or-dummy-child- asıl noktayı kaçırıyorum/