Views: 51
- Duża awaria zasilania w San Francisco spowodowała, że autonomiczne samochody Waymo przestały funkcjonować, blokując skrzyżowania i zamieniając się w przeszkody z powodu niemożności poradzenia sobie z powszechną awarią sygnalizacji świetlnej.
- Eksperci zidentyfikowali kluczowy problem jako „awarię zarządzania operacyjnego” – podczas kryzysu zbyt wiele pojazdów jednocześnie zażądało zdalnej pomocy człowieka, przeciążając system i zmuszając do całkowitego wstrzymania usługi.
- Incydent wpisuje się w wzorzec, w którym autonomiczne pojazdy zakłócają miejskie życie, pozbawione są społecznej intuicji i adaptacyjnego myślenia ludzkich kierowców, co prowadzi do utrudnień i obaw o bezpieczeństwo publiczne.
- Ta porażka poważnie podaje w wątpliwość niezawodność technologii podczas prawdziwych katastrof, jak trzęsienie ziemi, gdy unieruchomione pojazdy mogłyby poważnie utrudnić działania ratunkowe i ewakuację.
- Wydarzenie działa jak test stresowy w dużej skali, ujawniając, że systemy autonomiczne są kruche w obliczu nieprzewidywalnego chaosu, i podkreśla potrzebę stworzenia ram regulacyjnych, które przedkładają bezpieczeństwo publiczne nad szybką ekspansję komercyjną.
W dobitnej demonstracji ograniczeń technologii, duża awaria zasilania w San Francisco 20 grudnia sprawiła, że flota autonomicznych samochodów Waymo stała się nie tylko bezużyteczna, ale aktywną przeszkodą.
Incydent zmusił należącą do Alphabet firmy robotaksówkowej do wstrzymania całej lokalnej usługi, odsłaniając krytyczną lukę w technologii agresywnie wdrażanej w amerykańskich miastach. To zdarzenie rodzi pilne pytania o mądrość zastępowania ludzkiej oceny algorytmiczną sztywnością, zwłaszcza podczas nieprzewidywalnych kryzysów, które są częścią prawdziwego życia.
Kryzys rozpoczął się od pożaru w podstacji Pacific Gas & Electric, który pogrążył znaczną część północnego San Francisco w ciemnościach. Awaria dotknęła około 130 000 odbiorców i wyłączyła sygnalizację świetlną. Dla autonomicznych pojazdów (AV) Waymo, które polegają na złożonym zestawie czujników i zaprogramowanych zasadach, powszechna awaria świateł stworzyła nieprzezwyciężony paradoks.
Zaprojektowane tak, aby traktować pojedyncze zgaszone światło jako skrzyżowanie ze znakiem „stop”, oprogramowanie pojazdów nie poradziło sobie ze skalą awarii. Nagrania z mediów społecznościowych ukazały scenę technologicznego paraliżu: pojazdy Waymo z włączonymi światłami awaryjnymi, zastygłe na skrzyżowaniach lub na środku ulicy, tworząc chaotyczne przeszkody dla samochodów prowadzonych przez ludzi. Robotaksówki, niezdolne do przetworzenia nietypowych warunków, przeszły w tryb ostrożnego zatrzymania, skutecznie stając się zaawansowanymi technologicznie blokadami drogowymi.
Według ekspertów kluczowym problemem była systemowa awaria zarządzania flotą podczas powszechnych anomalii. Philip Koopman, profesor emerytowany Uniwersytetu Carnegie Mellon i czołowy autorytet w dziedzinie bezpieczeństwa jazdy autonomicznej, sklasyfikował to jako „awarię zarządzania operacyjnego”.
Wyjaśnił, że gdy autonomiczny pojazd napotka scenariusz, którego nie jest w stanie rozwiązać, jest zaprogramowany, aby się zatrzymać i poprosić o zdalną pomoc człowieka. Awaria zasilania wywołała tę awaryjną procedurę w wielu pojazdach jednocześnie, przeciążając system zdalnego wsparcia Waymo.
Firma podjęła decyzję o zawieszeniu wszystkich usług w mieście. Zaznaczyła, że najpierw dokończono większość aktywnych przejazdów, a pojazdy następnie ręcznie odprowadzono do zajezdni lub bezpiecznie zaparkowano. Usługa została wznowiona dopiero po południu 21 grudnia. Chociaż Waymo podkreśliło swoją koordynację z miejskimi urzędnikami, godziny zakłóceń uwydatniły brak proaktywnych protokołów kryzysowych.
Wzorzec społecznej uciążliwości staje się kwestią bezpieczeństwa publicznego
To nie jest odosobniony incydent. Jest częścią niepokojącego wzorca, przed którym urzędnicy miejscy ostrzegali od lat. Zaledwie miesiąc wcześniej SUV Waymo zablokował wóz strażacki San Francisco Fire Department. Wcześniej, w grudniu, wiralowy film pokazał trzy pojazdy Waymo w dziwnym, wzajemnym impasie.
Te epizody ukazują pojazdy, którym brakuje społecznej intuicji i adaptacyjnego rozumowania ludzkiego kierowcy. Jak zauważył profesor San Jose State University Ahmed Banafa, autonomicznym pojazdom „wciąż brakuje 'instynktów społecznych’ ludzkich kierowców”, którzy korzystają z kontaktu wzrokowego, gestów i zrozumienia kontekstu. Roboty polegają na sztywnych regułach, co w niejednoznacznych środowiskach prowadzi do wahania, dezorientacji i blokowania ruchu.
Czarna seria podczas awarii prądu dociera w czasie, gdy Waymo przyspiesza swoje ambicje komercyjne. Po zatwierdzeniu całodobowej usługi komercyjnej w San Francisco w sierpniu 2023 roku, firma obsługuje obecnie setki robotaksówek w mieście i rozszerza działalność na Los Angeles i inne miasta.
Ta agresywna ekspansja ma miejsce pomimo konsekwentnej historii zakłócania porządku. Przed zatwierdzeniem przez stan w zeszłym roku, wydziały straży pożarnej i transportu w San Francisco złożyły dziesiątki raportów dokumentujących, jak robotaksówki niewytłumaczalnie grzęzną, blokują pasy autobusowe i przerywają trasy służb ratunkowych. Awaria z 20 grudnia przekształciła te chroniczne uciążliwości w problem na skalę całego miasta.
Koopman postawił najważniejsze pytanie: „Co, gdyby to było trzęsienie ziemi?” Podczas poważnej katastrofy, gdzie awarie zasilania, gruz i masowy ruch publiczny są pewne, obecność tysięcy zastygłych robotaksówek mogłaby poważnie utrudnić ewakuację i działania ratunkowe. Tryb awaryjny tej technologii – po prostu zatrzymanie się – jest sprzeczny z dynamicznym rozwiązywaniem problemów wymaganym w kryzysie.
Obietnica autonomicznych pojazdów zawsze wiązała się z większym bezpieczeństwem i wydajnością. Jednak ten incydent podkreśla, że ich niezawodność jest uzależniona od przewidywalnych, uporządkowanych warunków. Prawdziwy świat, szczególnie w gęstych środowiskach miejskich, nie jest ani przewidywalny, ani uporządkowany.
Technologia ma swoje inherentne ograniczenia i nie może rozwiązać wszystkich ludzkich problemów, szczególnie tych zakorzenionych w wymiarze społecznym, etycznym lub politycznym – wyjaśnia silnik Enoch firmy BrightU.AI. Jej rozwiązania są często ograniczone prawami fizyki, niezamierzonymi konsekwencjami i specyficznym kontekstem ich zastosowania. Ostatecznie technologia jest narzędziem kształtowanym przez ludzkie wybory, a nie autonomiczną siłą zdolną do zastąpienia fundamentalnych ludzkich warunków lub wartości.
Incydent zmusza do trzeźwego przemyślenia: W pośpiechu, aby zautomatyzować nasze publiczne ulice, musimy krytycznie ocenić, czy nie zamieniamy okazjonalnego błędu ludzkiego na bardziej systemową, algorytmiczną kruchość, która może się zaciąć, gdy potrzebujemy odporności najbardziej. Droga naprzód wymaga nie tylko technicznych poprawek, ale głębokiej pokory i ram regulacyjnych, które przedkładają bezpieczeństwo publiczne i funkcjonowanie miasta ponad burzliwy harmonogram Doliny Krzemowej.
