1: スタス ★ 2018/05/11(金) 20:59:43.87 ID:CAP_USER9
◆Uberの自動運転カーが女性をはねて死なせた事故はソフトウェアが人物を「誤検知」と判断したためと判明

Uberが開発を進めていた自動運転カーが夜間の公道を走行中に道路を横断していた女性をはねて死なせてしまった事故の調査が進み、事故の原因は自動運転カーのソフトウェアの誤判断に起因するものであったことが明らかになっています。

Uber Finds Deadly Accident Likely Caused By Software Set to Ignore Objects On Road ? The Information
https://www.theinformation.com/articles/uber-finds-deadly-accident-likely-caused-by-software-set-to-ignore-objects-on-road

Report: Software bug led to death in Uber’s self-driving crash | Ars Technica
https://arstechnica.com/tech-policy/2018/05/report-software-bug-led-to-death-in-ubers-self-driving-crash/

内部の事情に詳しい2人の情報提供者からの情報をもとにThe InformationのAmir Efrati記者が報じた内容によると、事故の際にUberの自動運転カーのソフトウェアは横断者を認識していたものの、「false positive(誤検知)」だと判断して減速や回避をとらず、そのまま跳ね飛ばしてしまったとのこと。

自動運転カーのソフトウェアにとって、実在する物体と錯覚的に存在するように見えるだけの物体を見分けることは重要な課題であり、車両や歩行者、道路に落ちた大きな石などを極めて高い精度で検知することが求められます。

しかし一方で、風に飛ばされてきたビニール袋や道路脇の空き缶など、安全性にそれほど影響がないと判断できる物体も道路上には存在しており、その見分けを行うことも安全かつ効率的に公道を走行するために重要な要素です。

ここには、安全と効率のトレードオフが存在します。

もし、車両のソフトウェアが注意深くなりすぎると何ら問題のない空き缶や新聞紙にまで反応してしまい、まともに走行することができなくなります。

逆に、検知を甘くすると多少の障害物には文字どおり「目もくれず」ガシガシと走り続けられるようになりますが、本当に避けなければならない障害物にぶつかってしまうことも起こりえます。

そして今回の事故では、まさにその障害物が道路を横断していた女性だったというわけです。


00_m (2)

GIGAZINE 2018年05月08日 13時00分
https://gigazine.net/news/20180508-uber-fatal-crush-software-bug/

引用元 http://asahi.5ch.net/test/read.cgi/newsplus/1526039983/

スポンサードリンク


2: 名無しさん@1周年 2018/05/11(金) 21:02:23.75 ID:u8yt3u7Q0
安全と効率のトレードオフは当然想定していたはずで、故意に効率を優先した結果。
ほぼほぼ故意の殺人と言っていい。

3: 名無しさん@1周年 2018/05/11(金) 21:02:42.60 ID:RKsiKo4s0
>>1

判別ソフトウェアが、このレベルなのに公道試験するとはおかしいw

8: 名無しさん@1周年 2018/05/11(金) 21:06:11.17 ID:rXnWjgYi0
普通こういう物は過剰なくらい安全方向に余裕を持たせるもんなんだけどな
テスト走行なら快適性以前の問題
間違いなく判断ができるくらい学習データを重ねてからこういうのは緩めるもんだ

10: 名無しさん@1周年 2018/05/11(金) 21:06:56.31 ID:uJ8UQrcy0
ソフトなんてバグはつきものだし人間の判断と同じようになんて
100%無理だからどこかで足切りしなきゃだし
その時の責任は全部メーカーがかぶりますってことになると
自動運転なんて成り立たなさそうだよな

12: 名無しさん@1周年 2018/05/11(金) 21:09:00.60 ID:fXN51SDV0
テストだからなぁ
怖いけどどこまでオッケーか試してたのはあるかもな

でも動画見たけどあれ運転手がハンドル持ってても半分ぐらいの確率で轢く事案だと思うわ

15: 名無しさん@1周年 2018/05/11(金) 21:11:15.94 ID:u93sfDnsO
自動ドアにもなかなか認識してもらえないお前らはこの車にも轢かれる

16: 名無しさん@1周年 2018/05/11(金) 21:11:20.30 ID:KrCS4oOk0
>>1
あれ動画観たらわかるけど
あんな近い距離で女が車道に出てきたら
AIだろうが人間だろうがどうしようもない
ブレーキ踏んでも車は急に止まれない
物理法則は変えられないから無理だ

24: 名無しさん@1周年 2018/05/11(金) 21:20:13.27 ID:P3y9A1Ek0
>>16
馬鹿だろお前

人間なら回避できてたよ
動画はコントラストで印象操作してるだけ。
人間の目なら見えてるし、そもそもあんなスピード夜間で出さないしハイビーム出してる

47: 名無しさん@1周年 2018/05/11(金) 22:03:34.59 ID:LIYYtN8i0
>>16
今回、そのブレーキさえ踏まれていない、踏む気?さえなかったのが問題
まぁ、情報提供者の情報通りならの話しだけどね

17: 名無しさん@1周年 2018/05/11(金) 21:11:34.57 ID:9m5HJVN+0
性能高すぎて性能悪いのか

23: 名無しさん@1周年 2018/05/11(金) 21:18:45.15 ID:5wC9hsrp0
ぶっちゃけ、普通の車で実験するのがイカれてる。
事故ってもダメージが少ないような、バイクサイズの実験用機体を用意しろよ

25: 名無しさん@1周年 2018/05/11(金) 21:21:25.37 ID:uAgjuyj20
始めのころは感度高めに設定していたが、誤動作が大杉て感度を下げていた?
感度/特異度は自動運転を実現する上で、かなり深刻な問題になりそう。

29: 名無しさん@1周年 2018/05/11(金) 21:23:58.89 ID:Rdfdipga0
AI車が事故ると中からロボットがでてきて倒れた人にBLSやるのか?

38: 名無しさん@1周年 2018/05/11(金) 21:40:38.77 ID:Ib0IvGo4O
>>29
そこまでやるならロボットに車を運転させた方が良い

中途半端なんだよ、救助義務は人間、下手すると事故の責任も人間(所有者か同乗者)になる

32: 名無しさん@1周年 2018/05/11(金) 21:32:33.39 ID:XlSa7lZf0
「何よりも安全を最優先します」とか標榜している企業に限って、とことん効率を追求してる

33: 名無しさん@1周年 2018/05/11(金) 21:33:52.65 ID:sFgR3fNs0
自動運転で公道走らそうと本気で思ってるほうがマジキチ

どうしてもやるなら電車みたいに人が入ってこれないガードレールが必要

回避する対象が人間である限りこの手の開発は失敗する

39: 名無しさん@1周年 2018/05/11(金) 21:40:51.15 ID:4wWRpnzW0
人間で言うと「まさかそんな事はないな」って思ったって事か
人間の作ったもんだし、不完全なのも宜なるかな

50: 名無しさん@1周年 2018/05/11(金) 22:08:21.65 ID:DiWEw7/J0
自転車を押してたので人間とも自転車とも形状認識できなかったか

53: 名無しさん@1周年 2018/05/11(金) 22:23:38.20 ID:yM4VKgoi0
人間プラス自転車サイズの障害物を仮にビニール袋だったとしても突っ込む選択は有り得ない。
実質的にはレーンキープしかさせてなかったんだろ。
人にブレーキ踏ませるつもりで。

54: 名無しさん@1周年 2018/05/11(金) 22:48:04.06 ID:zieZZ3Pc0
>>53
単眼カメラやから距離が見えないんや、シルエットだけで判断したからやろな、サーモーを使っても同じ…解像度から余計に悪いかな、
ワシも片目やから良くわかるわ、シルエットだけで判断しとるからなぁ、あと車間を取って地面を視界に入れるとものすごく楽やなんよ だからテールライトしか見えない夜は怖い、
流石にウーバーは 距離や対象物の大きさの判断に 地面を使う芸は出来んやろな、

56: 名無しさん@1周年 2018/05/11(金) 22:52:48.05 ID:0aqcWGPH0
出てくるほうが悪いんだから引いちゃえって判断したんかな