自動運転トラックと倫理問題

【花房先生執筆コラム】SCM実行系スマートロジスティクスのススメ 第6回

自動運転トラックと倫理問題

ITとIoTが進化を続けて人工知能が現実のものになりつつある。自動走行も様々なセンサーカメラと地図情報、動態認識のシステムによってドライバーを不要とする実験まで進んできた。

間もなく完全自動運転の技術が開放され、ドライバーなしでトラック運行が可能になるだろう。果たしてそうなるか？

大きな課題が残されている。それは自動運行、自動マシンに付き物の事故や災害対応である。「マシンは壊れるもの」という前提に立てば、すべての機械や道具は危険と隣り合わせにある。最大の脅威は原子力発電所だから、未だに安全基準や検査工程が終わらずに起動できていない施設が多い。原発はマシンであり、ロボットや自動運転を行うものではないとしても、航空機並みの自動操縦や運転を行うことができるようになっているはずだ。人という管理者を立ち会わせていたとしても、運転再開には至っていない技術と危機回避問題が身近に存在している。


さて、自動運行を物流トラックに限ってみると、ドライバーの有無やハンドル、操作機器の扱いを含めて完全自動化が可能となるのだろうか。
２つの視点で「完全自動運転は倫理的に実現できない」という主張を整理してみよう。

自動運行を司るものは人工知能であるロボットなのか

人型ロボットをイメージするが、実は手足胴体がなくてもロボットはあるはずである。

映画トランスフォーマーは子どもたちに人気のシリーズ映画であるが、自動車とロボットが変容するシーンには感動すらある。車がついたロボットがレーシングカーであり、トラックだとすれば、自動運行するトラックや自動車もロボットとみなすことが出来るだろう。

人の道徳観念や行動基準に相当するロボットの存在理由を定めるものが、アイザック・アシモフの三原則と呼ばれるものだ。人とロボットの共存をうたい、人の脅威とならないことを宣言している。言葉を変えれば、自走中に搭乗者や道路上の人との衝突を避けられない事態が生じた際、自爆や自損による衝突回避行動をプログラム化できるかどうか、という原則への疑義がある。

第一条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

第三条
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

— 出典：『われはロボット』アイザック・アシモフ著、小尾芙佐訳

もし、道路上の人を避けようとしてドライバーが判断、操作、運転を行い、結果的に自損事故となることは想像できるだろう。それは運行を司るものが最終的にはドライバーであるからであって、もしハンドルやブレーキなどの制御装置が外された自動走行車であるときには、ロボットやAIが運行を司っていることになる。 衝突事故を回避するために自己爆発や自損事故を覚悟することができるのだろうか。

トロッコ問題とロボットによる自己判断の限界

自動走行のレベルという基準を聞いたことがあるだろうか。ドライバーと自動車との運行責任や主導がどちらにあるかを定めるものだ。

【運転支援】　　レベル1　 システムがステアリング操作、加減速のどちらかをサポート
【運転支援】　　レベル2　 システムがステアリング操作、加減速のどちらもサポート
【自動運転】　　レベル3　 特定の場所でシステムが全てを操作、緊急時はドライバーが操作
【自動運転】　　レベル4　 特定の場所でシステムが全てを操作
【完全自動運転】レベル5　 場所の限定なくシステムが全てを操作

現在はレベル2程度の技術が公開され、実用化されているが、レベル5とは完全自動運転のことである。もし、完全に運行と運転や停止がドライバーの判断を離れた時に想定されるのがトロッコ問題という古くからある自動化と倫理問題である。 下記の図は、暴走した列車を止めることができずにいるとき、線路の切り替えによってどちらかに進むことは出来る。ただし、どちらに進んだとしても人との衝突を避けることはできず、命の重さは人数で判断できるかどうか、という質問だ。


災害の最小化のためには〜。
人命に比較はできない〜。
この絶対選択の条件が異質〜。
回避するためには自爆、自損で停止〜。などの回答が想定できるが、正解はない。

するとこちらも自爆や自損という自己破壊が選択肢に上がるが、完全自動化ロボットのような機械が自己破壊することをプログラムに組み込むことが出来るはずがない、という主張の正当性も認められることになる。
もし高速道路上だけでの自動走行運転であれば、このような選択条件は起きうるはずがない、と断言出来るだろうか。

このように自動マシン、ロボット、人手を介さないで運行する危険マシンには、自己破壊緊急ボタンが組み込めるかどうか、という倫理問題を抱えることになる。

人手不足や人の支援に役立つマシンではあるが、万が一の時に人を傷つける恐れが生じたときには自己判断できない、という完全自動化の矛盾を解消するにはまだまだ時間が足りていないのが現状なのだ。

==
本コラムは書籍『スマートロジスティクス ～ IoT と進化する SCM 実行系～』発刊を記念して、
監修者である花房 陵先生にご執筆いただきました。
年明けからは更にパワーアップした新シリーズを執筆していただく予定です。
楽しみにお待ちくださいませ。

＋＋花房　陵

1978年慶大経済学部卒
経営・物流コンサルタントとして30年以上の豊富な実績をもち、
28業種200カ所以上の物流現場を指導してきた。
異業界などの最新トレンドの物流施策を導入・定着させる手腕には定評がある。
ロジスティクス・トレンド（株） 代表取締役、
（株）イーソーコ総合研究所 主席コンサルタント、
協同組合物流情報ネット・イー相談役、ほか多数の物流顧問を務める。

---

弊社の自動配車システムは、物流にかかわる事業者様に広くお使いいただけるよう、
物流現場で見られるあらゆる制約・条件に対応しております。

30日間の無料試用も承っておりますので、お気軽にお問い合わせください。