.png){kind=small}
おいらもたまにやるんだけどね。メソッドの再帰呼び出し処理を書いて、肝心の抜ける判定をきちんと書かずに動かしたら、プログラムが暴走して落ちちゃった…とか。
高度なプログラム言語や実行環境だと、プログラムの暴走を察知して止めたりできるけれど、組み込み制御プログラムなんかは、直接駆動系と繋がっていて、例えOSが存在して察知したとしても、止める前に致命的な暴走を起こしたりするのかもしれない。人間が現実世界で危険だと思うような状況ってのは、条件として書こうとするとなかなか難しいのだ。制限を付ければ付ける程、現実的な運用が難しくなるし。一方で制限を無くすと、時速180kmで暴走を始めたとしても止まらなくなるし。
事故でセンサーが壊れると、出力された異常値を元にしてプラグラムが暴走を始めるが、それを異常だと認識できるのは人間の状況判断のみであって、プログラムはセンサーを疑うことはできない。
─ この世に魔法は存在しない。
- 元記事
-
【恐怖】EVタクシーが暴走…時速188kmで“ブレーキ利かず” 信号待ちの車に激突し250ｍ飛ばされる 韓国・テグ
https://www.fnn.jp/articles/-/592711
.png)
0 件のコメント:
コメントを投稿