93

发现自主驾驶汽车 AI 系统 Bug 的新方法

 6 years ago
source link: http://www.solidot.org/story?sid=54393
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

发现自主驾驶汽车 AI 系统 Bug 的新方法

pigsrollaroundinthem (39396)发表于 2017年11月06日 17时42分 星期一 新浪微博分享 豆瓣分享 来自公开源代码

绝大多数软件的 bug 不会杀死你，但自主驾驶汽车的 AI 可能是一个例外，错误可能会导致 AI 在错误的时间做出错误的决定。哥伦比亚大学和 Lehigh 大学的研究人员设计的 DeepXplore 方法能在不同神经网络触发尽可能多的冲突决策，系统性的暴露软件错误。比如 DeepXplore 在 Nvidia 的 DAVE-2 自主驾驶软件发现了一个错误，能导致汽车撞上公路上的护栏。研究人员深知，只要恶意的黑客能利用一个 bug，整个系统就仍然是脆弱的。研究人员的测试发现，DeepXplore 在各种深度学习应用中发现了数以千计的以前未知的 Bug。它并不能保证能发现系统的所有 bug。


report

Recommend

About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK