ternence

【ADI 工程师博客】功能安全与人工智能

ternence 在 2018-7-11 建立的討論區

作者:Tom-M

 

这可能是我最短的博客。人工智能有很多名称,包括机器学习。识别手写字的系统不被称为AI,而是光学字符识别系统。另一方面,深度学习也是一种AI技术。AI可以是许多系统的一部分,但其本身并不是目的。

 

不管怎么样,下面是通用功能安全标准IEC 61508-3中的重要指南。

 

图片1.png

 

在任何大于SIL 1的SIL级别,不推荐使用AI。对于SIL 1,既不推荐或也不说不推荐。对于指南,不推荐的定义是在 IEC 61508-3:2010 的附录A中给出。

图片2.png

 

反对AI的一个主要意见是它过于复杂。功能安全喜欢简单。引自《可靠系统的软件》一书。我搜索了这本书,但找不到这句引言。我搜索了一下,在《代码完成》一书中找到了,出自C. A. R. Hoare——“软件设计有两种方法:一种是使其非常简单,因而显然没有缺陷;另一种是使其非常复杂,因而没有明显缺陷”。我明白他们的观点,深度学习算法可能需要让汽车撞树5万次之后,才会发现这是一个坏主意。而骑三轮车的小孩一般只需撞一两次就会得出结论。非确定性对安全性是难以接受的。从上面的书中再引一句话——“开发人员必须熟悉最佳实践,只有理由充分时才能偏离这些实践”。

 

在汽车功能安全标准ISO 26262中,我没有发现任何地方提到AI,因此理论上关于汽车的指南要回到IEC 61508标准。然而,新的汽车技术中似乎广泛使用AI。我还没有阅读ISO 26262修订版2全文(预计2018年发布),但我必须与ADI公司负责汽车功能安全的同事讨论此问题。也许AI只提供驾驶辅助,而不是用于安全应用。也许它会被新的SOTIF标准(预期功能的安全性)以某种方式覆盖。我认为AI的好处可能变得非常大,上述指南将不得不改变。事实上,IEC 61508-7:2010 C.3.9条款提出了这样的愿望:“在一个系统的不同通道中,监督行动可由基于人工智能(AI)的系统提供非常有效的支持”。

 

今天的视频选择有很多可能性。在我写这篇文章的那一周,发生了SpaceX重型火箭发射和侧推进器着陆等事件。Elon Musk是积极警告AI存在危险的人之一(通过Google可搜索到一长串相关文章)。我可能应该选择《2001太空漫游》之类的东西,但我选择了《红矮星号》中的对讲机。也许不是Elon所警告的,但谁知道呢,或许他确实看过《红矮星号》呢?毕竟他显然看过《银河系漫游指南》。

 

下次将讨论功能安全与安防。

結果