|
嵌入式系统越来越多地接管了以前为人类保留的复杂控制任务。嵌入式系统中的人工智能主题——无论是微控制器、FPGA 还是专用硬件——正在获得令人印象深刻的势头，例如在汽车领域。同时，连接性和云服务是交换和处理这一过程中产生的数据的关键技术。2020 年嵌入式世界大会的座右铭“连接嵌入式智能”令人印象深刻地强调了这一趋势。
这对开发和技术管理意味着什么？虽然IEC61508或ISO26262等已建立的过程模型和标准可用于经典控制应用领域的经典安全应用，开发人员和项目经理可以作为指南，但未来的复杂算法将带来新的挑战。技术上可行的与允许或应该允许的之间的差距目前正在迅速扩大。
例如，如何证明一个自学系统可能会根据“学习曲线”而有所不同？由于智能嵌入式系统的复杂性和动态性明显更高，人们将不得不在开发和认证中考虑新的方法和策略，这肯定会导致显着增加的工作量，尤其是在第一个项目中。以下示例将说明这一挑战。
虽然在 ABS/ESP 系统中监控车轮速度仍然相对容易实现，但要评估用于障碍物检测的摄像机图像的正确性要复杂得多。不久前，一辆特斯拉因卡车防水油布无法识别而发生的严重事故表明，这种对数据的误解可能会产生巨大的影响。天气、交通状况，尤其是非自动驾驶车辆的驾驶风格等动态变量如何影响算法？在俄亥俄州哥伦布市更轻松的环境中学习其驾驶体验的算法能否将这种体验转移到纽约或孟买的密集城市场景中？或者我们需要算法的驾驶执照？
自动驾驶的例子也展示了未来软件测试令人兴奋的挑战。当前的标准要求证明足够的测试覆盖率。但是什么时候对系统进行了充分的测试呢？特别是当系统的功能更多地依赖于“学习”的真实数据而不是实现的逻辑时。
目前的提议到目前为止只有人工智能系统能够监控安全关键的人工智能算法。Alexa 或 Siri 可以监控我目前所在的飞机或自动导航车辆的想法引起了一定的不安，至少对我来说是这样。如果仅靠人类无法掌握此类系统的复杂性（或者出于成本原因不想掌握它们，例如波音公司的 MCAS 系统所显示的当前示例），那么人造 AI 怎么能做到呢？
除了这些技术问题之外，还出现了道德和责任方面的其他新挑战。是否允许算法决定车辆在危险情况下碾过谁以及应该避开谁？虽然在这种情况下汽车司机可以调用所谓的“紧急决策”，但这种论证对于智能算法来说是相当无效的。在很多律师看来，责任尚未最终明确。
更大的挑战是信息安全领域。越来越多的嵌入式系统具有与云的接口，可用于参数化和更新系统。特别是对于复杂的系统，这些接口是绝对必要的，以便在出现错误时可以快速安装更新。可以预料，这种无线更新在未来的智能系统中将变得更加重要，因为越来越多的错误只能在现场检测到。
此外，还有一种趋势是将计算密集型任务从嵌入式系统外包到云端，并使用这些计算操作的结果来控制关键组件。
不幸的是，这些接口为黑客提供了一个可能的目标，在最坏的情况下，他们可以操纵整个车队或工厂。如果这样的接口可用于干预安全关键功能，情况就会变得特别严重。这意味着信息安全在未来将被赋予更高的优先级，而安全性将从一开始就成为一项基本的架构要求。
因此，现代微控制器越来越多地提供基于硬件的加密模块。借助这些功能，可以为开放式智能系统开发安全概念，使攻击更加困难并限制负面影响。然而，目前的分析表明，在发现和利用弱点之前，此类系统只能被认为是安全的几年。不幸的是，这通常发生得比产品的生命周期所需的要快。与此同时，关于量子计算机的第一份报告即将出现，这可能很快会让今天的安全概念看起来很陈旧。即使在未来几年内，黑客可以获取此类硬件是意料之中的事——?特别是在工业应用领域，不幸的是，也有一些政府机构并不总是只有良好的意图。
以下内容适用于功能安全和信息安全：两者都必须从一开始就考虑在内，之后使系统“安全”是行不通的。
|