首页 - sky娱乐注册开户 - 波音飞机失事:机器权限不能超越人类控制-sky娱乐

波音飞机失事:机器权限不能超越人类控制-sky娱乐

发布时间:2019-04-08  分类:sky娱乐注册开户  作者:dadiao  浏览:10

波音飞机失事暴露智能软件设计缺陷 机器权限不能超越人类控制 ■顾景超刘海波 当地时间3月10日上午,从埃塞俄比亚飞往肯尼亚在坠机事件中,共有157名船员和乘客遇难。这架坠毁的飞机是一架波音“737MAsky-8”客机。这是该飞机在2018年10月29日印度尼西亚狮子飞机坠毁事件发生后五个月内发生的第二次坠机事故。 初步分析,事故是由于空速管检测到飞机的飞行状态,机载“防失速系统”(MCAS)自动控制飞机完成了潜水,揭露了智能软件设计的缺陷。 在未来的智能操作中,人类将赋予战斗系统一定的权限,允许智能系统自行决策,在特定的操作背景和操作条件下,满足指定的范围,条件或规则。打击攻击和保护等行动。但波音“737MAsky-8”事故警告我们,无论计算机系统的智能决策系统有多先进,其权限分配应始终低于人。 首先,建立人机互信,通过脑波感知,语音命令,手动操作等增强对操作员传达的智能系统意图的理解,使机器与人类形成一致身份。众所周知,在此基础上,可以给出智能操作的相关授权。其次,允许操作终止。如果人与机器之间发生冲突或智能系统之间发生冲突,则必须允许人们及时干预,纠正或终止智能系统的动作。最后,强调最强大的人才。在系统逻辑中,如果多个智能系统相互冲突,则必须将人的可信度置于最高位置,冲突必须由人而不是个别系统决定以解决冲突;如果该人与智能系统发生冲突,则智能系统必须无条件地服从该人发出的指令。通过这种方式,智能系统可以是可信的,可靠的和可用的,以避免悲剧的发生。