服务热线
021-68580928
如果机器人因BUG伤害人类,造成人类受伤或死亡,如何界定责任?谁该为此负责?是机器人自身,还是机器人厂商?
这样一个本应存在于《赛博朋克2077》的问题,却出现在现实生活中。前几日上海某知名品牌新能源汽车厂商,出现车闹,关于汽车刹车失灵的拷问,在媒体上集中爆发。
我们应该相信机器人,还是相信人类?
全球大多数新能源汽车品牌,均装有一套先进的电脑系统,被称为博世制动系统,全称为“IPB智能集成制动系统”,它在一定程度上控制新能源汽车的刹车装置。
在谈论刹车失灵这个问题前,我们先谈谈什么是新能源汽车?
传统汽车和新能源汽车最大的不同,不是电池,而是传统汽车是一种机械装置,新能源汽车是一台有望拥有人工智能系统的机器人。
我们现在能够看到的新能源汽车非常原始,只有电脑系统和电池,以及相关电机,在未来的发展过程中,不会太久,仅仅是5~10年的近未来,新能源汽车的系统中就会演变成一个AI系统,由AI操纵汽车。
那么问题就来了,我们应该由AI掌控汽车的全部吗?
如果这台机器人,因不作为使人类受到伤害,我们如何看待其中隐藏的技术伦理风险、法律诉讼风险、负面舆情风险。
接下来,我们再来讲讲某厂的新能源汽车和比亚迪有什么不同。
某厂新能源汽车和比亚迪,有一个共同点,都使用了IPB系统,这套系统直接对刹车制动行为负责。
不过这两家企业,在如何应用这一系统,产生了分歧。
某计划飞火星的车企认为,车辆应该完全由电脑控制,什么情景下刹车,由电脑下达决定。
比亚迪认为,车辆一方面由电脑控制,但会将人工机械刹车作为双重保险选项,一旦系统出现概率极低的BUG,立刻切换成人工刹车模式。
接下来,我们再来谈谈刹车到底是怎么一回事?
当你坐在新能源汽车驾驶舱,经过十字路口,踩下急刹车时,流程是这样的:
脚踩刹车踏板—刹车信号传输—iBooster系统处理数据—输出刹车动作
该系统的好处是刹车更加精准,在大多数情况下,车辆的刹车收放自如,被完美控制。
如果系统一旦出现BUG,系统就有可能混乱,无法即时做出反应。
个人电脑、手机偶尔出现死机的情况,相信大家都有经历过。
如果新能源汽车的自动驾驶系统、刹车制动出现BUG,后果很恐怖。
汽车是一个不同于其他行业的产品,对安全性的要求特别高,对事故是0容忍。
比亚迪汽车已经实现17年的零事故状态,其他某厂最近频繁出现事故,不知道是否与这套刹车制动系统的应用方式有关。
讲诉西方空难调查的纪录片《空中浩劫》谈过这样的案例,波音737MAX出现过一起严重的空难,调查结果显示是因为飞机的电脑系统出现BUG后,飞机失控,导致空难。
工程师了解到真实问题后,将该系列飞机的电脑系统进一步修改,将最终控制权掌握在人类个体手中,在上一个初始版本中,飞机同样可以最终由飞行员控制,但飞行员没有在培训环节学习到这个环节,且操作非常繁琐。
在日后的培训中,飞行员在电脑失控后进行手动控制的方法加入到波音飞行教材中,修改过后的操作方法变得更加简单,将事故率进一步降低。
我并非说某厂的制动系统存在问题,不做任何映射,仅仅只是在探讨一种可能性。
但是这一次的事故,让我们其他人意识到:
比亚迪,无冕之王。
安全,才是一家车企的生命线。
很多人和我一样懵,为什么中美两个国家要发展100多年前就存在过的电动汽车?这是历史在走回头吗?
很多企业明明是互联网公司,却要开发新能源汽车?有些公司明明说了不做新能源车,却暗地里开发了很多年。
如果从电池这个角度理解,会误解新能源车。
新能源车真正的核心是一台计算机,在此基础上演变成一套人工智能系统,由AI做出决策。
新能源车塑造的是一整套全新的生态系统,这套生态系统包含自动驾驶技术,商业航天企业用火箭将卫星发射到外太空,会将观测数据传输到地面,再发送给汽车,让汽车一步到位了解路段拥堵情况。
也存在另一种可能,卫星数据优先将原始数据发送给智慧城市系统,先由智慧城市大脑进行运算,将处理过的数据发送给新能源汽车,由AI进行计算,分配出最好的路线,避免拥堵和事故。
在新能源汽车的系统中,会出现一个操作系统,这样的操作系统从根本上有别于个人电脑、移动手机,其中加入了AI的深度学习、神经网络、随机森林等等概念,可以看作第三代计算机操作系统。
这套系统相比曾经的互联网智能载体,对软件会拥有更大的适配性,在实际开发过程中,可能工程师会用一个“虚拟机”,例如JAVA虚拟机,无视底层架构差异,让应用程序成功跨平台运作。
简单点说,同样的软件可以在手机、电脑、汽车、城市大脑等等系统中运作,实现万物互联。
因此,新能源汽车实际上是物联网场景下的小生态,新能源汽车的诞生,也意味着互联网时代的彻底结束,一个崭新的万物互联的时代正在悄无声息的拉开序幕。
它所引发的产业链爆炸式发展,将引爆一个又一个相关行业,不断延伸。
4月19日比亚迪官网声明,公司新发布的e平台3.0是下一代智能电动车平台,兼具智能、高效、安全、美学的特点,这一次构建了全新的车身结构、电子电气架构和车用操作系统BYDOS。
大家可以把这样的系统,看作为机器人大脑的前身,物联网时代第三代计算机操作系统的集中表现。
4月17日,另一家高科技公司华为,与北汽新能源共同开发一款豪华纯电动轿车阿尔法S,华为提供技术支持,新车推出6个版本,预计2021年第四季度小规模交付。
在几天前,阿尔法S华为HI版本在上海市区进行过短距离真实路况测试,变道、转弯、减速停车、礼让行人等场景均有出现,车辆都能在部分复杂场景下实现精准感知和正确决策,反应流畅。
实际上,这也是一种自动驾驶技术和AI决策相结合的第三代计算机操作系统。
我们必须着眼于现实,目前所有厂商的系统还不能完全被称为第三代操作系统,有一定原因是因为数据不够大,AI需要海量的优质数据,当所有可能性事件全部以数据的形式,输入到AI系统中后,机器才能更好的在现实环境中学习,让AI决策变得更加精确。
华为在最近几年共投入5000人规模的研发团队,今年,华为预计在智能汽车部件业务研发投资达到10亿美金,且每年将以30%的速度继续增长。
2016年左右,刘慈欣在综艺节目里面说,就目前的发展趋势来看,人类面临两条路线,一条是发展VR技术,人类开始追求精神世界的享受,向内发展;另一条路线是大力发展商业航天,人类开始走出地球,向外太空发展。
到了2021年,比较有趣的事情发生了,因为非法数字货币的暴涨,全球投资用掉大量显卡采矿,投资赚钱,堵死了VR发展这条路,因为VR技术需要大量显卡。
精神世界追求不了,莫名点开新能源汽车这条科技树,好在是,这可能是科技树的主干。
全球芯片做的最好的一家美国公司“英伟达”今日发布一款应用于智能汽车和自动驾驶技术的芯片组,命名为“DRIVE Atlan”。
这款跨时代的芯片应用于L4、L5自动驾驶级别,能够更快的运作,自动识别障碍物,控制车辆行驶速度,及时停车,礼让行人。
目前该芯片只是刚刚发布,约在2023年开始向汽车制造商提供样品,2025年左右上市的车型可能会搭载,一些比较激进的汽车制造商可能会在2024年提前使用。
Atlan是业界首款达到1000 TOPS算力的芯片,大家可能不太清楚1000的算力意味着什么。
目前特斯拉的算力是144 TOPS,iPhone12的算力是11TOPS,英伟达的新平台相当于100只iPhone12共同协作,当然具体效率远远高于100台手机。
昨天,苹果公司发布新版平板,知名财经大V疯狂点赞,不停的刷好评,告诉大众这是一台提升工作能力的平台电脑。
然而,除了媒体,普通用户在各大论坛,表示对该平板电脑兴趣不大。
比起当年iPhone4发行的盛况,今天的苹果公司似乎有点寂寞,与这个时代格格不入。
中国汽车工业协会发布最新数据,2021年第1季度,中国新能源汽车生产量和销售量均超过50万辆,市场异常火爆,分别达53.3万辆和51.5万辆。
从细分车型来看,纯电动汽车是市场主力,今年3月,纯电动汽车生产量和销售量分别是18.2万辆和19万辆,明显供小于求,市场需求热烈。
我们继续看一下其他汽车厂商的数据:
1、蔚来汽车完成第10万辆整车下线,其一季度销量较去年同期增长423%,达20060辆;
2、小鹏汽车一季度交付量达13340台,同比增长487%;
3、理想汽车一季度交付12579辆,同比增长334.4%。
据公安部交管局对外公布的统计数据显示,截至2021年3月,全国新能源汽车保有量达551万辆。其中纯电动汽车保有量449万辆,占新能源汽车总量的81.53%。
据中国电动充电基础设施促进联盟统计,截至2021年3月,联盟内成员单位总计上报公共类充电桩约85.1万台。
多方面的数据正在表明,国内消费者对新能源汽车的需求量非常大。
据财经网汽车报道,2020年上汽通用五菱全品牌销量为160万辆,其中五菱品牌全年销量为117.75万辆,实现同比九连增。
国民神车五菱宏光越来越受消费者的喜欢,五菱宏光在2021年上海车展,展示出一款MINIEV敞篷版,内饰和整体车型被重新设计。
五菱宏光成功抓住两个方向的市场:
1、一个是全国农村市场,因为其耐撞,不需要精心保养,也不用考虑路段是否好开,成为各大农村的秋名山车神;
2、另一个是新中产女性市场,mini款车型因车小,形状可爱,颜色吸引人,适用于短途,解决年轻妈妈接送小朋友上学、打麻将、约小姐妹逛街的实际需求。
五菱宏光的缺点显而易见,不适合远途旅行,但这家企业无视这一缺点,反倒在缺点的基础上,抓住现实生活中的实际需求,将缺点转变为特点,成功吸引到消费者下单。
大家想一想啊,五菱宏光,将车变成一种时尚,让每一个辣妈回到18岁,重新点燃少女心,这些新中产有什么理由不买它呢?
消费群体看起来是一群人,但细分下来,每一个亚群体都有自己的身份表达。
比亚迪、某车厂、小鹏、理想、蔚来、北汽华为、五菱宏光,都在用各自的优势,席卷市场,目前没有哪一家处于下风,而是百花齐放。
可能4月初才计划造车的小米,稍稍来迟,晚了2年,不知道能不能变成年轻人的第一辆车,但至少赶上了尾班车。
其他厂商在各自的计划中暗自研究新能源汽车长达数年,无论是比亚迪,还是华为,都不愿意在媒体面前表达自身的想法,这也就意味着新能源汽车研制计划过于重要,重要到决定企业未来的生死,因此转变为商业机密。
大家不用担心国内的消费者不接受新能源车,大部分人都没车,出行实际需求又确实存在,未来的市场大到超乎想象,建议大家不要随便听信大机构发出的市场规模预测,基本上不靠谱。
因为靠谱的预测大概率在华为、比亚迪内部,这是绝对保密的数据调查,不可能对外公布。
依稀记得4月初,某专家在各大权威媒体公然唱衰隆基股份,认为该公司亏损17亿元人民币,结果隆基股份发放的年报表明,第一季盈利25亿元,2020年净盈利为85.52亿元,截至到3月底,隆基股份的货币资金224.50亿元,同期债务不到50亿元。
让某专家的错误预测不攻自破。
回到新能源汽车市场规模的论题上来,建议大家对未来保持想象力,说不定在2030年之前新中产每个人都会拥有一辆新能源汽车,全国各地遍布密密麻麻的电桩。
中国制造业的优势爆发式输出后,新能源汽车毫无疑问会向全世界销售,至少吉利汽车已经在智利等南美国家成为中产的必备代步工具。
新能源汽车制造的惊喜有多少,问题就有多少。
引发的伦理道德风险让法律之外未界定的事故成为难以判定的新担忧。
回到文章开始的讨论,AI制造出来的事故,该由谁承担?
我们跳开某厂的事故,谈谈未来可能出现的事故。
传统汽车厂商与用户的距离较远,在报纸流行的年代,只有非常大的事故才会被广为传播,汽车厂商的精力也集中于大事故,工程师会基于大事故解决问题,至于小问题,就丢给了时间,由未来新进的厂商以竞争为动力改进乘用车的技术。
物联网时代不一样,我们每一个人的信息会在不同的设备之间传播,从电脑,到VR眼镜,到智能家居,到汽车,到所有可能存在的智能设备。
这意味着微小的负面问题会直接传播到舆论的巅峰,促使大家认为厂商没有尽到责任,而厂商有可能会认为某些微小问题不在他们的职责之内。
那么厂商的售后服务,工程师的技术水平,需要纵向延伸到什么程度,才能满足市场的基本需求?
传统汽车厂商,如果面对一个错把刹车当作油门踩的司机,会默认为驾驶员自身错误操纵,导致事故发生。
那么在新能源汽车普及的时代,司机发生类似的事情,舆论会做什么反应呢?
大部分情况下,舆论会支持弱势的一方,有没有一种可能,大多数人会认为汽车厂商错误的设计了不符合人类习惯的操纵系统,导致人受伤,因此,BUG造成的损害需要汽车厂商负责。
如果个人因该事故向法院起诉汽车厂商,在法律上该做什么样的责任判定?
恐怕目前根本没有这样的法律条款吧?
因技术的不确定性,受伤
无法可依。
这可能是当下急需要考虑的事情,等到事故频繁发生后,再增删法律条款,可能已经晚了。
我们能接受个人电脑的死机,但绝对无法接受新能源汽车系统的脑死亡。
从最根本的逻辑出发,AI和人类目前处于相辅相成的初级阶段,但未来的某一天,可能会将系统完全交给AI负责。
如果AI一旦出现各种各样的问题,该怎么办?
例如,当强AI通过海量的数据计算出“认为让某个极其危险的驾驶员意外死亡,能减少未来可能存在的一连串杀人案”,那么,AI系统是否会在刑事犯罪发生前,在车辆行进过程中,先自动撞车自燃?以此保证人类社区的整体安定。
不知道有没有一种可能,近未来的工程师是否有办法将俄裔美籍已故生物化学家阿西莫夫提到的机器人三大定律,以工程学、密码学、计算机学的视角,植入AI系统中。
三大定律如下:
第一,机器人不得伤害人类。
第二,机器人不得因不作为使人类受到伤害。
第三,在严格遵守第一和第二定律的前提下,保护自己不受到伤害。
一切未来科技,在眼下,无异于魔法。
关于未来,新能源汽车产业链可能会有更多的问题需要去解决。
从某种意义上来讲,问题是推动产业发展的原动力。
以上的众多分析所包含的数据,除了来自于新浪财经、德勤等机构还有依托AI决策风控智能系统RiskRaider风险雷达提供的数据。
AI评定一家企业风险,例如特斯拉,给出“关注”的评级,标出重点事件为被执行人、开庭公告。
在舆情监控栏目呈现与商业分析有关的负面报道。
在失信和诉讼方面,也都是由AI提供。
大家作为风控人员,可亲自申请试用帐号,搞清楚一家公司的风险趋势,监控一家企业后,第二天即可看到AI对其做出的风险评级。