优地科技董事长卢鹰:关注对机器人隐私的保护

“人工智能伦理是一个非常有意思的话题,从长远来看,应制定相应的法规,促进AI产业高质量发展。”深圳优地科技有限企业董事长卢鹰日前接受记者采访时表示,在关注保护人的隐私的同时,更要关注对机器人本身隐私的保护。

关注机器人本身隐私太少

“在我看来,人工智能产业的崛起得益于人们借助科技减轻人类劳动强度,提高人类劳动效率。”卢鹰说,优地科技的使命是“让劳动者不再劳累”,其关注的方向就是提高劳动效率,并且把人类从劳动中解放出来。

他说,与大量使用人脸识别技术的AI产品不同,优地科技专注基于无人驾驶的配送工作,研发生产的机器人可以实现自主定位、自主导航、自主避障、自主乘梯。“从目前来看,优地机器人不需要采集个人信息,只要通过‘视觉’发现障碍物或计算人头数就行了,所以基本不涉及个人隐私。”

但这并非没有AI伦理的问题。卢鹰给记者讲了一个很有趣的故事。“前一段,优地科技发布第三代机器人。”他说,第三代机器人有两款:优小妹三代、优小弟三代。优小妹三代主要负责引导和小件物品配送,相当于服务员;优小弟三代主要负责比较重的物品配送,比如给KTV包间运送成件的酒。

卢鹰在朋友圈发了“他们俩”的照片,并在配文中说,到底是优小妹更漂亮呢,还是优小弟更帅?结果有朋友跟他来了一句:干脆让他们俩结婚吧!卢鹰回了一句:这不行啊,这个有违伦理,它们是兄妹嘛,怎么能结婚呢?“从这个角度来看,大家比较关注对人类隐私的保护,却很少关注对机器人本身隐私的保护。”他说。

机器人“犯错误”后果很严重

“关注AI伦理,应不仅仅限于个人隐私的保护、利用及管理,实际上这对机器人来讲,也有一个伦理问题。”卢鹰认为,这里包括机器人和人的关系、机器人和机器人的伦理关系。

“机器人的管理、协调,特别是数据安全特别重要。”他说,从一开始就要注意的是数据安全。“AI本身可能有些是不动的,比如数据分析、云端的东西。”他说,但越来越多的智能终端是独立的,工作或活动在社会的各个角落。这些机器人的行动,或者是工作所需要的一部分资源,需要和其他机器人或人类共享。

“机器人日常工作的数据需要实时上报,这不是人的信息,是机器人的信息,也是机器人的隐私信息。”卢鹰说,它干了多少活,出了多少毛病,它的工作效率,它遇到的一些困难,这些行为数据都是实时收集的,是它的隐私信息。

同时,机器人在工作过程中要调取云端地图、决策常识等资源,以及对机器人的控制信息,都涉及到机器人本身的隐私。卢鹰认为,对机器人控制的信息最敏感,甚至很危险。“一旦控制它的人类或是系统发生了错误,或是恶意入侵,机器人‘犯错误’后果就会很严重。”他举例说,比如自动驾驶车辆,本来正常情况下好好开的,但被恶意的控制入侵的话,它可能会去撞人,引发交通事故。

需出台法规引领行业发展

“目前,由于人工智能处于早期发展阶段,无论是企业,还是相关政府部门,尚未出台一些规范或者立法保护AI产业的健康发展。”卢鹰表示,目前,人机通信、机器与机器之间的通信没有规范进行保护,数据的敏感程度没有做分级。

“不能说所有的信息都要加密,所有的信息都要最高等级保护,但我个人认为,人工智能信息数据要做一个分级。”他表示,有些没有那么危险或敏感的信息,加密安全措施可以稍微放松,以利于使用和成本控制,但一些核心的高度敏感信息,应该严格加密,这样才能既平衡成本,又平衡效率。

他特别提到,有关部门应重视AI伦理和整个产业,及早部署,出台有关政策、法规,做好信息分级、管控,在保护好AI体系安全的同时,引领行业健康发展。“有关政府部门应出于保护来做相关引导和立法,这有利于中国在这方面走到全球的前面。”


深圳特区报   2019-9-25 12:24:20
XML 地图 | Sitemap 地图