加入收藏 | 设为首页 |

“声”入人心也能“声”出事端,如何破解

隐私 时间:2019-08-23 编辑:太平洋在线 浏览:
近日,人工智能领域发生一个“意外”——某人工智能语音助手硬件产品推出新服务,用户输入的任意文字,都能由极其逼真的明星声音朗读出来。没想到,这一全新应用遭遇恶搞,有用户用定制声音来朗读不雅文本,引发热议,有人担忧:模仿得太像了,这技术会否

  近日,人工智能领域发生一个“意外”——某人工智能语音助手硬件产品推出新服务,用户输入的任意文字,都能由极其逼真的明星声音朗读出来。没想到,这一全新应用遭遇恶搞,有用户用定制声音来朗读不雅文本,引发热议,有人担忧:模仿得太像了,这技术会否成为犯罪的利器?除了声音问题之外,最近当红的换脸APP能轻易制作一段几可乱真的“本人”视频,这是否会对被换脸者造成侵权、如何追责,也引发了争议。

  前沿技术落地却“偏离预定着陆点”引起的困惑不少。有科学家指出,新技术在改变生活的同时,往往也伴随着混乱和破坏。在人工智能技术热潮中,如何在社会伦理和法律规范上做好应对准备,亟待进行冷静思考。

  反制技术并非天衣无缝

  人工智能领域的研究包括机器人、语言识别、图像识别和专家系统等方面。“最近十年,随着芯片计算能力的提高、大数据时代的到来,特别是机器学习技术的重大进展,人工智能技术得到飞速发展,并迅速产业化。”上海大学计算机学院智能科学与技术系副主任岳晓冬说。

  他首先解释语音仿真的声纹技术原理,“现在的技术范畴内,采集一部分声音形成数据集,分析其频调、特征后,人工智能技术可以通过类似渲染的方法,模仿本人声音发出任意语段。”目前在地图导航APP、天气预报APP等已经较为普及的“明星语音包”,也是采用这一技术。这次在硬件产品上推出的用户自由定制语音内容的服务,属于前沿应用的一次新拓展。

  很多人不知道的是,在人工智能研发领域,科学家每推进一项技术,其“反向”研发会始终同步进行。打个不恰当的比方,就跟武侠小说里一样,毒药和解药同时炼制。伴随人工智能仿真技术的发展,也催生了一项名为“自然语言处理”的技术,专门用于识别声音、图像、画面、签名,甚至人脸等是否有异常、是否由人工合成等等。不仅如此,一些人工智能技术产生的“机器人”行为,同样可以被识别。他透露,一些外卖APP上之前存在“机器人”虚假点评的情况,目前已经有了克星。

  “不过,这种识别技术的准确率没有达到100%。”他坦言,反制技术并非天衣无缝。

  技术应保持对伦理的敬畏

  与突破技术瓶颈同样关键的,是创新产业的伦理环境,包括大众认知及法律法规的制定。站在人类科学史维度上看,相当一部分技术的发展受限并非囿于“能不能”,而在于“该不该”。生物学、医学学科中都有先例。在技术领域突破性增长的今天,面对的是相似的难题,要破解或绕行,非一朝一夕可成。

  深耕人工智能及虚拟仿真领域的上海医微讯数字科技有限公司,是谷歌眼镜的开发合作伙伴之一。总经理潘耿道出几年前谷歌眼镜被迫转向的幕后故事——2012年,谷歌眼镜作为一款“拓展现实”眼镜横空出世,向世界展示了“增强现实技术”“解放双手”在日常应用中的可能性,业界对此心潮澎湃。许多人认为,这一前所未有的领先技术将完全取代手机,成为生活配件,推动人类社会进入更加智能化的时代。

  然而当产品进入市场,问题浮现:戴着这眼镜,始终有个摄像头对着前方,谈话对象不知道摄像头是否开着,拍了什么,又实时显示着什么信息……这些情况让戴镜者在社交场合遭到抗拒,最初购买的用户渐渐不敢戴出门。设计应用场景下的功能性及由此带来的“酷炫感”,被“不安全感”覆盖,变得不那么酷了。而这个问题在前期产业化进程中,没有人意识到。最终,谷歌眼镜宣布产品方向由原来的普通消费者,向专业领域拓展转向,聚焦于工程、通讯、医疗等方面的应用。

  “技术领域的伦理道德,是一种约定俗成的社会道德边界,深层次来说也是技术对人性的探究。”潘耿说,任何产品、技术再先进也无法逆向而行。谷歌眼镜忽略的,可能是人们对隐私的重视。而对伦理的敬畏,应是人工智能技术不可或缺的,否则可能好心办坏事,甚至受到市场的反噬。再以那款语音定制服务为例,如果在推出服务时,内部设置可以规避不当内容的语言规则及“敏感词”库,则可让新技术更加喜闻乐见。

  分阶段制定人工智能相关法律

  基于伦理及社会管理需求的法律法规,虽然永远滞后于技术,但补位不可或缺。岳晓冬从微观角度提出人工智能在法律上亟待明确的几点:其一,数据隐私的责、权、利归属;其二,如果通过人工智能技术实施诈骗等犯罪,其定性及量刑与传统途径犯罪有何区别;其三,使用人工智能功能时可能产生误伤,如人工智能诊疗出现误诊、语音定制影响明星形象等,使用者、技术提供者等各家责任如何界定;其四,人工智能技术往往伴随前期数据采集及学习模型建立等多重环节,这期间多方利益如何划分。

  一位同济大学专家说,人工智能不同于其他技术,未来,它将对各行各业带来冲击性的变化,由此形成的是技术与社会管理交织的问题。在人工智能成为科学主流发展方向的大背景下,全球都在尝试回答这道题。韩国学者2015年成立“韩国后人类学会”,围绕人工智能伦理从人文学和法学的角度进行研究。近期,欧盟委员会发布人工智能伦理准则,以提升人们对人工智能产业的信任。

  “历史上每一次技术发展,法律都可以充分应对。”上海大学法学院副院长、知识产权学院院长许春明说:“人工智能会不会带来颠覆式的影响?目前来看,还没到这个程度。”他指出,对人工智能相关法律制定的讨论应分为两个阶段。现实是技术还远未达到可以替代人类的程度,依然是工具。因此,现有法律规则大框架依然适用。长远来说,“法律的幻想”也不可或缺,当人工智能真的可以替代人类,它就与以往一切技术都截然不同。技术无论何时都是法律上的客体,而人工智能是否需被界定为法律上的主体,这才是需要讨论的。(解放日报记者 彭德倩)


注:请在转载文章内容时务必注明出处!   

<strong>任何人不得窥视拍摄他人的宾馆房间</strong>

任何人不得窥视拍摄他人的宾馆房间

任何人不得窥视拍摄他人的宾馆房间 8月22日上午,十三届全国人...[详细]

浦东消保委:上海迪士尼不接受调解 坚持翻包检查

浦东消保委:上海迪士尼不接受调解 坚持翻包检查

人民网8月22日电 (陈远丁 黄钰 席莉莉)上海迪士尼乐园(简称上...[详细]