05月

27日

  • 王小川:个人信息泄露和AI仿真造假将是监管方向

    全国政协委员、搜狗公司CEO王小川,这次他向大会提交的两份提案,分别针对人工智能助力扶贫与防范人工智能合成技术造假进行了调研,并提出了建议。

    “之前大家一直在讨论的AI技术伦理问题,其实与现在的我们还有一定的距离。现在需要完善监管的两个方向,一个是数据泄露,一个是AI合成技术造假。”王小川说。

    随着人工智能技术的发展,如今,不管你的相貌还是声音,机器都可以惟妙惟肖地模仿,在职业场景里,这方面的技术可以产生很多正面作用。在未来,这种分身技术,可以让机器能够从事更多的行业,做一些简单的重复性工作,提高我们的工作效率。但目前也出现了一些走偏了的方向,利用合成技术把一个人换成另一个人,甚至做出一些侵犯名誉权的事情,产生了诈骗的可能性。

    现在我们需要完善监管的,主要就是两个方向。一个是防止数据的泄露,因为随着用户开始得到更好的服务体验,机器的个人画像、大数据的捕捉、信息采集等,可能会侵犯到个人隐私。这其实比较难画清具体的边界,就像在医疗领域,你需要把自己的身体状态如实地告诉医生,医生才能给你更好的诊断。因此,如何进行隐私防范,防止数据的泄露,会是很重要的一个监管领域。另外需要注意的,就是刚才提到的通过AI仿真技术来进行欺诈。

意见反馈
返回顶部