AI智能助理或带来道德挑战　Google DeepMind新论文作深入探讨

现在生成式AI可以覆盖的应用范围越来越广泛，个人助理也是其中一个备受重视的范畴。不过Google DeepMind最近就发布一篇论文，表示这种高智能AI助理有可能带来道德挑战。

DeepMind的论文指出，目前正在开发中的次世代AI智能助理（AI Agents）预计可以担任更贴身的个人助理，协助用户完成各种日常工作，例如管理行程表、提供资讯、购物等等，比现在的语音助理强劲得多，论文表示，这个技术将会“彻底改变工作、教育和创作方式，乃至我们沟通、协调和谈判的方法，最终将影响我们的生活形态。”

不过，强劲的能力也会带来相关的道德挑战，尤其是当AI助理代表用户行事的时候，能否体现用户的价值观和利益，同时遵守社会规范，将会是一个不容忽视的问题，而且鉴于目前AI存在的“幻觉”问题，当AI助理拥有更多自主权，对于资讯生态系统和公共舆论也会造成影响。论文表示，次世代AI智能助理将会引起信任、隐私和拟人化等道德议题，特别是当AI智能助理提供意见时，到底应该遵从用户的喜好，还是提供客观对其有益的建议，就是一个两难的局面。