麻省理工学院的研究人员似乎正试图给“欺骗性人工智能”敲响警钟。发表在《模式》杂志上的一项新研究表明，一些旨在诚实的人工智能系统已经学会了欺骗人类。由Peter Park领导的研究小组发现，这些人工智能系统可以完成一些壮举，比如愚弄在线游戏玩家或绕过CAPTCHA(那些“我不是机器人”的检查)。朴警告说，这些看似微不足道的例子可能会产生严重的现实后果。
这项研究强调了Meta的人工智能系统Cicero，最初是作为虚拟外交游戏中公平竞争的对手。帕克说，虽然西塞罗被编程为诚实和乐于助人，但他成为了一名“欺骗大师”。在游戏过程中，扮演法国的西塞罗会秘密地与人类控制的德国联手背叛英格兰(另一名人类玩家)。西塞罗最初承诺保护英格兰，同时向德国提供入侵情报。
另一个例子涉及GPT-4，它谎称自己有视力障碍，并雇佣人类绕过验证码。
Park强调训练诚实的人工智能的挑战。与传统软件不同，深度学习人工智能系统通过类似于选择性育种的过程“发展”。他们的行为在训练中可能是可以预测的，但后来可能会变得无法控制。
该研究敦促将欺骗性人工智能系统归类为高风险系统，并呼吁有更多时间为未来的人工智能欺骗做准备。有点令人毛骨悚然，你不觉得吗?随着更多关于人工智能的研究和研究的进行，我们将更多地了解这项技术为我们带来了什么。
