谷歌的巴德聊天机器人是该公司进军人工智能世界的尝试。现在,谷歌CEO桑达尔·皮查伊透露,将对巴德实施限制措施,以防止制造deepfakes可能产生的负面后果。
在接受《60分钟》采访时,皮查伊解释说,如果有人利用这项技术制作一段他传播错误信息的假视频,他会感到紧张。
他解释说:“这看起来可能很准确。但你知道,在社会层面上,它会造成很多伤害。”
他接着表示,尽管他认为这项技术目前是安全的,但该公司只是作为“有限的实验”向用户发布。
皮查伊说:“我们可以在建造之前,在部署更强大的模型之前,开发更强大的安全层。”这并不是他第一次警告人工智能的潜在危险。
在4月份接受《60分钟》采访时,皮查伊呼吁政府对人工智能技术进行监管,尤其是对深度造假的监管,以确保该技术不会被用于错误的原因。
皮查伊当时表示:“我们正在不断开发更好的算法来检测垃圾邮件。”“我们需要对深度造假、音频和视频做同样的事情。随着时间的推移,必须有监管。”