谷歌周三(10日)表示,为解决影像造假问题,将把AI生成的影像嵌入识别标签,以利告知用户该影像为AI生成。
影像内嵌的信息无法以肉眼识别,但谷歌搜索等软件可读取并以标签警示用户。
谷歌也会针对所有 AI 生成的图像提供额外信息来防范诈骗,包括:该图像首次上传至搜索引擎的时间,以及该图像是否曾被新闻网站引用过。
谷歌的警示范例写道,AI 生成图片时,下方会直接注明:影像自行标记为 AI 生成,而非事后判定该影响真伪。
谷歌表示,Shutterstock及 Midjourney 都支持这个标记图片的新作法。 这些标记可分类影像、作为算法的媒介。
这是迄今大型科技公司对 AI 生成物进行标记和分类的重大努力。 由于 AI 生成能力强大,无论是文本或图片,都能达到以假乱真的水平,政府与科技工作者曾警告,这恐遭人不法利用,发送垃圾邮件、诈骗或有目的的宣传,以愚弄大众。
例如近期 Midjourney app 上以 AI 生成一张教皇 Francis 身穿时尚冬季大衣的图片被疯狂传阅,部分人误以为该照片为真。