早在生成式人工智能（AIGC）、大语言模型走红的2023年年底，就曾有不少从业者预言AI将会成为互联网虚假内容的“制造机”。现实也确实如此，仅仅过去不到两年时间，“AI污染互联网”就已经成为了诸多网友的共识。
作为压实平台主体责任的一环，抖音近日再次出手，“AI抖音求真”功能目前已正式上线。根据抖音方面介绍，当用户浏览到容易产生误解的内容，或是搜索谣言相关的信息时，就能够通过“AI抖音求真”获知事件的完整信息，了解相关辟谣内容。
抖音相关负责人表示，近期已将大模型技术应用于谣言治理，7月以来平台谣言曝光量下降67%。以往的谣言治理往往需要依靠媒体报道或机构发声，有了辟谣信息就能将谣言信息点人工纳入谣言库，并以此为样本，回查、下架和拦截新增的同类谣言内容。
具体来说，“AI抖音求真”依托于抖音训练的“谣言治理大模型”、“资讯大模型”，以及专门的辟谣运营团队，实现了精准定义“内容误导性”、“公共价值”、“可证伪”等谣言特征的能力，做到“化被动为主动”，主动审查平台上到达一定热度的内容，并通过提取视频信息、分析主旨、联网搜索，来完成对内容是否为谣言的风险判断。
当然，“AI抖音求真”也并非万灵药，抖音副总裁李亮就在社交平台上表示，“AI识谣辟谣是一个新尝试，可能还存在一些不准确、覆盖面不够完整的情况，我们会持续提升。也欢迎大家在浏览视频和搜索场景，多体验，多给产品功能提意见。”
兜兜转转一圈后，抖音最终还是选择了“以AI治AI”。作为AI时代的弄潮儿，互联网大厂对于AI的破坏力显然心知肚明。早在此前的百模大战刚刚开打时，抖音、快手、知乎等内容平台就开始要求创作者主动添加“内容由AI生成”的声明。
只可惜，创作者普遍相信一旦打上了这个标签，自己的作品就必然会被限流。其实这种阴谋论在创作者群体中有市场的原因也很简单，因为内容平台对于AI可以说是又爱又恨，既希望AIGC能实现内容的多元化、从而丰富内容池的深度和广度，又不愿意看到低质量的AIGC内容污染自家内容生态。
以彼时AI大模型的水平，绝大多数使用AI生产内容的创作者还很难做出高质量的作品。再加上最初一批准备使用AIGC的创作者往往“目的不纯”，他们对于这个新技术敏感的原因，往往是在上个时代通过“内容农场”赚到钱了。但相比自动化脚本，基于多模态大模型的AIGC与人类创作的界限就更加模糊。
“内容农场”的自动化脚本，也就只能写写“XX到底是怎么回事呢？XX相信大家都很震惊，但是XX到底是怎么回事呢，下面就让小编带大家一起了解吧。”随着网民们被这种生硬呆板的“小编体”拷打多了，自然也就会对其脱敏。再说了，“小编体”由于呆板也很容易被平台的算法过滤。
可反观AIGC，它之所以会出圈，就是因为表达能力与人类实在太过接近。但由此又诞生了另一个问题，那就是为了让AI表现出与人类相似的智能，OpenAI、字节跳动等大厂可谓是穷尽一切，使得AI与人类进入了“安能辨我是雌雄”的状态。
与此同时，流量分成依然是互联网内容平台坚持的政策。既然有利可图，当年做“内容农场”的人现在做“AI农场”也就顺理成章了，可偏偏平台没法自废武功，毕竟取消流量分成会极大打击正常创作者的热情。由于指望消灭无良创作者用AI牟利的企图不太现实，所以平台也就只能尝试用技术手段来解决这个问题。
那么“AI抖音求真”能解决抖音平台的AI虚假内容吗？事实上，这一招在短时间内还只能做到“治标不治本”。因为“AI抖音求真”依托的“谣言治理大模型”是通过联网搜索来判断内容的真假，模型的搜索信源则来自权威媒体报道、政务公开平台，以及历史谣言库样本。
所以这就导致“AI抖音求真”对于以往存在的谣言类型会有效，但对“新鲜事”、“新花样”可能就有力未逮了。换而言之，“AI抖音求真”的效能主要依托于“谣言治理大模型”的迭代速度，如果它的进化能跟上AI虚假内容的发展，那么用AI来治理AI就是有效的。可要是权威媒体没有报道相关内容，“AI抖音求真”就只能给出“存疑”的判断了。
【本文图片来自网络】
