近日，公安部公布近期打击整治网络谣言10起典型案例，其中4起涉及使用人工智能工具生成和传播谣言。这些涉“AI造谣”案件中，“广州限制外卖配送”谣言案尤为典型。
2023年12月19日，有网民在今日头条平台发布“广州即将成为全国首个限制外卖配送的城市”，迅速引发关注形成网络热搜。经查，四川德阳网民杨某组织招揽广东江门网民叶某英等多名兼职人员，使用人工智能工具批量生成不实文章引流牟利。最终，涉案6人被采取刑事强制措施。其余3起案件中，涉案人均被处以行政处罚。这些案件显示，伴随AI技术的迅猛发展，“AI造谣”的情况日益增多，对此进行治理已经刻不容缓。
在自媒体时代，一些自媒体从业人员为了攫取利润盲目追逐流量，当流量诱惑达到一定程度时，他们不惜冒各种风险甚至违法犯罪，其中最普遍的一种就是网络造假传谣。而AI技术在近两年发展很快，大大降低了使用门槛，同时因为其更“善解人意”“以假乱真”，很快被派上了用场。
技术是中性的，本身并不能分辨善恶。一种新技术出现既可以为善，也可以助恶。一旦某种技术可能用于为恶，最终就会有人这么做，这也符合“墨菲定律”。当无底线追逐流量的自媒体盯上新兴的AI技术，结果便是为追逐流量造假变得更容易，造假效果更强，造成的损失也更大。
“广州限制外卖配送”就属于此种情况。当造谣者为吸引眼球编造谣言，几乎无需成本，使用人工智能工具就可以批量生成不实文章引流牟利，这种几乎没有成本的谣言造成的后果，可能对一个巨大体量的行业造成冲击，让这个行业上下游所涉及的人都会受到直接或间接的影响。
当前，作为一种新型谣言传播方式与犯罪手段，“AI造谣”扰乱了舆论秩序，也危害经济和社会平稳运行。不过，现阶段治理“AI造谣”也存在不少司法层面和社会治理层面的难点、堵点，其中较为突出的是“AI造谣”的“定性难”“入罪难”问题。相较于之前的网络谣言违法行为，“AI造谣”成本低、门槛低、传播广、获利小、破坏大，对正常经济和社会秩序有较强的危害性，但目前“多为行政处罚、刑事处罚较少”的治理力度，客观上难以形成有力震慑，进而纵容相关“黑灰产”野蛮扩张。
近日，公安部公布近期打击整治网络谣言10起典型案例，其中4起涉及使用人工智能工具生成和传播谣言。这些涉“AI造谣”案件中，“广州限制外卖配送”谣言案尤为典型。
2023年12月19日，有网民在今日头条平台发布“广州即将成为全国首个限制外卖配送的城市”，迅速引发关注形成网络热搜。经查，四川德阳网民杨某组织招揽广东江门网民叶某英等多名兼职人员，使用人工智能工具批量生成不实文章引流牟利。最终，涉案6人被采取刑事强制措施。其余3起案件中，涉案人均被处以行政处罚。这些案件显示，伴随AI技术的迅猛发展，“AI造谣”的情况日益增多，对此进行治理已经刻不容缓。
在自媒体时代，一些自媒体从业人员为了攫取利润盲目追逐流量，当流量诱惑达到一定程度时，他们不惜冒各种风险甚至违法犯罪，其中最普遍的一种就是网络造假传谣。而AI技术在近两年发展很快，大大降低了使用门槛，同时因为其更“善解人意”“以假乱真”，很快被派上了用场。
技术是中性的，本身并不能分辨善恶。一种新技术出现既可以为善，也可以助恶。一旦某种技术可能用于为恶，最终就会有人这么做，这也符合“墨菲定律”。当无底线追逐流量的自媒体盯上新兴的AI技术，结果便是为追逐流量造假变得更容易，造假效果更强，造成的损失也更大。
“广州限制外卖配送”就属于此种情况。当造谣者为吸引眼球编造谣言，几乎无需成本，使用人工智能工具就可以批量生成不实文章引流牟利，这种几乎没有成本的谣言造成的后果，可能对一个巨大体量的行业造成冲击，让这个行业上下游所涉及的人都会受到直接或间接的影响。
当前，作为一种新型谣言传播方式与犯罪手段，“AI造谣”扰乱了舆论秩序，也危害经济和社会平稳运行。不过，现阶段治理“AI造谣”也存在不少司法层面和社会治理层面的难点、堵点，其中较为突出的是“AI造谣”的“定性难”“入罪难”问题。相较于之前的网络谣言违法行为，“AI造谣”成本低、门槛低、传播广、获利小、破坏大，对正常经济和社会秩序有较强的危害性，但目前“多为行政处罚、刑事处罚较少”的治理力度，客观上难以形成有力震慑，进而纵容相关“黑灰产”野蛮扩张。
针对这一局面，相关部门已经有所回应。2023年9月，最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》指出，对实施网络暴力违法犯罪者利用“深度合成”等生成式人工智能技术发布违法信息，将依法从重处罚。此次广东警方对“广州限制外卖配送”谣言案中涉案人采取刑事强制措施，也体现了对“AI造谣”的坚决整治态度，或将成为打击治理“AI造谣”的样板案例。 (作者：贾安平 来源：经济日报)
加载全文
