0

大量AI“三胞胎离世”视频充斥社交平台,有发布者借此引流卖货,平台:对该内容正持续监管,违规将进行处罚

2025.12.02 | 念乡人 | 8次围观

  极目新闻记者 詹钘

  见习记者 李淑仪

  近日,某短视频平台出现上百条疑似AI合成的“三胞胎离世”图片,大量网友纷纷悼念。不过,这些内容发布者却对网友们的关心不予回应,而是在评论区用隐蔽的方式为某产品做宣传,疑似以“三胞胎离世”这种受人关注的话题为产品引流。11月30日,极目新闻记者致电平台客服,接线人员表示平台一直对此类内容在进行监管,一旦发现违规行为,将对内容生产者进行处罚。

  极目新闻记者注意到,在某短视频平台内容搜索框输入“三胞胎离世”等话题词后,会出现上百条类似的图文内容。这些图片中多为三名长相类似、身穿校服或休闲装的青少年,姓名中常含“龙”“麒”“麟”等字。这些内容多为单一图片,常配以《送别》音乐及统一文案,如“我的三胞胎儿子(女儿或孩子),2025年某月某日凌晨永远离开了我们,今天是你离开妈妈一个月了……”。奇怪的是,有些图片中仅有两名青少年,但配文仍是“我的三胞胎孩子”。

  在相关评论区,不少网友表达惋惜与慰问,也有不少网友询问具体情况。然而,内容发布者对这些评论均不予回应,仅答复了一些类似“孩子长得这么高没少花费功夫培养吧”的问题,回复内容大致为:“孩子之前不高,吃了某产品之后,一年多就长高了很多。”更有内容发布者,直接发布某购物平台的商品图片,向咨询的网友推荐。

  记者尝试联系多位内容生产者了解情况,但截至发稿前均未获回复。有网友推断,大部分“三胞胎离世”内容疑似为AI合成图片,发帖网友试图以这种受人关注的话题为产品引流,进而起到产品推广的目的。不过,仅有部分作品的下方显示“疑似使用了AI生成技术,请谨慎甄别”。

  11月30日,记者致电平台客服,接线人员表示,审核团队对该类内容一直都在监管。因审核需要一定时间,一旦监测确认发布内容违规后,将对发布者进行一定处罚。对于为何部分AI内容未予标注,客服解释AI标识由系统自动检测标注,目前识别机制在不断完善中。

  极目新闻记者就此事咨询了广东哲清律师事务所律师马俊哲。马俊哲认为,如果明知相关信息系不实信息,发布者借虚构的三胞胎离世虚假信息来吸引流量,扰乱公共秩序并获利,违反《治安管理处罚法》。类似散布谣言,谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的,处5-10日拘留,可并处500元以下罚款;情节较轻的,处5日以下拘留或500元以下罚款。

  河南泽槿律师事务所主任付建认为,根据《人工智能生成合成内容标识办法》,AI生成内容需要明确标识。若平台检测到未标识内容,应添加风险提示。此外,《中华人民共和国广告法》明确规定广告不得含有虚假、引人误解的内容。涉事者靠AI编造“三胞胎离世”的虚假内容吸引流量,然后在评论区隐蔽宣传某保健品,这种用虚构场景骗取公众关注进而诱导消费的方式,显然会误导消费者对商品的关注度和信任度。

  (来源:极目新闻)

版权声明

本文系作者授权念乡人发表,未经许可,不得转载。

标签列表