IT之家 5 月 3 日消息，据“中国网信网”今日发文，近期一些自媒体账号在发布涉时政等领域信息时，未规范标注信息来源，误导公众认知，破坏网络生态。主要情形包括未标注国内外时事、公共政策、社会事件的信息来源，未标注 AI 生成标识， 未标注虚构演绎标签 。 网信部门督促网站平台深入自查自纠，依法依约处置违规账号 9.8 万余个。IT之家附典型案例如下： 1.抖音“青青国际”“极客科普馆”、快手“名妍”、哔哩哔哩“晋说”“军武-史记”等“自媒体”账号，集纳涉美伊等国际时事信息，未标注信息来源， 公众难以溯源信息原始出处 ， 无法辨别信息真伪 。涉及的账号已被依法依约处置。 2.抖音“小胖农业”“乡村发展”、快手“农民大姐”“清华鱼妈”、哔哩哔哩“商业策略”等“自媒体”账号，发布涉农业农村、教育、养老等领域公共政策相关信息时，未标注信息来源，公众无法获得准确、完整的权威信息，可能会基于碎片化内容对政策作出错误理解。涉及的账号已被依法依约处置。 3.抖音“萌萌哒”“用户赵先生”、快手“农村户外小张 1”“玉婷”、微博“金毛治郁系”、哔哩哔哩“哎呦哎呦小然子”等“自媒体”账号，通过人工智能技术，制作并发布金毛抱小孩、大猩猩护崽对峙鳄鱼、老虎和橘猫开车回家探亲、小猫玩游戏眼花后戴眼镜、柴犬厨神做菜等视频， 未添加 AI 生成标识 ，易误导不了解 AI 的网民，难以区分虚拟与现实边界。涉及的账号已被依法依约处置。 4.抖音“刘百川商业”“马瑞（在农村）”、快手“玉雕师凤云”、微信视频号“遇见翡翠的夏天”、哔哩哔哩“加油嘉宜”等“自媒体”账号，以剧情摆拍、虚构情节等方式，发布外卖员送餐遭歧视、婆媳冲突、代际冲突、未成年人无人看护、丑化农村等内容，未标注虚构演绎标签，借机博取流量，以负面叙事渲染消极情绪，挑动群体对立。涉及的账号已被依法依约处置。 此外，网信部门将指导网站平台全面规范短视频内容标注工作，优化标注功能， 将标注设为短视频发布必经环节 。提醒广大“自媒体”创作者，在信息内容制作和发布过程中，切实增强信息来源标注意识，按要求主动、规范标注， 确保发布信息真实 、 完整 ，共建共享真实可信的网络环境。
IT之家 4 月 30 日消息，据《科创板日报》今日报道， 近期，红果短剧持续对平台上的 AI 剧内容展开大规模治理，已处置超万部低质 AI 剧。此次治理聚焦剧情导向、价值观表达和制作品质，重点处置了 内容低俗猎奇、画面粗糙、剧情逻辑混乱、渲染极端情绪 的低质 AI 剧。 红果官方数据显示，仅 4 月 7 日-4 月 15 日期间，平台就拦截和下架 3522 部低质作品。红果短剧总编辑乐力介绍，持续加强两方面治理动作：一方面健全审核体系，严禁低俗庸俗、拜金炫富、传播负面价值观等违规内容，从源头杜绝低质短剧；另一方面严肃对待版权保护，加大力度打击创意抄袭、肖像侵权等违规行为。 IT之家注意到，红果短剧官方账号 4 月 6 日发布《关于持续治理 AI 短剧素材违规使用行为的公告》。其中提到，内容合规是红果短剧对出品方的一贯要求，为规范 AI 短剧创作秩序，保护原创与合法权益，平台坚决打击 AI 短剧素材违规使用、无授权盗用等行为，持续开展全维度内容治理工作。 公告还提到，对于情节严重、反复违规的内容和出品方，平台将依法依规采取下架、封禁、终止合作乃至法律追责等措施。 相关阅读： 《 字节跳动红果短剧：针对近期 AI 短剧素材违规使用问题频发的情况，已处置作品 670 部 》
IT之家 4 月 27 日消息，小红书平台今天发布 AI 治理规则公告，平台鼓励创作者如实标识 AI 内容，鼓励用户利用 AI 进行创作，但严禁用户利用 AI 进行违规运营、造假、侵权等行为。 小红书同时表示，创作者应当在笔记中如实标识 AI 内容。无论是完全由 AI 生成，还是经 AI 润色的再创作，均建议在发布时主动声明。对于未主动标注的 AI 内容，平台识别后将统一添加标识；同时上线申诉通道，供创作者对标识结果提出异议。 同时，平台将对以下利用 AI 技术违反社区规范的行为持严格管控： AI 违规运营：利用 AI 工具自动运营账号、冒充真人互动，或传授利用 AI 洗稿、规避审核的做号方法； AI 造假：克隆他人声音或面孔、以虚假人设种草、伪造经历与截图，或制造涉及公共事件的虚假图文视频； AI 侵权：未经授权生成他人可识别肖像，或模仿受版权保护的视觉、文学、音乐作品； AI 低质：套用模板批量生产同质化内容、以猎奇画面博眼球，或传播极端不良价值观。 对于以上违规行为，平台将根据情节轻重，采取限制分发、封禁账号等梯度处置措施。此外，涉及违法违规、色情等安全底线的内容，无论是否由 AI 生成，均适用社区原有规则，平台将一并严格管控。
IT之家 4 月 16 日消息，据“网信中国”微信公众号消息，近期，国家网信办会同相关部门依法处置一批公开推荐个股、诱导加入群组荐股、兜售非法荐股软件的账号。现将部分典型案例通报如下。 1.“张哥滚雪球”等账号公开推荐个股，煽动跟风操作。微博账号“张哥滚雪球”、微信公众号“亡命哥实盘”、小红书账号“海哥抓龙”等通过打造投资专家人设，以晒盈利截图、分享炒股技巧、发布实盘操作情况等方式，向网民推荐个股，煽动跟风操作。涉及的账号已被依法依约关闭。 2.“围棋投研”等账号诱导网民加入群组，进行非法荐股。雪球账号“围棋投研”、微博账号“许文臣”、哔哩哔哩账号“钟离 4723”等使用“内幕消息”“稳赚不赔”“专家推荐”话语，引诱网民加入群组进行非法荐股，部分群组加入费用高昂。涉及的账号已被依法依约关闭。 3.“风口捕手”等账号兜售非法荐股软件，夸大虚假宣传。快手账号“风口捕手”“财经琪姐”“珂男探股”等在直播间推荐“高效 AI 选股软件”或者选股模型好、价格走势预测准确的所谓“荐股软件”，诱导网民付费购买其服务。涉及的账号已被依法依约采取处置措施。 国家网信办提醒广大网民树立理性投资理念，增强风险防范意识，加强金融信息辨别，远离和抵制各类非法金融活动，切实守护好自身财产安全。
36氪获悉，近期，红果短剧持续对平台上的AI剧内容展开大规模治理，已处置超万部低质AI剧。据了解，此次治理聚焦剧情导向、价值观表达和制作品质，重点处置了内容低俗猎奇、画面粗糙、剧情逻辑混乱、渲染极端情绪的低质AI剧。
36氪获悉，近日，抖音正式发布“AI生成不当内容及侵犯他人权益”的专项治理公告。公告对外披露了阶段性治理成效，截至目前已累计下架AI侵权视频超53.8万条，处罚违规账号4000余个，同时明确了重点整治场景与长效管控举措。平台将重点处置利用AI技术换脸、盗声，利用AI生成内容仿冒、蹭热他人等典型违规行为。
近期，国家网信办会同相关部门依法处置一批公开推荐个股、诱导加入群组荐股、兜售非法荐股软件的账号。“张哥滚雪球”等账号公开推荐个股，煽动跟风操作。“围棋投研”等账号诱导网民加入群组，进行非法荐股。“风口捕手”等账号兜售非法荐股软件，夸大虚假宣传。国家网信办提醒广大网民树立理性投资理念，增强风险防范意识，加强金融信息辨别，远离和抵制各类非法金融活动，切实守护好自身财产安全。（新华社）