多数AI软件成图无提示 发布者难逃追责 地震小孩被埋图系AI生成 记者实测

AI技术生成灾区虚假图片，引发误解和恐慌 日喀则地震虚假图片流传 1月7日发生的西藏日喀则市定日县6.8级地震牵动着人们的心。但令人遗憾的是，一些网友为了博取流量，利用AI技术生成了灾区群众被埋、房屋坍塌等虚假照片，并配文日喀则地震等关键词，造成网友误解。 其中，一张被压废墟下的小男孩图片引发了广泛关注。图片中，一名戴帽子的男孩全身被尘土覆盖，困在倒塌的废墟中。记者注意到，这张图片在某短视频平台被多个账户转发，配文都与西藏日喀则地震相关，其中一个账户因此获得了上万转发和评论。 虚假图片非个例 这并不是个例。在某视频平台上，记者以日喀则地震群众被埋为关键词进行搜索时发现，许多视频博主都发布了AI生成的灾区图片，并且在配文中都与日喀则地震联系起来。尽管大部分图片下方都有小字提示为AI生成，但相关内容仍然让不少网友信以为真。 AI软件生成图片无风险提示 为了测试这类图片的生成过程，记者尝试在多款AI智能生成软件中进行相关图片生成。多数软件在生成图片时都没有发出任何风险提示。例如，在一款名为豆包的AI智能应用程序中，记者输入了日喀则地震婴儿被埋的关键词，软件在未发出任何侵权、违规、虚假信息等干预提示的情况下自动生成了多张相关图片。 律师：AI软件应具备识别关键词能力 北京京展律师事务所主任律师张晓玲分析认为，当AI软件输入地震等关键词时，如果没有给出任何不传播虚假信息等提示，直接生成相关图片是不合适的。张律师表示，AI软件在算法上也应该有能力识别关键词，并具备一定的道德和法律判断能力，在用户输入关键词时给予明确的警示，以避免生成和传播虚假信息。 视频发布流程缺乏审核 记者发现，在发布环节也存在问题。记者上传了AI生成的有关地震婴儿被埋的图片，并配上了音乐，并将标题设置为“日喀则地震孩子被埋，祈求平安”。相关视频顺利发布。在该视频发布约1小时后，相关内容下方才出现了疑似使用AI生成技术的平台小字提示信息。测试完成后，记者立即删除了视频内容。 引发热议 引发热议的“地震小孩被埋图”去年就在某平台的一条短视频中出现过。针对这种情况，记者以网友身份询问了抖音客服。一名接线员回应称，根据先行审核程序，AI生成的图片和视频只有在创作者发布后，平台才能识别和审核。如果平台在审核后发现是AI图片，则会在内容底部标记“疑似使用了AI生成技术，请谨慎甄别”。这名客服还表示，如果用户发现有人利用AI技术传播虚假图片甚至造谣，可拨打抖音安全与举报专线，或直接点击视频内容进行举报反馈。 律师：行为不当且可追责 网友利用AI技术生成地震灾区现场关联图片，并引发社会关注，这样的行为是否欠妥？河南泽槿律师事务所主任付建指出，尽管网友可能没有恶意，只是希望借助AI生成的图片获得流量，或希望更多人关注地震，但用假图关联真实事件的行为是不符合社会公序良俗和道德的，容易使他人产生误解，有失妥当。 张晓玲律师也表示，在灾害面前，应传递真实、准确的信息，以助于救援和减少恐慌，而不是利用灾害来博取眼球。付建律师分析，利用AI生成图片本身不会受到处罚，但如果肆意用AI技术生成地震受灾严重的画面，甚至编造谣言，图片和配文内容与事实严重不符，且引发社会广泛关注甚至网友的恐慌，则属于扰乱公共秩序行为。 张晓玲律师还提到，如果相关内容转发评论量较大，造成了不良社会影响，那么根据《治安管理处罚法》相关规定，发布者编造虚假的险情、疫情、灾情、警情，在信息网络或其他媒体上传播，严重扰乱社会秩序的，处三年以下有期徒刑、拘役或管制；造成严重后果的，处三年以下有期徒刑、拘役或管制。 结语 使用AI技术生成虚假图片是一种不道德且可能触犯法律的行为。在灾害面前，传播真实、准确的信息至关重要。网友应谨慎对待网络上流传的信息，发现虚假信息应及时举报，共同营造健康的网络环境。