admin 所有版权归中国经济网所有。
中国经济网新媒体矩阵
网络广播视听节目许可证（0107190）（京ICP040090）
用户只需上传日常生活照片，一键即可生成军装个人照、警察照片……《新华透视》记者发现，一些人工智能工具推出了“易容”功能，吸引了不少军警迷。但时有不法分子利用“AI伪装”功能，伪装成军人或警察身份，迷惑民众，亟需警惕。人工智能生成的统一照片被滥用。记者以“人工智能替代军装”为关键词，在各短视频平台上搜索各种相关应用。这些应用以“穿电子军装很有趣”、“AI让童年梦想成真”等亮点吸引用户。有网友表示“你只需上传日常生活照片，“秒变兵”。看到坦克、阅兵的背景，感觉自己的“参军梦想”实现了。目前流行的AI工具提供的AI绘图功能，也可以根据用户要求实现AI改造。但有些人可能会欺诈或非法使用“AI易装”，可能会产生负面影响。相关专家在观看多部AI服装视频后指出 指出不少士兵换装视频不符合《解放军内务条例》规定的着装要求。有的混合了兵役标准，有的使用了假奖章，还有的混合了不同国家军装的元素。江苏大学管理学院党委书记、教授马国建表示，一些网民正在利用人工智能来匹配军装和军装。不同国家。有些人将人们低着肩膀、拿着香烟或酒精饮料的照片和视频与军装或警察制服的照片和视频结合起来。这与我国军队和警察应有的形象相矛盾，不适当地消耗了军队和警察的形象。个别网民利用人工智能为人们生成假的警察证明和军事任命书。今年3月，安徽省黄山市屯溪区网大江河利用人工智能技术合成了自己身着军装的照片，并在社交平台上发布虚假信息，声称自己经军委批准被任命为黄山陆军师师长，试图博取流量。该行为造成不良社会影响，江某受到当地公安机关的处罚。部分犯罪分子利用“AI伪装”技术伪造身份证实体并进行欺诈。今年4月，江苏省江阴市人民法院对一起冒充军人诈骗案作出判决。网友卢某并非现役军人，但他从网上盗取了军事训练照片，并将其发布到短视频平台上。获得大量点赞后，他利用人工智能将自己的头像和自己穿军装的照片合成在一起，并花钱伪造了军人身份证，变身“少校”。他以“交通事故”、“我租车去见老板”等借口，骗取了自己信任的6名女子3万多元。法院以冒充军人罪、诈骗罪判处其有期徒刑两年。今年7月，江苏常州的唐阿姨遭遇了一场精心组织的骗局。骗子通过AI视频联系受害人。视频中，受害人身穿印有公共安全标志的制服，威胁数十位老人因“涉事”而缴纳大额“押金”。幸好警方及时发出警告，震慑了老人，才避免了他的财产损失。在没有平台评论的情况下，记者在社交平台上看到摩登制服的照片是“零门槛”。有网友发布一段AI变装视频后，在访问视频下方的迷你秀链接后，如有需要，还上传了三张脸部清晰照片。经过10多分钟的AI合成，系统生成了一段军装变装视频。在此期间，平台和小程序没有要求上传身份信息，也没有警告合成视频不得用于非法区域。 9月1日起施行的《人工智能生成的合成内容展示办法》要求清晰展示人工智能生成的合成内容人工智能。不过，记者注意到，一些AI伪装应用程序使用后发现，用户合成发布的视频没有标签，很容易被复制，内容模糊。 AI变装技术降低了伪造身份的技术门槛。记者在某购物平台使用“AI+军装照片”关键词时，发现有卖家出售各兵种模板素材、军衔警服等。据店老板介绍，这些资料全部可以拍下来，不到1块钱。记者拍下照片后，店家立即发送了网盘链接。该链接包含数十个 P-Picture 军装模板文件。用户可以通过PS或AI根据自己想要的风格和级别更换头像。记者尝试使用人工智能生成的军装和肖像照片进行多种拍摄。社交平台账号，发现审核没有困难，全部更换成功。北京伟恒律师事务所律师王高峰表示，一些第三方软件和内容平台缺乏研究，允许虚假内容传播，这可能会损害公众对军队和执法职业的信任和尊重。江苏省政府咨询室特约研究员丁宏表示，人工智能降低了个人信息造假的技术门槛。一段人工智能生成的警察抓捕视频被发布到网上，并附有一份涉嫌传播违法有害信息的所谓警方报告。这些内容容易误导公众，造成不必要的恐慌，扰乱正常的社会秩序。国家网信办近日公布了一个经典执法案例。该应用程序由浙江省的一家公司运营，提供 vi 中的去脸等图像处理功能deo，摄影中的面部变化以及摄影和舞蹈的配音。用户可以更改上传的照片和视频中角色的脸部。但未按照规定落实安全评估要求，相关深度综合内容未明确标注，存在较大安全风险，违反了《暂行办法》等规定。网信部责令该平台下架该应用。加强筛查和审查，防止“人工智能创可贴”被滥用。 《人工智能合成内容标注办法》明确，服务提供者提供人工智能合成内容下载、复制、导出等功能的，必须确保文件包含符合要求的明确标签。任何组织或者个人不得恶意删除、篡改、伪造或者掩盖根据本措施生成的合成内容的标签。 “行政国家网信办等十部门今年发布的《互联网军事信息传播管理办法》规定，互联网军事信息服务提供者和使用者在使用深度合成、生成式人工智能等新技术新应用时，不得损害人民军队形象。 强制执行敏感信息的内容，例如警察和军队标志。使用应当在有关部门的指导下严格控制和审查。平台要严格执行《人工智能合成内容标注办法》，对“冒充人工智能”的产品添加明显标签，建立审核机制，及时删除、封禁违法内容。丁洪先生建议加快相关事宜立法进程并加强刑事司法协调。有关部门应尽快明确涉及军警的人工智能图像的使用限制、责任分工和法律影响。特别是对故意诽谤军人、警官形象、利用机会进行诈骗活动的行为，必须依法严肃查处，形成法律威慑。人工智能工具和内容平台的开发者必须对可能影响国家安全、造成社会危害的行为承担连带责任。马国建先生将提高公众对军人、警察等职业形象重要性的认识，普及相关知识，自觉抵制虚假内容和非法应用。他要求公众指导公众举报该事件。增加人工智能生成的合成内容的广告和推广减少公众被误导或误导的风险的确认方法。