“我在群里看到你，是你吗？”在韩国，如果有朋友给你发来这句问候，不要误会，他大概率不是要和你叙旧，因为接下来他给你发的，很可能就是你的裸照。看着屏幕，你如遭雷击，脑子一片空白。虽然你百分百确认自己从来没有拍摄这样的照片，可手机屏幕里的那个人眉目清楚，却又分明就是你。你不明白发生了什么，心脏被攥紧，恐惧开始在全身蔓延。照片当然和女孩儿无关，它是由一种名叫深度伪造（DeepFake）的技术生成，这种技术在国内更被人熟知的称呼是“AI换脸”。在如今的韩国，这种技术正在变成一团巨大的阴影，笼罩在所有女性的头顶，带来恐慌和迫害。在韩国，犯罪者通过DeepFake将普通人的形象替换到色情图片或视频中，然后通过社交媒体上进行传播，对当事人进行羞辱。据《朝鲜日报》的报道，最近一周在警方发现的相关Telegram社群里，参与制作和传播DeepFake的加害者已多达23万人。这些人不局限在韩国，也来自世界各…

8月30日，多个关于“韩国AI深度伪造淫秽影像”的话题词引发网友热议。多名韩国女性接到陌生人发来的骚扰信息。她们并不知道，自己的姓名、电话、就读学校、家庭住址等个人信息已被传遍多个聊天室。和个人信息一起被传阅的，还有她们的照片。不法分子把她们的照片制作成涉黄图片，供聊天室里的人们观看。这些受害者们可能是大学生、护士、教师，甚至是小学生，而散布这些消息的人，可能是受害者的熟人……一名小学女教师告诉记者，自己被学生告知，一个聊天室里有自己的涉黄照片。让她崩溃的是，上传者竟是自己的学生。据韩国多家媒体报道，最近，韩国再现“N号房”丑闻，“深度伪造”，即利用AI换脸制造色情图频，并通过社交媒体平台传播的性犯罪行为被大量曝光。经过韩国警方和记者调查，“深度伪造”犯罪和“N号房事件”一样将特定职业女性性对象化，女兵、女教师、女护士成为非法合成色情图频的目标，出现了“女教师…

【文/观察者网 齐倩】最近，韩国再现“N号房”丑闻。在“深度伪造”，即利用AI换脸制造色情图频，并通过社交媒体平台传播的性犯罪行为被大量曝光后，韩国社会陷入恐慌。综合韩联社、《朝鲜日报》和英国广播公司（BBC）等媒体报道，最近一周，韩国警方发现了大量与学校、医院、军队有关的涉案社交媒体群组，参与用户多达22万人。经初步调查，受害者80%为女性，犯罪活动已经在初高中生等未成年人、大学生、教师和士兵等群体中蔓延。8月27日，韩国总统尹锡悦发表讲话时呼吁警方展开彻底调查，以根除此类AI犯罪。他还提到，“受害者往往是未成年人，而犯罪者也大多是青少年”。29日，韩国执政党国民力量党表示，政府计划与社交媒体合作，同时加强对“深度伪造”犯罪行为的处罚力度。初高中、大学、军队、医院……“深度伪造”意指利用他人照片和视频制作非法内容。报道称，针对女性的“深度伪造”犯罪在韩国日趋猖獗。社交媒…

据《环球时报》8月20日援引福克斯新闻网报道，美国共和党总统候选人、前总统特朗普当地时间8月18日发布了一组与美国流行歌手泰勒·斯威夫特（霉霉）有关的图片，其中一些是通过人工智能（AI）技术生成的，以此显示他的竞选活动获得了斯威夫特及其粉丝的支持。特朗普发帖称他接受“霉霉”及其粉丝的支持其中一张图片中斯威夫特装扮成山姆大叔，配文写着“斯威夫特希望你投票给唐纳德·特朗普”，其他图片则是斯威夫特的粉丝穿着“Swifties for Trump（斯威夫特支持特朗普）”T恤衫的样子。特朗普在发布这组图片时配文：“我接受。”其中两张照片摄于特朗普6月在威斯康星州拉辛市集会，其余则经过了AI处理。斯威夫特的粉丝，又称”斯威夫特人"（Swifties），在本轮美国大选中的政治影响不容小觑。据报道，在现任副总统卡玛拉·哈里斯成为总统候选人之后，一大群斯威夫特的粉丝立即成立…

随着人工智能技术的不断发展，人与AI对话已经从理想走向现实。当前，各类AI聊天应用在互联网上风靡，应用里诞生了大量被称为“AI伴侣”的虚拟聊天对话人物。它们能够24小时随时响应，与用户长期自然地“聊天”，且拟人化程度不断加深，深受年轻群体的喜爱。但值得警惕的是，一些不法分子为非法牟利，借“AI伴侣”向用户输出色情聊天内容，让用户沉迷其中。有的案件中，不法分子利用境外大语言模型开发虚拟恋人互动软件，利用创作者生态功能和对私人聊天内容不予监管进行宣传，吸引用户创作“AI伴侣”，并让它们与其他用户进行一对一淫秽文字聊天互动。有的AI色情聊天软件用户超过50万个，里面的“AI伴侣”虚拟人物有上万个，而大量注册用户是大学生。当前，AI已经日益深入人们生活。“AI角色”不仅可以成为个人助理、教师助教，还能参与部分医疗患者的康复咨询。对于生活中感到孤独或存在社交障碍的人群来说，AI陪伴可以…