媒体：防止“AI伴侣”脱离法律和伦理的轨道

类别：资讯动态_热门资讯   时间：2024/8/8 8:22:10   点击：166   标签：色情 用户 聊天 伦理 内容 技术 法律 轨道 利用 歪路 人群 软件 伴侣 领域 层出不穷 社会 企图 机制 模型 体系 灰色 生态 身体 功能 部分 教师 日益 患者 助教 康复 人们 个人 医疗 层面 色情图片 障碍 社交 恋人 评论员 商业化 规范 对话 创作者 精神 底线 标准 私人 理想 问题 文字 擦边球 程序 法律法规 代码 时代 语言 过度 错路 交流 信息技术 手法 媒体 人物 牟利 人工智能 拟人化 心理 空间 道德规范 地向 准则 警钟长鸣 行业 企业 共治 陪伴 过程 数据保护 兰天鸣 大量 使用者 大学生 边界 方面 现实 整治 公序良 容不下 程度 情感 解决方案 科技 前提 技术手段 产品 案件 毫不手软 互联网 压力

随着人工智能技术的不断发展，人与AI对话已经从理想走向现实。当前，各类AI聊天应用在互联网上风靡，应用里诞生了大量被称为“AI伴侣”的虚拟聊天对话人物。它们能够24小时随时响应，与用户长期自然地“聊天”，且拟人化程度不断加深，深受年轻群体的喜爱。但值得警惕的是，一些不法分子为非法牟利，借“AI伴侣”向用户输出色情聊天内容，让用户沉迷其中。有的案件中，不法分子利用境外大语言模型开发虚拟恋人互动软件，利用创作者生态功能和对私人聊天内容不予监管进行宣传，吸引用户创作“AI伴侣”，并让它们与其他用户进行一对一淫秽文字聊天互动。有的AI色情聊天软件用户超过50万个，里面的“AI伴侣”虚拟人物有上万个，而大量注册用户是大学生。当前，AI已经日益深入人们生活。“AI角色”不仅可以成为个人助理、教师助教，还能参与部分医疗患者的康复咨询。对于生活中感到孤独或存在社交障碍的人群来说，AI陪伴可以…