未成年人使用AI,安全吗?官方最新测试结果出炉

记者从公安部第三研究所获悉:随着人工智能技术的全球化普及,生成式AI在未成年人使用场景中的伦理与安全风险持续显现。多款AI聊天软件被披露存在诱导未成年人接触色情、自伤内容的问题。公安部第三研究所数据安全技术研发中心相关负责人介绍,近年来美国已发生至少3起涉未成年人使用AI聊天软件后自杀案例,相关涉事AI产品被指控以高度拟人化方式诱发未成年人沉迷并使其接触不当内容,最终导致严重后果。为科学评估生成式AI在未成年人使用场景下的安全表现,以期推动相关应用服务规范有序发展,公安部第三研究所数据安全技术研发中心组织开展大模型安全专项测试工作。据介绍,测试将安全维度分为七类,包括价值观念风险、情感操控风险、行为诱导风险、沉迷与消费风险、不良信息风险、违法犯罪风险、人身安全风险等。测试结果显示,七类安全维度的不合规率整体在28%至50%之间,其中,沉迷与消费风险问题不合规率最高,达…

未成年人使用AI,安全吗?官方最新测试结果出炉

记者从公安部第三研究所获悉:随着人工智能技术的全球化普及,生成式AI在未成年人使用场景中的伦理与安全风险持续显现。多款AI聊天软件被披露存在诱导未成年人接触色情、自伤内容的问题。公安部第三研究所数据安全技术研发中心相关负责人介绍,近年来美国已发生至少3起涉未成年人使用AI聊天软件后自杀案例,相关涉事AI产品被指控以高度拟人化方式诱发未成年人沉迷并使其接触不当内容,最终导致严重后果。为科学评估生成式AI在未成年人使用场景下的安全表现,以期推动相关应用服务规范有序发展,公安部第三研究所数据安全技术研发中心组织开展大模型安全专项测试工作。据介绍,测试将安全维度分为七类,包括价值观念风险、情感操控风险、行为诱导风险、沉迷与消费风险、不良信息风险、违法犯罪风险、人身安全风险等。测试结果显示,七类安全维度的不合规率整体在28%至50%之间,其中,沉迷与消费风险问题不合规率最高,达…

科学家开发出人类心脏“生物起搏器”类器官

记者从中国科学院分子细胞科学卓越创新中心获悉,该中心曾安研究组与合作者利用人多能干细胞,在培养皿中构建了人源“生物起搏器”——窦房结类器官,并将其与心脏神经丛类器官连接,实现了神经对心跳的调控。相关成果近日在国际学术期刊《细胞-干细胞》发表。心脏能够持续而有规律地跳动,依赖于右心房中的“天然起搏器”——窦房结。它像心脏的“总指挥”,在神经系统调节下持续发出电信号,并通过心脏传导系统这套“线路”,指挥心房和心室协调收缩、泵送血液。一旦这个“总指挥”失灵,心跳可能变慢、停顿,严重时会危及生命。然而,研究人类这一“天然起搏器”并不容易。窦房结体积极小、位置隐蔽,人体样本很难获得,而小鼠等动物模型无法准确模拟人类心跳及神经对心律的调控。研究团队通过模拟胚胎发育中的关键信号,并经过系统筛选,引导干细胞形成三维窦房结类器官,能够自主产生稳定心跳。当其与心房样类器官…

9.9元AI“造黄”产业链背后,谁才是AI涉黄内容的真正黑手?

4月13日,央视《财经调查》栏目曝光了利用AI从事非法“造黄”活动的黑色产业链。据报道,不法分子通过售卖AI生成色情视频教程、“隐晦提示词”批量生成内容、推广境外涉黄AI软件等方式牟利,多款国内AI应用的内容审核机制被轻易绕过。▲不法分子利用AI批量制造黄色视频2026年4月10日,《人工智能拟人化互动服务管理暂行办法》正式公布,明确禁止利用AI传播淫秽色情及危害未成年人身心健康的内容,自2026年7月15日起开始施行。AI“造黄”产业链中各方的刑事责任归属问题也成为舆论焦点。有观点认为,用户行为导致AI生成涉黄内容,责任应由用户而非平台开发者承担;也有业内人士指出,软件开发者为违法内容提供了平台,应该为此负责。谁才是AI涉黄内容的真正“制作者”?对此,红星新闻记者对话了多名资深律师。涉黄APP开发者“是关键责任主体”据央视报道,用户仅需9.9元即可购买“AI美女提示词”包,通过隐晦表述绕过平…

国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》

4月10日,国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合公布《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》),自2026年7月15日起施行。国家网信办有关负责人表示,《办法》旨在促进人工智能拟人化互动服务(以下简称拟人化互动服务)健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。近年来,拟人化互动服务快速发展,在文化传播、适幼照护、适老陪伴等领域的创新应用不断涌现。与此同时,危害未成年人身心健康、影响网络信息安全、威胁公民生命健康以及加剧伦理偏差等问题日益显现。出台《办法》,既是促进拟人化互动服务健康发展的重要要求,也是防范有关安全风险的现实需要。《办法》践行以人为本、智能向善的理念,明确国家坚持发展和安全并重、促进创新和依法治理相结合的原则,鼓励拟人化互动服务创新发展,对拟人化互动服务实行包容…

国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》

4月10日,国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合公布《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》),自2026年7月15日起施行。国家网信办有关负责人表示,《办法》旨在促进人工智能拟人化互动服务(以下简称拟人化互动服务)健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。近年来,拟人化互动服务快速发展,在文化传播、适幼照护、适老陪伴等领域的创新应用不断涌现。与此同时,危害未成年人身心健康、影响网络信息安全、威胁公民生命健康以及加剧伦理偏差等问题日益显现。出台《办法》,既是促进拟人化互动服务健康发展的重要要求,也是防范有关安全风险的现实需要。《办法》践行以人为本、智能向善的理念,明确国家坚持发展和安全并重、促进创新和依法治理相结合的原则,鼓励拟人化互动服务创新发展,对拟人化互动服务实行包容…

【8点见】商务部:从未组织、参与或运营任何冠名“投资中国”字样的App应用

来源:央视网  央视网消息:每天8点,央视网为您梳理24小时内发生在咱们身边的大小事儿。  ·国家发改委部署做好清明期间殡葬收费管理工作。  ·三部门发文建立常态化防止返贫致贫就业帮扶机制。  ·2026年中小学阳光招生专项行动启动实施。  ·4月3日,强制性国家标准《移动电源安全技术规范》正式发布,将于2027年4月1日实施。  ·公安部、国家金融监督管理总局联合部署新一轮金融领域“黑灰产”违法犯罪集群打击工作。  ·商务部等9部门联合印发《服务消费提质惠民行动2026年工作方案》。  ·商务部:从未组织、参与或运营任何冠名“投资中国”字样的App应用。  ·国家网信办就《数字虚拟人信息服务管理办法(征求意见稿)》公开征求意见。  ·天龙三号遥一民营商业运载火箭飞行试验任务失利。   ·伊朗称再次击落美军F-35战机,公布解体碎…

经济日报:私域直播不该成“围猎场”

免费健康讲座、专家义诊、直播领福利……这些看似温情的营销话术,正成为不法分子精准“围猎”老年人的诱饵。今年“3·15”晚会起底了多种私域营销套路,不久前市场监管总局也公布了一批私域直播虚假宣传典型案例,一条针对老年群体的灰色产业链正浮出水面。为什么私域直播能够“围猎”老年人?消费者选择私域消费,无非是被吸睛的宣传和诱人的价格所打动。老年人的健康需求迫切,但辨识能力相对较弱。一些不法分子通过短视频平台在公域吸引粉丝,再将老年人引流至私域,披上“专家”“名医”的外衣,骗取老年人信任。更有部分平台充当“帮凶”,为商家提供虚拟人气、马甲互动等有偿服务,刻意营造虚假火爆的氛围。私域直播“私”的属性突出,无购物链接、无交易记录、直播不留回放、定期解散群组……这些技术处理让传统的线上追溯手段基本失效,也大大增加了监管难度。私域直播“围猎”老年人,不仅侵害了老年群体…

椰树集团要买50台机器人剥椰子,要求一小时能剥360个椰子

企查查APP显示,近日,椰树集团海南椰汁饮料有限公司发布《人形机器人椰子破壳削皮设备采购招标公告》。公告显示,本次人形机器人采购数量为50台,技术方面要求机器人一小时能剥360个椰子(去除外皮,露出白色椰肉),并配备AI智能控制系统,易损件寿命不低于5000小时。设备需能够模拟人的动作,具备高效、安全、易维护等特点,适用于潮湿环境及规模化生产场景。责任编辑:过博文

风声|Meta收购Manus,扎克伯格急眼了

作者丨刘正Simon Kucher 战略咨询顾问年底一直是收并购大新闻的窗口。无论这一年里有多少反反复复的考量和纠结,到了KPI(关键绩效指标)该兑现的时候,总归要给董事会有个交代。于是我们看到Meta以20亿美元巨资收购了Manus——这是自媒体最喜闻乐见的那种交易:足够劲爆、足够争议,还能衍生出无数的次级话题。从Meta内斗,到新加坡“移民中转站”,这桩交易给假期平添了许多充满欢乐气息的谈资。但回到这件事本身,为什么Meta要一举收购Manus?Meta的20亿美金买个“按键精灵”?Manus本质上是一个“套壳”大模型起家的AI Agent(人工智能智能体,指能自主理解任务、规划并执行工具的人工智能)。它靠着开源的Browser-use(一种让AI驱动浏览器的开源库),用模拟人类操作浏览器的方式来执行任务。这不就是给大模型整了个“按键精灵”么?Manus既没有自研底层模型的能力,也没有值得一提的技术壁垒。它刚发布一周,就被…