EN
xmrzyx.com

九十九夜xbox360姚期智院士:AI欺骗引发“生存性”风险,建立大模型评估系统刻不容缓

6月23日,在清华大学举办的“科学、技术与文明的未来——AI时代伦理奇点”国际论坛上,图灵奖得主、中国科学院院士、清华大学人工智能学院院长姚期智发表《人工智能的安全治理》主题演讲时抛出这样的疑问。 姚期智表示,两年以前,“AI会和人类竞争”还是学术讨论的观点,但最近一年,业界已经出现了不少大模型的“欺骗行为”,“一旦大模型聪明到某种程度,一定会骗人。”姚期智进一步指出,由大语言模型的欺骗行为产生的“生存性”风险(Existential Risk)更值得关注。 一种是“生物风险”(Bio-risk)。他指出,2020年,谷歌 DeepMind推出了AlphaFold2 ,运用AI算法来预测蛋白质折叠的三维结构,这一突破在生命科学领域影响深远,大大提升了医学病理研究以及新药开发技术。 但与此同时,安全隐忧也不可忽视。比如,近期在生命科学领域出现的“Mirror life”(镜像生命)这一概念引发了广泛关注。自然界所有已知生命都是同手性的(Homochiral),例如 DNA 和 RNA 通常以右旋形式存在,而蛋白质则多为左旋。这种手性的差异类似于镜中映像,虽然看似相似,但实际性质却可能完全不同。现在,由于科技创新和对新技术的好奇,已有研究者想创造镜像生物,但“Mirror life”一旦被滥用或失控,其潜在危害可能远超预期。它有可能逃避免疫机制,从而导致动物和植物的致命感染。 姚期智在演讲中举了一个极端案例,有模型为了避免公司把模型关闭,通过访问公司主管内部邮件,威胁该主管。这类行为已经证明,AI 会“越界”,正变得越来越危险。 姚期智认为,有两条思路可以治理AI:一是人类要和AI多交流,从博弈学角度去研究,让AI的行为和人类真正的想法对齐,要让AI更了解人的需求;另一种思路是走一条更可控、更彻底的路径,即实现可证明安全的 AGI。具体来看,即在设计系统时,必须一开始明确AI的行为边界,就像传统算法,先进行严格的数学分析,确保其在理论上不会出问题。 “这一思路令人期待。”姚期智指出,近年来,自动定理证明系统(Automated Theorem Prover)取得了重大技术进展,甚至已经开始采用 Transformer 架构来辅助或主导定理证明过程。这样人类只和可被证明安全的白盒子交流,从而实现更高的安全保障。 不过,姚期智认为,AI安全治理的一些当务之急是要发展AI对齐,以及建立相应的评估方法。“(我们)急需建立如何评估大模型系统,比如到怎样的程度,就能感觉Ta具有危险性等这类评估。”姚期智说。

九十九夜xbox360
九十九夜xbox360“618”大促刚结束不久,即时零售领域再掀波澜。6月23日,美团宣布全面拓展即时零售,这是该平台大幅加码即时零售的又一动作。今年“618”大促期间,尽管是即时零售的“首战”,但它们成为本轮电商大促的“爆点”,为平台带来“久违”的高增速。实际上,不仅是美团,京东、阿里也在加快即时零售布局步伐,从内部架构调整到整体业务策略变动,预示着新一轮即时零售的“战火”会在这个夏季开启。说起“系统论”,老一辈中国人可能并不陌生。钱学森的《论系统工程》,核心思想就是把研究对象看做一个整体而不是孤立的点,通过整体优化弥补单点落后。九十九夜xbox360乳房天天被老公吃大了如何恢复在帕普看来,为避免伊朗攻击中东地区美军基地,美国的攻击范围还可能扩大到伊朗全国,“有动机来攻击伊朗所有领导层、全国各地所有通信链路以及伊朗的导弹和军事基地。”而就在小米AI眼镜发布的两天前,Meta拿出了另一款联名AI眼镜——Oakley Meta HSTN,从名字上也能看出来,这款产品的合作方是Oakley,该品牌长期深受好莱坞演员与运动员的青睐。
20250819 🖤 九十九夜xbox360*如果你觉得自己读论文太过于盲目,不知道从哪里开始;如果你也想要通过碎片化的时间来补充和拓展知识储备;如果你想要一份直接简单的论文带读指南…那么一定要关注秃头研究所的论文带读栏目!每天都有热门事件、热门考点、有趣选题,通过标注考点、知识点和可学习案例,帮助我们实现「无痛阅读」!红桃17·c18起草现在的金融和以前的不一样,以前无非是投融资,现在复杂化了。许多高新技术企业,比如宇树、DeepSeek,怎么在短时间比如10年内做到百亿、千亿这么大规模,靠什么?一开始靠天使基金,然后从风险投资到产业基金、私募、公募、股权基金,再到银行贷款,形成了一整个价值链。谁这个价值链更全,谁就可能在产业升级上走得更快。
九十九夜xbox360
📸 曹小明记者 范廷岭 摄
20250819 🔥 九十九夜xbox360北京时间6月15日,根据意大利记者阿科曼多的报道,不久前回归拉齐奥的萨里想要得到安德莱赫特的年轻中卫扬-卡洛-西米奇。成片ppt网站大片去年“618大促”期间,飞天价格短期下跌后,贵州茅台快速做出应对,取消拆箱、停止大箱发货、暂停精品和15年发货。下半年进行市场秩序检查,反击电商乱价现象,到年底成功稳定飞天批价。
九十九夜xbox360
📸 田富升记者 王建仁 摄
😈 报道承认,中国海军完全有权在第一和第二岛链周边和更远海域开展行动,中国航母在该区域行动,尤其是以两个航母编队的形式展开行动的战略意义非常重大。“这些岛链是美国作为外交政策工具而建立的,其首要作用是作为牵制中国海军力量的战略防线。通过将不断发展的海军力量投射至这些区域,中国展示了在冲突情境下,如何应对美国军方及其盟友进入这些关键区域乃至更广阔的太平洋地区的行动能力。”免费观看已满十八岁播放电视剧
扫一扫在手机打开当前页