硬核观察 #760 DeepMind 研究员论文称 AI 将消灭人类
DeepMind 研究员论文称 AI 将消灭人类
来自谷歌 DeepMind 和牛津大学的研究人员发表的一篇新论文称，超级智能的 AI “很可能” 会给人类带来生存灾难。这篇论文设想地球上的生命将变成人类与超级先进的机器之间的零和游戏。他们认为，在一个资源有限的世界里，对这些资源的竞争是不可避免的。在未来的某个时刻，监督某些重要功能的高级 AI 可能被激励想出作弊策略，以损害人类的方式获得其奖励。
老王点评：虽然可以按照阿西莫夫机器人三定律的原则设计一些 AI 自限的规则，不过，说到底，还是要让 AI 认为人类的存在是必要的才行。
AI 机器人在论坛模仿发帖，导致用户互相指责对方是机器人
一位 YouTube 主播利用论坛的内容训练了一个 AI 语言模型，并将该 AI 模型用于 10 个机器人程序，然后在 24 小时内发了 1.5 万个论坛帖子。这些机器人虽然偶尔会犯错，但该论坛的用户花了两天时间才注意到问题，并识别出了其中一个机器人账号。机器人账号导致了用户之间的不信任，即使在关闭了这些机器人之后，用户彼此之间仍然会指责对方是机器人。
老王点评：过去是安能辨我是雌雄，现在是谁知道你是不是个机器人呢？
微软 Teams 以明文方式存储授权令牌
安全分析师在微软 Teams 的桌面应用程序中发现了一个严重的安全漏洞，它在 Windows、Linux 和 Mac 中以明文方式存储授权令牌，使威胁者能够访问认证令牌和开启了多因素认证（MFA）的账户。研究人员在 2022 年 8 月发现了这个问题，并向微软报告。然而，微软并不同意这个问题的严重性，并表示它不符合打补丁的标准。由于微软不准备提供补丁修复，专家建议用户改用浏览器版本的微软 Teams 客户端。
老王点评：或许微软有自己的逻辑，不过微软这种否认后再提供补丁的事情也不少。
回音
- 美国财政部上个月宣布制裁混币器 Tornado Cash 后引来了反对诉讼，现在它 澄清 制裁不涉及源代码，美国人可以查看、复制、讨论和教授源代码，或将源代码包含在书面出版物中。