全部新闻
四种促进前沿人工智能开发透明度的方法
关于加州AI监管法案SB 1047的辩论已经结束——经过几个月的激烈讨论，该法案于九月下旬被州长加文·纽森否决。作为一名专注于AI政策分析的研究员以及前OpenAI治理和对齐研究者，我们彼此之间对于SB 1047的价值持不同意见，并且至今仍持有不同的观点。人工神经网络是通过训练而非编程来实现的。披露正在开发的能力 而不是强迫公司披露如何获得某项能力的专有细节，我们提议仅分享已获得该能力这一事实。如果AI证明像我们认为的那样具有变革性，它将挑战美国现状的许多方面。
凯茜·伍德押注这只人工智能股票：值得买入吗？| 耶鲁俱乐部
Wood 持有这家公司的股票，但这绝不是一场“全押”的赌注。除此之外，Recursion Pharmaceuticals 从根本上改变药物制造商的运营方式，有可能为股东带来超额回报。毕竟，该公司目前没有在市场上销售任何产品。其 REC-994 在治疗症状性脑海绵状血管畸形的二期研究中达到了安全性和耐受性的主要终点。遵循 Cathie Wood 的做法，在这家公司的股票上建立一个小仓位可能是最好的选择，并在 Recursion Pharmaceuticals 证明其方法有效时逐步增加持股比例。
开放人工智能发布了一个基准工具，用于衡量AI代理的机器学习工程性能。
MLE-bench 是一个离线的Kaggle竞赛环境，用于AI代理。该团队撰写了一篇论文描述他们的基准测试工具，并将其命名为 MLE-bench，发布在arXiv预印本服务器上。测试涉及让一个新的AI解决尽可能多的问题。为了提高他们在这些基准测试中的分数，被测试的AI系统可能还需要从自己的工作中学习，或许包括它们在MLE-bench上的表现。除个人研究或学习目的可以合理使用外，未经书面许可不得以任何形式复制部分内容。
观看：穿运动鞋的人形机器人在戈壁趣味跑中击败了赤脚机器人
几个月前，中国的机器人时代公司展示了其XBot-L人形机器人的行走能力，让它在中国长城上自由漫步。其中一个“赤脚”行走，另一个则穿着时髦的运动鞋。该公司报告称，穿鞋的人形机器人虽然起步较晚，但很快就追上了对手，并最终领先，以每秒3.6米（8英里/小时）的速度跑了34分钟。马拉松选手：穿着运动鞋的Star1人形机器人与人类一起在戈壁地区慢跑 该公司表示，“此次测试将为其实现部署通用人工智能驱动的人形机器人的家庭和工作场所的目标铺平道路。”而众多企业如特斯拉、Figure、Unitree和Fourier等也在竞相进入这一预计将非常有利可图的市场，Star1只是众多希望之一。
宣布我们更新的责任扩展政策
今天，我们发布了对我们负责任扩展政策（RSP）的重要更新，该政策是我们用于减轻前沿人工智能系统潜在灾难性风险的风险治理框架。关键改进包括新的能力阈值，以表明我们将何时升级我们的保障措施，细化了评估模型能力和我们安全保障措施充分性的流程（受安全案例方法论的启发），以及针对内部管理和外部反馈的新措施。按比例的安全保障体系 正如之前一样，我们仍然坚持核心承诺：除非我们实施了将风险保持在可接受水平的安全和保障措施，否则我们不会训练或部署任何模型。从这一点上，我们学到了两个宝贵的经验教训，并将其融入到我们的更新框架中：我们需要在政策中增加更多的灵活性，以及需要改进跟踪RSP合规性的流程。该角色负责协调多个团队，以迭代和完善对RSP的遵守。 如果您想为Anthropic的人工智能风险管理做出贡献，请关注招聘信息！
MIT科技评论的人工智能入门指南
或者如果你已经是人工智能的爱好者，请把它发给你生活中对这项技术感到好奇但刚开始探索其含义的人。我们将涵盖以下内容： 第1周：什么是AI？ 第2周：你可以用AI做什么 探索在你的生活中使用AI的方式。 第4周：要警惕的AI陷阱 我们将介绍现代AI系统中最常见的问题，以便你能为自己和他人提防这些陷阱。关于这项强大的新技术有太多值得学习和讨论的内容。
亚马逊广告的AI生成工具现在也可以创建音频广告了
很快，您将在亚马逊的平台上听到更多由生成式人工智能创建的音频广告。“通过增加音频内容，我们提供了一整套工具，这些工具可以从产品详情页面上的信息中生成图片、视频和音频。”亚马逊创意体验副总裁Jay Richman在接受ADWEEK采访时说。出版商使用Amazon Publisher Cloud与在亚马逊DSP上运行的广告商规划程序化活动。亚马逊DSP副总裁Kelly MacLean表示，此次整合将允许品牌利用发布商和广告客户的自有数据创建定制受众群体。MacLean还提到，用于预测广告和平台对广告客户最有效的AI驱动工具Performance+也已更新。据亚马逊称，在使用Performance+策略时，自由职业市场公司Fiverr的每次转化成本（CPA）降低了66%，点击率提高了72%。
MIT科技评论的人工智能入门指南
或者如果你已经是人工智能的爱好者，把它发给你生活中对这项技术感到好奇但刚刚开始探索其意义的人。我们将涵盖的内容如下： 第一周：什么是人工智能？ 第二周：你可以用人工智能做什么 探讨你可以在生活中如何使用人工智能。 第四周：要警惕的人工智能陷阱 我们将介绍现代人工智能系统中最常见的问题，以便你能为自身和他人保持警觉。关于这项强大的新技术有太多值得学习和讨论的地方。
诺贝尔经济学奖得主西蒙·约翰逊论人工智能与劳动力 - 市场场所频道
诺贝尔奖得主西蒙·约翰逊在周一的新闻发布会上。西蒙·约翰逊：好吧，大卫，我认为机构的发展者，这将对未来谁能找到好工作产生重大影响。但是，我认为我们可以做很多事情来引导技术进步，并推动AI及其周边领域的创新者发明更多对人们有用的物品，提高尤其是受教育程度较低的人们的生产率，而不是让那些在美国西海岸运营已经很大的科技公司的少数人变得更加富有。我认为，这是当前的关键前沿领域。无论何时，市场都在为您提供服务。
数百万人正在使用AI机器人在几分钟内为几乎任何人生成裸照，在一个‘噩梦般的情景’中。
在线聊天机器人应用户要求生成真人裸照，引发了专家们的担忧，他们担心这些露骨的深度伪造图像将“创造一个非常恐怖的情景”。《连线》杂志在消息应用Telegram上发现了很多据称能够“只需点击几次就能创建人们的色情照片或视频”的AI驱动聊天机器人。英国反家暴组织Refuge的技术支持滥用和经济赋权部门负责人Emma Pickering告诉《连线》，这种虚假图像会通过造成心理创伤、羞辱感、恐惧感、尴尬感和耻辱感来危害一个人的身体健康和心理健康。“使用智能手机出现之前的法律对平台管理者因其管理平台上第三方的行为而追究其刑事责任是一种误解的方法，”Durov在Telegram上发布的一篇文章中写道。“然后你可以在那里分享这些内容，并且实际上执行最终的危害行为。”
