Anthropic 的克劳德控制了一只机器狗
作者：Will Knight
随着越来越多的机器人当大型语言模型开始出现在仓库、办公室，甚至人们的家中时，大型语言模型侵入复杂系统的想法听起来就像是科幻噩梦中的东西。所以，自然地，人择研究人员很想知道如果克劳德尝试控制一个机器人（在本例中是一只机器狗）会发生什么。
在一项新的研究中，人类研究人员发现克劳德能够自动化大部分涉及机器人编程并让它完成体力任务的工作。在某种程度上，他们的发现显示了现代人工智能模型的代理编码能力。另一方面，他们暗示，随着模型掌握更多方面的编码并更好地与软件和物理对象交互，这些系统可能会开始扩展到物理领域。
“我们怀疑人工智能模型的下一步是开始接触世界并更广泛地影响世界，”Anthropic 红队成员洛根·格雷厄姆（Logan Graham）告诉《连线》杂志，该团队研究潜在风险的模型。– 这确实需要模型与机器人进行更多的交互。 –
由人类提供由人类提供
Anthropic 由前 OpenAI 员工于 2021 年创立，他们认为人工智能在发展过程中可能会出现问题，甚至是危险的。
格雷厄姆说，今天的模型还不够智能，无法完全控制机器人，但未来的模型可能会。他表示，研究人们如何利用法学硕士对机器人进行编程可以帮助该行业为“模型最终自我体现”的想法做好准备，指的是人工智能有一天可能会操作物理系统的想法。
目前尚不清楚为什么人工智能模型会决定控制机器人，更不用说用它做一些恶意的事情了。但对最坏情况的推测是 Anthropic 品牌的一部分，它有助于将公司定位为负责任的人工智能运动的关键参与者。
在这项名为 Project Fetch 的实验中，Anthropic 要求两组没有机器人经验的研究人员控制一只机器狗 Unitree Go2 四足动物，并对其进行编程以执行特定活动。这些团队获得了控制器的访问权限，然后被要求完成日益复杂的任务。一组使用克劳德的编码模型，另一组则在没有人工智能帮助的情况下编写代码。使用 Claude 的小组能够比仅由人类编程的小组更快地完成一些（尽管不是全部）任务。例如，它能够让机器人四处走动并找到沙滩球，这是人类团队无法弄清楚的。
Anthropic 还通过记录和分析两个团队的互动来研究他们的协作动态。他们发现，无法接触到克劳德的群体表现出更多的负面情绪和困惑。这可能是因为克劳德加快了与机器人的连接速度，并编写了更易于使用的界面。
由人类提供
Anthropic 实验中使用的 Go2 机器人售价为 16,900 美元——按照机器人标准来看，相对便宜。它通常部署在建筑和制造等行业，以执行远程检查和安全巡逻。机器人能够自主行走，但通常依赖于高级软件命令或操作控制器的人。Go2 由总部位于中国杭州的 Unitree 制作。根据最近的一份报告，其人工智能系统目前是市场上最受欢迎的半分析报告。
为 ChatGPT 和其他智能聊天机器人提供支持的大型语言模型通常会根据提示生成文本或图像。最近，这些系统已经变得擅长生成代码和操作软件，将它们变成代理而不仅仅是文本生成器。
关于《Anthropic 的克劳德控制了一只机器狗》的评论
暂无评论