人工智能初创公司 Anthropic 的首席执行官表示，人工智能公司必须对其产品带来的风险保持透明，否则就有可能重蹈烟草和阿片类药物公司的覆辙。
克劳德聊天机器人背后的美国公司负责人达里奥·阿莫代 (Dario Amodei) 表示，他相信人工智能将变得比“大多数或所有人类在大多数或所有方面”更聪明，并敦促他的同行“按照你所看到的方式称呼它”。
阿莫迪在接受哥伦比亚广播公司新闻采访时表示，强大人工智能的影响缺乏透明度，将会重演香烟和人工智能的错误。阿片类药物公司未能筹集到红旗他们自己的产品对健康的潜在损害。
“你最终可能会陷入像香烟公司或阿片类药物公司这样的世界，他们知道存在危险，但他们没有谈论这些危险，当然也没有阻止它们，”他说。
阿莫迪今年警告说，人工智能可能会消除占所有入门级白领工作的一半– 五年内担任会计、法律和银行等办公室职位。
– 如果没有干预，很难想象那里不会对就业产生重大影响。我担心它会比我们以前看到的技术更广泛，而且速度更快，”阿莫迪说。
阿莫代表示，他用“压缩的 21 世纪”这个词来描述人工智能如何在比过去几十年更快的时间内实现科学突破。
“我们能否获得 10 倍的进步速度，从而将整个 21 世纪将要发生的所有医学进步压缩到 5 到 10 年的时间内？”他问道。
Amodei 是网络安全的知名代言人，Anthropic 最近提出了对其人工智能模型的各种担忧，包括明显意识到自己正在接受测试并试图实施勒索。
它上周表示，一个由中国政府赞助的团体已经使用其工具 Claude Code 攻击 30 个实体九月份在世界各地进行了“几次成功的入侵”。
该公司表示，此次袭击最令人担忧的方面之一是克劳德在整个事件过程中基本上是独立运作的。80% 到 90% 的操作都是在无人参与的情况下执行的。
时事通讯促销后
阿莫代在接受哥伦比亚广播公司采访时表示：“这些模特的一个积极的强大之处在于，他们有能力自行行动。”但是，我们赋予这些系统越多的自主权，我们就越担心它们是否完全按照我们希望的方式做？
Anthropic 的人工智能模型压力测试团队负责人洛根·格雷厄姆 (Logan Graham) 告诉哥伦比亚广播公司 (CBS)，模型发现健康突破的能力的另一面可能有助于制造生物武器。
“例如，如果该模型可以帮助制造生物武器，那么该模型通常可以使用相同的功能来帮助制造疫苗和加速治疗，”他说。
谈到被视为人工智能投资案例关键部分的自主模型，格雷厄姆表示，用户希望人工智能工具能够帮助他们的业务，而不是破坏业务。
“你需要一个模型来建立你的业务并让你赚到十亿美元，”他说。– 但是，例如，您不想有一天醒来时发现它也将您排除在公司之外。因此，我们的基本方法是，我们应该开始测量这些自主能力，并进行尽可能多的奇怪实验，看看会发生什么。”