亚马逊警告员工不要使用第三方人工智能聊天机器人,例如 ChatGPT。据 Business Insider 获悉,现在鼓励员工使用名为 Cedric 的新内部工具。
Cedric 是一个“通用人工智能聊天机器人”,“比 BI 获得的内部文件 ChatGPT 更安全”说。亚马逊员工可以“用它来提出问题、总结文档并集思广益。”
Cedric 的目标是帮助亚马逊员工提高工作效率和工作满意度,因为由于安全原因无法使用外部人工智能工具,该文件称。
“自 ChatGPT Enterprise 和 Co-pilot Enterprise 发布以来已经一年多了,但由于商业用途安全的选项有限,亚马逊人仍落后于潮流,”文件说。“如果没有人工智能助手,亚马逊人的工作满意度将低于其他采用这些工具的公司。此外,利用人工智能的公司将拥有更高的决策速度和更高的生产力,因此能够比亚马逊更快更好地为客户提供服务。“
Cedric 的推出凸显了公司在寻求安全可靠地使用人工智能工具时所面临的挑战。虽然人工智能聊天机器人可以为员工提供潜在帮助,但员工有意或无意地共享机密商业信息的风险很高。关于生成式人工智能公司如何处理进出其系统的机密信息以及这些数据是否用于模型训练,仍然存在疑问。
对于亚马逊来说,这是一个棘手的问题。一个特别棘手的问题。它的主要竞争对手微软已经推出了AI助手产品,并且是ChatGPT背后的初创公司OpenAI的密切合作伙伴和投资者。2022 年末 ChatGPT 发布后不久,亚马逊开始警告员工不要与聊天机器人分享机密信息。今年早些时候,亚马逊正式制定了内部指导方针,禁止外部人工智能工具(包括 ChatGPT)用于商业目的。
近年来,包括苹果、三星和摩根大通在内的许多大公司都限制了外部人工智能工具的使用。出于隐私考虑,他们的员工不使用 ChatGPT。这催生了一批隐藏的员工在工作中秘密使用此类人工智能工具,称为“CheatGPT”,因为该技术可以帮助他们更快地完成工作。
亚马逊发言人在给 BI 的一封电子邮件中表示,该公司支持在工作中使用生成式 AI 技术,包括 Cedric,内部指导可帮助员工“使用这些服务,同时正确管理机密信息。”
“亚马逊员工每天使用内部生成式 AI 工具代表我们进行创新我们为员工使用这些技术制定了保障措施,重点是保护机密信息,包括访问第三方生成人工智能服务的指导。”发言人补充道。
根据内部文件,亚马逊在内部称 Cedric 为“您的安全文档读写伴侣”。它建议员工使用它“在几秒钟内”创建亚马逊著名的六页备忘录,并“安全可靠”地将会议记录转换为电子邮件就绪格式。
内部文件补充说,塞德里克接受过对话文本培训,因此鼓励员工使用简单的英语,就好像他们在对话一样。新工具还可以帮助产生新想法并解决问题。建议的用例之一显示,员工可以上传 Word 文档、PDF 文件和 Excel 电子表格,并询问副总裁对这些内容有何看法。
所有亚马逊员工现在都可以访问 Cedric。一些员工告诉 BI,经过早期试点期后,几周前,亚马逊开始在公司范围内更广泛地推广 Cedric。
对于 Cedric,亚马逊没有使用其内部人工智能模型 Titan。根据该文件,亚马逊反而使用了其 Bedrock 人工智能开发平台和 Anthropic 的 Claude 大语言模型。(亚马逊在 Anthropic 上投入了大量资金)。
Cedric 是亚马逊最近推出或正在内部构建的众多人工智能工具之一。Amazon Q 是其针对企业和开发人员的旗舰人工智能工具。另外,据 BI 此前报道,亚马逊正在开发另一个代号为 Metis 的人工智能聊天机器人和升级后的人工智能驱动的 Alexa 应用程序。
与这些应用程序不同,Cedric 仅供内部使用,其输出“无法使用”内部文件警告说:“在亚马逊之外。”
安全是 Cedric 的关键点。文件称,软件开发人员和亚马逊网络服务员工被批准使用 Cedric 来处理“高度机密的数据”。Cedric 不会将任何输入共享回底层基础模型以用于培训目的,也不会将其发送给任何第三方开发人员。聊天历史记录保存在加密数据库中。
但是,文件建议,对于代码生成,员工应使用 Amazon Q 而不是 Cedric。
Cedric 不应用于任何“该文件补充说,“重大”决定可能会对个人产生“法律或类似的重大影响”。
尽管如此,亚马逊似乎对塞德里克的能力充满信心,并鼓励员工在与公司最重要的人会面之前使用它高级管理人员。
“首席执行官会如何回答?”内部文件建议询问人工智能聊天机器人。
你在亚马逊工作吗?有提示吗?
通过加密消息应用程序 Signal 或 Telegram (1-650-942-3061) 或电子邮件 (ekim@businessinsider.com) 联系记者 Eugene Kim。使用非工作设备进行接触。查看《商业内幕》的来源指南,了解有关安全共享信息的其他技巧。