联邦贸易委员会兑现了打击涉嫌欺骗性人工智能声明的承诺，宣布对五家被指控谎报软件功能或利用该软件进行诈骗的机构采取法律行动违法。
其中两起案件已经和解。美国监管机构表示，其他三人选择将此事告上法庭。这五个实体都成为消费者监管机构所谓的“AI 合规行动”的目标。
想要将此事告上法庭的三个实体 - Ascend Ecom、Ecommerce Empire Builders 和 FBA Machine - 均被指控提供某种方案的变体，向客户承诺高收入，以换取建立和管理利用人工智能的在线店面。联邦贸易委员会表示，在每起案件中，这些说法都是非法虚假的，受害者在支付库存、培训和使用现成电子商务商店的费用后损失了数百万美元，希望获得从未实现的收入。
Ascend Ecom、Ecommerce Empire Builders 和 FBA Machine 均收到了针对他们的法院命令，要求停止运营，同时针对他们的诉讼仍在继续。
“使用人工智能工具来欺骗、误导或诈骗人们是一种行为非法，”联邦贸易委员会主席莉娜·汗本周表示。
“联邦贸易委员会的执法行动明确表明，人工智能没有受到法律规定的豁免，”她补充道。“通过打击这些市场中的不公平或欺骗性行为，联邦贸易委员会正在确保诚实的企业和创新者能够获得公平的机会，并保护消费者。”
在与 FTC 解决案件的两个组织中，您可能会认出其中一个：DoNotPay，该组织于去年初取消了使用人工智能在法庭上为一名男子辩护的计划，因为该公司的首席执行官因涉嫌入狱而受到威胁。在没有执照的情况下在加利福尼亚州执业。
该行为发生几个月后，DoNotPay 被一位客户起诉，声称机器人律师不是“机器人、律师，也不是律师事务所”，并且它的服务普遍很垃圾，周转时间太长；交付的文件不完整；一个人在试图使用人工智能进行战斗时无意中支付了罚款。
联邦贸易委员会通常也得出这样的结论，该机构声称 DoNotPay 无法兑现其生成文件或文件的承诺。在没有律师的情况下提起诉讼，因为它“没有进行测试以确定其人工智能聊天机器人的输出是否等于人类律师的水平，并且该公司本身没有聘请或保留任何律师。”
DoNotPay以 193,000 美元与 FTC 达成和解，承诺向 2021 年至 2023 年间使用该服务的所有客户发出信件，警告他们其局限性，并承诺在没有证据的情况下停止宣传其服务作为法律帮助的替代品。
该公司告诉 The Register，它很高兴与联邦贸易委员会解决了此事，并告诉我们它没有承认这样做有任何不当行为。
“投诉与使用有关几年前（数百万人中）的数百名客户，其服务早已停止，”DoNotPay 发言人告诉我们。
虽然 FTC 公告中的四个案件是在没有获得监管机构委员异议的情况下做出裁决的，但领导层在 Rytr（一家销售人工智能书写工具的初创公司）问题上存在分歧。委员会以 3 比 2 的投票结果做出了授权对该公司提出投诉的决定。
Rytr 为各种用例提供机器学习软件，曾一度允许用户使用其工具生成详细的推荐评论，这正是 FTC 所质疑的。
“Rytr 的服务生成的详细评论包含与用户输入无关的特定且通常是重要的细节，而这些对于复制这些评论并在网上发布的用户来说，评论几乎肯定是虚假的。”FTC 表示。
委员会对人工智能生成的产品评论采取行动并不奇怪：联邦贸易委员会去年提出了一项禁止人工智能生成的产品评论的规则，并且该规则已生效下个月。
目前，该初创公司被监管机构指控“违反了联邦贸易委员会法案，向订阅者提供了为消费者评论生成虚假和欺骗性书面内容的手段。”
前 FTC 首席技术专家 Neil Chilson 不同意监管机构在 Ryter 案件中的决定，他告诉 The Register，他担心这会损害人工智能领域的创新。
“FTC 没有提供任何证据表明 Rytr 用户确实这样做了损害消费者，”奇尔森辩称。“它指责 Rytr 假设的用户不良行为。”
Chilson 引用了两位持不同意见的 FTC 委员的话说，他们同意他的观点，即该决定开创了惩罚新技术开发人员滥用的先例，即使开发商不是造成伤害的原因。
“联邦贸易委员会通过这种不必要、浪费和非法的越权行为损害了其合法反欺诈工作的可信度，”奇尔森认为。
该机构在针对 Rytr 的投诉 [PDF] 中辩称，该公司确实有一个非常简单的“推荐和评论”用例，可以让用户选择语气，添加某些关键字，然后导出副本 - 在监管机构看来，这将违反禁止人工智能生成产品评论的规则。
此外，FTC 还记录了 Rytr 为此目的的一些实际用途
“记录显示，至少有一些订阅者利用 Rytr 服务生成了数百条甚至数千条评论，”该委员会表示。
“一名订阅者生成了数百条评论，有时甚至数千条评论。”投诉继续说道，而另一位用户“针对各种特定的包装和搬家服务产生了超过 83,000 条评论。”
Chilson 对此做出了回应联邦贸易委员会的投诉称，联邦机构没有提供这些审查的实际证据，而且美联储在本案中采取的做法意义重大。
这......可能会牵涉到任何以下企业：创建用户滥用的工具
“投诉将 Rytr 用户的假设不良行为归咎于 Rytr。这是一种突破新法律基础的尝试，它远远超出了‘虚假评论’的范围，并且可能牵涉到任何创建用户滥用工具的企业。”Chilson 告诉我们。
Rytr 并未根据以下条款被处以罚款：该公司已与 FTC 达成和解，也没有承认有任何不当行为，但同意停止提供类似服务。Chilson 表示，该初创公司已经取消了为客户提供推荐和评论的选项。在和解之前撰写评论，使 Rytr 不得不接受交易条款。
“FTC 希望 Rytr 能够轻松接受这项和解；“他们不希望法院审查这一边缘理论。”Chilson 说道。
我们已联系 FTC，以了解更多有关 Rytr 诉讼背后的理由。Rytr 没有发表评论。
p>