本文与以下机构共同报道标记是一个非营利性的调查性新闻编辑室，致力于挑战技术以服务于公众利益。订阅其时事通讯。

在本周的新闻发布会关于纽约市 120 亿美元的预算缺口，市长佐兰·马姆达尼 (Zohran Mamdani) 将前任政府的人工智能聊天机器人作为“我们要追求的节省开支的众多不同项目之一”。

该聊天机器人由埃里克·亚当斯 (Eric Adams) 政府于 2023 年秋季发布，旨在为企业主提供一种方便的方式来检查城市规则和法规。但正如 The Markup 和 THE CITY 首次记录的那样，该机器人提供了答案，如果遵循这些答案，将导致企业采取非法行为，例如从员工的小费中扣除。

市长发言人多拉·佩克 (Dora Pekec) 在短信中证实，新政府计划关闭该聊天机器人。她说，Mamdani 过渡团队的一名成员看到了有关该机器人的报道标记和城市并将其提交给市长作为一个可能节省资金的地方。 

发布会上，马姆达尼指责亚当斯他表示，为了解决预算短缺问题，他收到了“一个有毒的圣杯”。为了消除赤字，他表示将提高对富人和企业的税收，并在城市预算的“幕后”寻找潜在的节省。 

当记者追问他可能削减哪些内容时，他特别提到了聊天机器人。

“上届政府的人工智能聊天机器人在功能上无法使用，”马姆达尼说。——政府为此花费了大约 50 万美元。这本身并不能弥补这种差距，但它表明了资金的使用方式，同时拒绝考虑这些项目的实际成本。”

该机器人使用微软的云计算平台构建，是纽约名为 MyCity 的数字服务雄心勃勃的改革的一部分。该项目旨在简化与政府的接触，但因依赖关于外部承包商. . . 

目前尚不清楚维护该聊天机器人的成本是多少。只是构建机器人的基础据报道花费近60万美元，接近 Mamdani 提供的数字。Pekec 表示，他们还没有确定消灭该机器人的日期。 

损坏的机器人

The Markup 和 THE CITY 在 2024 年进行的测试表明，尽管 Adams 政府做出了承诺，聊天机器人仍会自信地向访问者提供不正确且可能有害的信息，即使是在高风险主题上。

例如，当被问及住房政策时，机器人建议房东可能会歧视使用第 8 节优惠券的租户。尽管该机器人是企业主的目标资源，但它并不知道最低工资，并告诉用户可以拒绝接受现金付款，尽管 2020 年颁布的城市法律有相反规定。

在《The Markup and THE CITY》的初步报告发布后，读者继续向机器人提出一些有时滑稽的问题，但它仍然未能正确回答。亚当斯政府为机器人辩护，说随着时间的推移它会有所改善。 

“我们正在找出问题所在，我们将解决它们，我们将拥有全球最好的聊天机器人系统，”亚当斯在新闻发布会上说。“人们会来观看我们在纽约市所做的事情。”

城市管理员很快在机器人中添加了免责声明，建议用户“不要将其响应用作法律或专业建议”。他们还改进了机器人的一些答案，但似乎也限制了该工具愿意回答的问题类型。 

如今，该机器人建议访问者“仅询问纽约市政府问题”，并警告“答复有时可能会产生不准确或不完整的内容。”访问者在使用它之前必须同意接受该机器人的限制。