哈雷尔（Harrell
作者：Amy Sundberg
上周，市长布鲁斯·哈雷尔（Bruce Harrell）宣布了这座城市的新AI计划，它希望通过将AI集成到城市的运营，公共服务和公民参与度中来利用技术领域的当前人工智能（AI）繁荣。但是，批评家担心AI在公共服务中的道德含义及其对公共工作者的潜在影响并记录在环境伤害中。
AI将被利用，以加速和住房，改善公共安全，提高对西雅图居民的服务的响应，并启用更容易访问和平淡的语言互动以消除障碍，â€â€€。
该计划包括针对城市员工的AI培训计划，以及与学术界，行业和社区的合作伙伴关系。它对AI的定义很广泛，由于其高水平的性质，它通常缺乏具体细节。
该市还将在其信息技术部（ITD）中增加新的AI领导职位。
哈雷尔在上周的新闻事件上说，我们正试图非常有意将西雅图定位为负责人工智能实施的国家领导者，对此毫无疑问。我们认为，它将使我们不仅成为一个强大的城市，而且作为一个港口城市，作为海事城市，作为一名生物技术领导者，作为一名高科技领导者，确实适合我们的结构。
该市还推出了其新的相关性AI政策为城市雇员的使用规定了AI的使用规则，包括一系列禁止用途。它需要归因于生成图像，视频和源代码的AI工具；如果在最终产品中实质上使用，则需要由AI生成的文本归因。
该政策说，员工必须在以新方式使用AI之前进行种族权益工具包，并且部门应在采购之前努力了解特定工具的环境影响。这些规则在实践中如何运行，以及它们是否会劝阻某些AI用例，尚不清楚。
首席技术官目前Rob Lloyd负责执行该政策。
西雅图的许多AI飞行员
迄今为止，该市已经参与了42名AI飞行员，其中24名正在进行中。
在18个完整的飞行员中，大多数被指定为“一般使用”，并包括AI应用程序，例如Fathom AI，Beautiful.ai，otter.ai，hootsuite，hootsuite，hootsuite，hootsuite，ai日历，等等，这些功能都执行了基本功能，例如转录，日历协调，日历和内容创建和内容创建和内容。
一名由西雅图警察局（SPD）完成的飞行员测试了Caseguard，用于编辑造成的伪装视频以进行公开披露。西雅图消防局（SFD）测试了Corti的工具，以提供非紧急呼叫的音频分析，又提供了针对公共安全，文档，质量改进和培训的音频分析。
在正在进行的24名飞行员中，ITD内有11名。目前有四个在西雅图建筑与检查部（SDCI）内运行，目的是简化和加快许可过程。西雅图运输部（SDOT）正在测试软件，以识别工程改进可以减少撞车风险的交叉点。
ITD发言人梅根·埃伯（Megan Ebb）告诉城市主义者社区协助回应和参与（关心）部门还考虑使用AI工具来分析呼叫优先数据，这可能有助于他们更好地将正确的资源分配到正确的呼叫中。但是，这还不是活跃的飞行员。
SPD有两个新飞行员：一位是亚马逊Q/BedRock Business聊天机器人 - 从事一般业务，低风险棒的一般业务，另一个与C3 AI，ITD说的是用于更轻松的参考政策信息。EBB说，C3 AI目前尚未用作协助基本刑事调查的工具。
EBB告诉城市主义者。作为此过程的一部分，该部门正在有限用例中测试平台，例如总结调查结果，以帮助以更容易理解的方式提供信息。
亚马逊出版博客文章今年夏天早些时候，关于基岩可能使用的公共安全应用，重点是接收噪音投诉的工具，并自动生成事件报告。帖子中提到的其他用例包括报告没有受伤的交通事故，废弃的车辆报告以及涂鸦和故意破坏报告。
ITD没有与城市主义者。一个
当被问及有关亚马逊AI飞行员的更多信息时，哈雷尔市长的发言人本·达尔吉蒂（Ben Dalgetty）表示，SPD目前正在为这项技术制定政策和技术护栏。
达尔特蒂说，这项技术的未来用途可能对识别用于预防犯罪的复杂趋势和模式具有影响，但是在SPD愿意以这种方式使用它之前，需要做很多工作。
此描述听起来很危险地接近AI促进的预测性警务，这研究表明可以导致少数民族社区的目标不成比例。根据AI工具使用的数据，可以通过多种方式进一步加剧这种偏见。
许多美国参议员派一封信2024年初向美国司法部致以拨款预测警务项目的赠款。
安装证据表明，预测性警务技术不会减少犯罪。参议员写道，相反，他们通过执法部门对美国有色人种的不平等待遇恶化。后来，继续使用此类系统会产生危险的反馈循环：使用有偏见的预测来证明在少数民族社区中停止不成比例的停止和逮捕，这进一步偏向于犯罪发生的地方的统计数据。
同时，ITDâ最近的年度学习会议有两名Oracle高管展示了用于警察案件记录管理的AI软件界面。该软件涉及音频和视频文件的AI转录以及文本摘要。
这里有很多问题，尤其是在警务背景下，尤其是当我们谈论从最初录制的事情中进行的事情时，华盛顿大学的语言学教授Emily Bender博士说，他专门研究计算语言语言。
本德（Bender）解释说，当使用的语言与“声望”标准不同时，AI转录技术也不起作用，这可能会导致更多的错误。AI模型在对其训练的数据中也有偏见。
基于即时输入以及所有其所有预训练数据，生成的AI系统基本上可以输出可见的外观文本，因此很可能会输出其他细节，这些细节在上下文中看起来不合理，但与发生的事情无关，与发生的事情无关。
事后，可能没有给予官员在此类AI系统中纠正转录和其他错误的时间和空间。这样的制度也会损害问责制，因为报告生成的报告可以在法院作为涉及官员的帐户提出，而当时该官员并非从事实际发生的事情的个人帐户。
最近，社区对SPDâ使用生成AI在与公众进行交流时的关注。publicola报告在警察问责制办公室（OPA）的投诉中，一名匿名社区成员指控SPD使用AI来生成公共面向公共的材料，包括博客文章和新酋长肖·巴恩斯（Shon Barnes）的声明。虽然众所周知的AI检测工具发现上述示例可能是由AI完全或部分撰写的，但SPD否认了使用生成的AI以实质性的方式进行通信。
这个示例显示了该市AI政策的弱点，这对AI文本生成的实质性使用含糊不清。如果上面的SPD通信确实是使用AI工具生成的，则应该存在归因于这种情况。作为publicola报道说，OPA将投诉称为主管行动，这意味着除了培训或教练之外，没有任何后果。
级联PBS最近报道在埃弗里特（Everett），即使在纽约市采用了需要AI生成的文本的AI政策之后，市政府工作人员也始终遵循指南。
除了AI工具有时提供不正确的信息（有时称为幻觉 - 幻觉）外，AI的使用还可以进一步侵蚀政府的信任，这是SPD的特定问题，因为它试图重建社区的信任。一些批评家认为，AI生成的文本在政府通讯中没有地位。
bender说。建立一个只是为了模仿人们使用语言的方式而设计的系统。
关于城市使用人工智能的其他担忧
像埃弗里特这样的城市的例子质疑了城市AI计划的实际实施。”
Openaiâ¢最新的聊天机器人模型Chatgpt-5的最新发行无法画画准确的美国地图或创建准确的美国总统名单，加快了对生成AI的批评，并提出了有关该技术未来的问题。”
即使是在部署的早期，AI也因其环境影响而面临批评。动力AI的数据中心需要大量的淡水进行冷却，并且彭博新闻成立自2022年以来建造的三分之二的数据中心都在已经遇到水压力的位置。数据中心的功率需求也有望增长，随着麦肯锡写作在美国，这种权力需求将比目前的能力高三倍，增加依靠化石燃料。
有望在实践中不一定会实现AI可以容易取代人类工作。例如，瑞典公司克拉纳（Klarna）于2022年开始裁员700名员工，以替换AI，只是决定在今年春季重新雇用人类雇员。”
哈雷尔（Harrell）强调，这座城市不打算使用AI来代替其工人，并承诺将工会领导人保持在循环中。”
哈雷尔说，我们与工党合作伙伴合作。当我们看某些可能被AI取代的任务时，我们总是确保在以人为本的方法坐在一起时，我们与劳动伙伴合作，并确保这些讨论是开放且透明的。
AI计划补充说，[A]的智能系统开始自动化常规和/或行政任务，工作角色确实会重新关注高价值，富有创造力，面向人员和决策责任。
城市主义者与代表许多城市工人的工会达成了Protec 17。他们的执行董事Karen Estevenin说，我们的执行董事Karen Estevenin表示，我们已经意识到该市的AI计划，并正在收集信息并分析对Protec17成员的影响。尽管我们关注有关AI如何影响员工的许多方面，包括降低职位的任何降低 - 我们也有兴趣探索可以支持工作并改善城市雇员工作条件的智能，安全和有效的AI使用。”
可能影响城市工人的另一个问题是使用AI导致了营养的工人。最近的论文在柳叶刀发现在结肠镜检查期间定期使用AI进行息肉检测的肠道学家变得六个月内，某种类型的息肉检测率没有AI使用率从28％下降到22％。 今年夏天早些时候
Mitâ的媒体实验室发现与仅使用大脑或搜索引擎的人相比，使用大型语言模型（LLMS）进行论文写作是出于认知成本，并使用了较弱的认知参与。” bender说，如果这个想法是做这些飞行员并评估，那么这座城市确实应该评估对劳动力咨询服务的影响以及可以提供的服务质量的影响。”
在公共部门使用AI时，还有一个问责制。
尽管Harrell和AI计划都清楚地可以在使用这些工具时将人保持在循环中，但这些工人可能被用作道德上的破碎区，因AI错误而受到打击。
bender说，有时候，循环中人类的人最终会在出现问题时会受到影响，并且他们正在有效地保护决定进行自动化的较大组织。”
采用AI的推动
尽管有可能的危险，哈雷尔还是热衷于将AI纳入西雅图市。
Harrell说，我们正在利用一个强大的工具来为所有人建造一个更好的城市。通过故意和负责任地使用这项技术，我们正在培养一个国家领先的人工智能经济，为我们的居民创造就业机会和机会，同时为每个人创造更具创新，公平和高效的未来。
去年，哈雷尔（Harrell）受邀在国土安全和人工智能安全委员会任职陈述目的是为基础设施利益相关者提出建议，以负责任地利用AI，并预防和准备与AI相关的关键服务。哈雷尔也可以使用作为美国市长会议的主席，技术与创新常设委员会。
哈雷尔（Harrell赞美右翼技术领导者谁资助了特朗普的竞选活动。
哈雷尔说，我们目前的总统周围有一些最聪明的创新者围绕着自己。当我们丢下诸如Andreessen，Peter Thiel或David Sacks或Elon Musk之类的名字时，这些都是聪明的创新者。
具有讽刺意味的是，马斯克在今年早些时候在政府效率部（DOGE）的工作中为在政府中使用AI LLM的强烈警告性故事。尽管有麝香和大门的效率目标，但大西洋成立在今年2月和三月实际上比去年同一几个月中花费的钱更多。
相反，Doge及其在促进联邦一级采用LLM的作用已将前所未有的权力交给了控制合同模型的富裕技术首席执行官：即Mark Zuckerberg（Mark Zuckerberg（元），彼得·蒂尔（Peter Thiel）（Palantir）和麝香（xai）。联邦政府目前正在使用的AI系统导致较少的问责制，透明度较小，并创造了广泛的监视状态。
相比之下，哈雷尔（Harrell）将西雅图作为负责人AI实施的领导者出售。
Lloyd说，您看到我们为AI政策提供的控件，我们的计划是要经过负责任的使用。”劳埃德说。存在一个安全过程，存在一个隐私考虑。当我们经历这一点时，我们还说我们将使AI能够使西雅图市能够解决公民挑战。
AI计划呼吁建立一个全市AI治理小组，该组织将负责就AI计划及其优先事项提供意见和指导。AI领导职位填补后，将于今年秋天晚些时候召集该小组。
公民权利办公室没有参加AI计划的制定。但是，他们将被要求参加治理小组。
班德说，对于纽约市而言，要具体说明他们想要自动化的内容，避免合成的文本机器并以经过良好测试和明智的方式选择用例，这将非常重要。
同时，由于该市面临结构性预算赤字，因此使用AI工具作为创可贴来保持运转可能很诱人。但是该策略可能会造成更大的差距。
bender说，如果您想到谁有能力选择退出供应较差的城市服务，那么这是富人。 - 其他所有人都将被我们共同做的事情所困扰。那么，为什么我们做得不好呢？
更正：原始版本错误地将Ben Dalgetty确定为该市IT部门的发言人。他是市长办公室的发言人。
艾米·桑德伯格（Amy Sundberg）是《祖母绿城市》（Emerald City）的票据的出版商，《西雅图政治和政策》周刊，特别关注公共安全，警察问责制和刑事法律制度。她还写了科幻小说，幻想和恐怖小说。她特别喜欢西雅图的公园，在那里她经常被发现walking狗。
关于《哈雷尔（Harrell》的评论
暂无评论