2017年，荷兰鹿特丹市部署人工智能（AI）系统以确定福利接受者实施欺诈的可能性有多大。分析数据后，系统出现了偏见：它将女性、年轻人、有孩子以及荷兰语水平较低的人标记为“高风险”。
鹿特丹系统在外部道德审查后于 2021 年被暂停，但它展示了当政府在没有适当监督的情况下采用人工智能系统时可能会出现什么问题。随着越来越多的地方政府转向人工智能，努力为居民提供实时和个性化的服务、“更智能”的环境以及更好、更安全的系统，风险正在上升。
作为我们的一部分正在进行的研究，我们研究了全球 170 个使用各种人工智能系统的地方政府。
我们发现人工智能已经触及公共服务提供的几乎各个方面，并且大多数政府甚至没有相关的公开政策。
日常治理中的人工智能
人工智能应用正在影响地方治理以深刻的方式。我们的国际调查发现了 170 个地方议会的 262 个人工智能采用案例，涵盖广泛的技术和服务。
我们发现这些技术正在五个关键领域部署。
1.行政服务。例如，访问马德里GPT西班牙马德里的旅游聊天机器人为游客提供个性化推荐、实时支持和文化见解。
2. 医疗保健和福祉。例如，在 2021 年新冠疫情最严重期间，美国波士顿市长办公室启动了人工智能驱动的聊天机器人用于非接触式食品配送，同时解决饥饿和安全问题。
3.交通和城市规划。澳大利亚洛根市实施了实时人工智能系统让司机随时了解情况有停车位的地方，减少拥堵和沮丧。与此同时，人工智能驱动的公共交通路线优化正在广泛采用以节省时间和排放。
4、环境管理。在中国杭州，人工智能系统被用来更有效地对废物进行分类，提高回收率。
5. 公共安全和执法。美国芝加哥已使用传感器和人工智能自动化来制定执法策略。据报道，通过查明犯罪热点，该市减少枪支暴力2018 年增长了 25%。然而，这项技术也引发道德担忧关于种族定性。
人工智能的双刃剑
我们使用人工智能进行的研究发现，截至 2023 年 5 月，只有 26 家发布了人工智能政策——不到 16%。大多数人都在部署强大的人工智能系统，但没有可供公众监督或问责的公开框架。
这引起了人们对道德违规、系统性偏见和不受监管的数据使用的严重担忧。
如果没有强有力的政策，地方政府可能会在没有严格检查或外部监督的情况下部署强大的人工智能系统。在分配公共住房或医疗服务等资源时，算法可能会无意中歧视某些人群。正如鹿特丹的福利欺诈风险评分所示，风险可能非常高。
在制定人工智能政策的委员会中，明确强调与利益相关者的合作、提高员工和公民的意识以及确保透明度和监管。
其中，巴塞罗那市议会的人工智能政策脱颖而出。其政策包括人工智能透明、确保人工智能决策可以解释和公平等原则，并为其他城市树立了基准。
黑暗中的公众
我们的团队最近在澳大利亚、西班牙和美国进行的一项调查显示，公众对人工智能的认识与地方政府的行动之间存在巨大差距。超过 75% 的受访者意识到人工智能技术及其在日常生活中日益增长的存在，但在地方政府举措方面却没有意识到。
平均而言，一半的受访者不知道当地政府正在公共服务中积极使用人工智能。更令人担忧的是，68% 的受访者表示，他们不知道地方政府有（或可能有）管理人工智能使用的政策。
这种意识的明显缺乏引发了对地方议会透明度和沟通的紧迫问题。随着人工智能越来越多地融入城市管理（从交通监控到公共安全和环境可持续性），更好地向公众提供信息至关重要。
如果没有公众的理解和参与，在治理中为人工智能建立信任、问责制和道德监督的努力可能会面临重大障碍。
我们面临的未来
毫无疑问人工智能系统具有巨大潜力完善城市治理。但如果没有优先考虑透明度、问责制和道德使用的政策，城市就有可能推出一个弊大于利的系统。
然而，对于地方政府和公民来说，避免这种严峻的未来还为时不晚。地方政府可以制定强有力的人工智能政策确保数据的公平、透明和道德使用。公民可以了解人工智能在地方治理中的作用。
人工智能应用正在重塑和改变我们的世界。但我们如何选择引导他们融入我们的社区将决定他们是否是一股正义的力量，或者只是实施偏见和隐藏的议程。
我们的项目正在与澳大利亚、美国、西班牙、香港和沙特阿拉伯的地方政府合作，制定人工智能指导原则，我们的目标是在 2025 年底之前最终确定这些原则。
作者感谢 Kevin Desouza、Rashid Mehmood、Anne David、Sajani Senadheera 和 Raveena Marasinghe 对本文所述研究的贡献。