这是一个gamechanger。
新南威尔士州计划和公共场所部长保罗·斯库利（Paul Scully）描述本月初，州政府推出了针对房屋危机的人工智能（AI）解决方案。
该系统旨在切割繁文tape节和快速建造更多的房屋，预计将在2025年底之前运行。
Scully补充说，它允许施工进行开始，并进入新的钥匙。
宣布后来认可由联邦财务主管吉姆·查尔默斯（Jim Chalmers）作为其他州和领土复制的典范，以“解锁更多的住房”，并提高整个经济体的生产力。
加速建筑批准是所谓的关键问题丰富的议程促进经济增长。
这些轮子已经在澳大利亚其他地方运动。塔斯马尼亚是制定AI政策，南澳大利亚是试用小型飞行员对于特定的住宅应用程序，可以允许用户提交数字架构图，以根据规定的标准自动评估。
但是，AI真的会很快解决澳大利亚的住房危机吗？
剪裁繁文tape节
在上个月的生产力圆桌会议上，住房和AI都是关键主题。
在联合媒体发布联邦住房部长，克莱尔·奥尼尔（ClareOâneil）和环境与水部长穆雷·瓦特（Murray Watt）说，放松建筑商的监管负担是澳大利亚所需要的。
他们指出，根据环境保护法律，目前在评估中陷入了26,000套房屋的积压，这是一个明显的扼杀点。AI将用于简化和加快评估和批准。
但是，这都没有解释AI在计划系统复杂机械中的确切作用，从而使猜测很多。
AI的角色是否仅限于检查申请是否完整，分类和验证文档，为维多利亚委员会已经在探索了吗？或起草评估的书面元素，就像澳大利亚首都地区？
还是会走得更远？例如，AI代理在评估过程的部分地区是否有自主权？如果是这样，那到底在哪里？如何将其集成到现有的基础架构中？最重要的是，专家判断将在多大程度上流离失所？
诱人的快速修复
将AI作为澳大利亚住房短缺的快速解决方案可能很诱人。但这有可能分散注意力更深的系统性问题例如劳动力市场瓶颈，财务和税收激励措施，以及缩小社会和负担得起的住房。
该技术还悄悄地重塑了计划系统以及计划者在其内部的作用，并带来了严重的后果。
计划不仅仅是等待自动化的文书工作。这是在现场访问，倾听利益相关者以及权衡当地环境与更广泛的情况下行使的判断。
剥夺这可以使系统和人们变得脆弱，在事情出错时取代计划者的专业知识和模糊的责任。当涉及AI的错误发生时，很难追踪它们，研究表明解释性一直是技术的阿喀琉斯高跟鞋。
新南威尔士州政府建议负责最终决定的人足以解决这些问题。
但是机器不只是安静地坐在角落里等待按下批准按钮。它轻推。它框架。它塑造了在不同的评估阶段所看到的东西和被忽略的东西，通常以明显的方式。
例如，即使当地社区可能完全不同，强调一些对其他评估者的简报可以简单地倾斜评估者的简报。或者，当AI根据培训数据中埋藏的模式将一个评估途径排名为最佳拟合时，评估人员可能只是向该选项倾斜，而不是意识到其选择的范围和方向已经缩小。
Robodebt的课程
Centrelink的在线合规干预计划 - 更常见的Robodebt在这里带有一些重要的教训。出售是一种使债务恢复更加高效的方式，很快就崩溃了47亿美元的惨败。在这种情况下，自动化的电子表格甚至没有伤害成千上万的人，触发了集体诉讼，并破坏了公众对政府的信任。
如果政府现在将AI视为改革计划和评估的工具，那么他们不应该在急忙奔波。
害怕错过可能是真实的。
但是，明智的举动是停下来首先问：我们实际上要与AI解决什么问题，每个人甚至都同意这是真正的问题吗？
只有这样，如何负责任地做到这一点，而不必绊倒与RobodeBT相同的可避免后果。
负责的创新提供了路线图前进负责任的创新
意味着通过包括并与那些会受到系统影响的人们进行包括并审议的人，预见风险和意外后果，主动寻找盲点，并对影响产生敏感。负责任的创新领域中有大量的研究案例研究，工具和框架，可以指导AI系统的设计，开发和部署。
但是关键是与根本原因和意外后果，并质疑有关AI系统的愿景和目的的基本假设。
我们可以忽略负责任的创新的基础知识。否则，这种所谓的gamechanger到达住房危机可能会发现自己与Robodebt并驾齐驱，这是另一个警告性的故事，说明创新如何随着效率提高而出售，这可能会出错。
Ehsan Nabavi是澳大利亚国立大学负责创新实验室技术与社会的高级讲师。本文是首次在对话上发表
作者想承认Negar Yazdi的贡献，城市规划师和本文