丹尼·德·格拉西亚（Danny de Gracia）：我们的数字身份不能受AI的摆布

人工智能的优势提出了有关尽职调查的严重道德和法律问题。

去年，州参议院运输和文化和艺术委员会在听到参议院2314号法案时引发了大火，该法案提议创建一个数字识别飞行员项目。

尽管该措施的优点是统一的数字身份将使夏威夷居民更加方便，而在没有关于如何使用身份的法律保护的情况下，几位证词正确地反对它其中一个提到可能导致（中国共产党）使用的社会信用评分体系。

中国制度是公民的可信赖分数网格风格的社会管理系统大规模监视。财务，社会和司法评级结合在一起，这实际上是中国政府奖励或惩罚以访问或拒绝银行和住房等公民的一种方式。

尽管参议院的运输委员会在面对公共压力的情况下罐装了善意的措施，但世界最终正在朝着一个大型技术的私有化数字服务控制，以及人工智能的泛滥，如果我们不提供法律保护来阻止这一点，那么实际上将创造一个事实上的社会信用系统。

AI已经是Shadowbanning

甲骨文创始人拉里·埃里森（Larry Ellison）在9月震惊了商业和政治观察员在公司会议上他建议将来，公民会以其最佳行为为由，因为我们不断地记录和报告一切正在发生的事情。甚至警察也会受到监管AI并立即被标记，如果他们做错了什么。

出席大型技术亿万富翁人们想知道他们可能有什么样的影响关于新政府。

重要的是要注意，尽管政府可能不会对个人本身施加限制，但如果私人和政府实体都使用相同的技术，无论谁（或任何控制技术）控制人民和政府。

正如事实一样，如果您是使用Meta的Facebook之类的产品的人，并且您已经使用了很多年了，那么您可能会注意到，为社交媒体平台提供动力的AI是如此的小故障，以至于几年前会对所造成的感知违规行为施加惩罚，并且通常可以将这些罚款直接对人类的罚款。就我而言，我在16年前对我进行了罢工，因为对我的罚款，我可以使用Facebook广告。 

我们已经可以看到在AI所在的位置出现的问题，即限制谁在社交媒体上看到什么内容。这有危险提高主张非人性化或虐待某些人群群体的极端人的形象，同时预防病毒率较低，但头脑更平坦的人无法在社交网络上看到。

想象一下，拥有一个由AI彻底数字化和控制并由私人公司或个人经营的社会将是什么感觉，您可以获得服务限制，并且可以吸引任何东西。这就是为什么IBM在1970年代用于向包括该短语的员工进行培训演讲，“计算机永远无法承担责任，因此计算机绝不能做出管理决定。”

快进到今天。根据行政命令，所谓的政府效率部现在拥有一项软件现代化计划和数据收集和同步的任务。想做出驱逐出境和签证决定与AI。

为了完全透明和披露，我对Musk的S X社交媒体服务进行了订阅，并定期使用他为学术研究和数据分析提供帮助的Grok AI服务。过去，我还写了关于AI的好处（如果正确使用）的文章。

但是，在这种情况下，我关注的是，如果我们没有人性化的支票和余额，以防止私人公司对我们实现事实上的社会信用评分，那么我们可以无意中拥有一个未来的未来，我们将禁止在航空公司上飞行，禁止获得贷款或其他任何其他东西。

线上的数字身份

想象一下，一个噩梦的未来场景，一个人的数字身份受AI的摆布：

• 如果您的手机的麦克风听到您说的话，然后将您视为反社会或危险的黑名单，并禁止您使用某些在线服务（例如数字银行）？

• 如果AI控制的摄像机看到一个看起来与您犯罪非常相似的人，然后黑名单您能够在某些商店购物，而您的信用卡和借记卡只是直接被拒绝，或者通知您在步行一刻的情况下被通知您，该怎么办？

• 如果您年轻时，您会在您的第一修正案权利中井井有条或将视频上传到社交媒体上，后来是一家控制AI的私人公司，决定它不喜欢那些事情，因此当您尝试申请大学和AI屏幕时，它是成年人的投票？

• 如果恶意人侵犯AI网络并将人们的数字身份升级或下降，会发生什么？我们对谁提出上诉？

• 在这里，我知道会引起我们当选官员的关注：如果Ai更喜欢一个候选人而不是另一个候选人并抑制某人在线上的可见度会发生什么？

如果我们现在不采取步骤，这些只是我们可能面临的一些恐怖。

夏威夷»我不应该担心数字身份，如果我们可以受到强大法规保护的数字权利。我们应该在本地领先于当地的宪法修正案或一套数字围栏法，以禁止使用社会信用评分或授权，以使居民有能力上诉私人或公共AI对他们做出的任何决定。

在联邦一级，我们的国会代表团应提出一项宪法修正案，阐明第四修正案包括一个人的数字身份。

美国和夏威夷»我绝对应该将AI作为人类进步的有用工具，但我们应该警惕不民主化并受到政府严格监管的AI。