人工智能驱动的社会媒体操控应用承诺能够“塑造现实”
2024-10-16 13:44:13
英文原文
作者：Emanuel Maiberg · Oct 16, 2024 at 9:41 AM
Impact是一款自称是“用于在现代世界塑造和管理叙事的AI赋能基础设施”的应用程序，它正在测试一种方法，在社交媒体上组织和动员支持者以推广某些政治信息。该应用旨在召集一群支持者，他们将在社交媒体上发布由AI编写的观点陈述，目的是操纵社交媒体算法。
在提供给对使用该应用原型感兴趣的人员查看的视频演示和概述文档中，404 Media 观察到，Impact 展示了它可以向支持者群体发送推送通知，引导他们关注特定的社交媒体帖子，并为他们提供可以复制粘贴的人工智能生成文本，以便用反论淹没回复。
概述文档将Impact描述为“数字世界的志愿消防队”，赋予了“大量‘好人’”力量，让他们能够“扑灭活跃的火灾，熄灭小规模的灌木丛火，并甚至进行预防性工作（预辟谣）以阻止可能尚未发生的火灾。”然而，专家表示，Impact所提议的内容可能会进一步模糊线上行为中真实与不真实的界限，并可能导致一个只有拥有资源支付此类服务的人才能“塑造现实”的世界，正如Impact概述文档所述。该应用还展示了AI生成内容如何继续充斥互联网并扭曲现实的方式，就像它已经造成的情况一样。谷歌搜索结果, 在亚马逊上售出的书，和 ghost kitchen菜单.
关于《人工智能驱动的社会媒体操控应用承诺能够“塑造现实”》的评论
暂无评论
发表评论
摘要
Impact，一个自称是“塑造和管理现代世界叙事的AI驱动基础设施”的应用程序，正在测试一种在社交媒体上组织和支持者激活的方法，以推广某些政治信息。该应用旨在召集一群支持者，在社交媒体上发布由AI撰写的言论要点，这些内容设计用来操纵社交媒体算法。概述文档将Impact描述为“数字世界的志愿消防队”，使“众多的‘好人’”能够“扑灭活跃的火灾、熄灭火苗，并进行预防工作（提前辟谣），以防止火灾的发生。”该应用还展示了另一种AI生成的内容继续充斥互联网并扭曲现实的方式，就像它已经影响了Google搜索结果、亚马逊销售的书籍和虚拟厨房菜单一样。此帖子仅限付费会员阅读。
成为付费会员可享受无限无广告访问文章、额外播客内容等特权。