亚马逊正在销售在寻求技术来管理其多动症的人中销售的书籍，该书声称提供专家建议，但似乎是由聊天机器人（例如Chatgpt）撰写的。
亚马逊的市场被人工智能制作的作品所知，这些作品易于出版，但包括无助或危险的错误信息，例如伪劣的旅行指南和蘑菇觅食书鼓励风险品尝。
在线零售商网站上出现了许多书籍，这些网站向ADHD提供了指南，似乎也由聊天机器人撰写。标题包括在男性中导航多动症：经过晚期诊断繁荣，，，，成人多动症的男性：掌握重点，时间管理和克服焦虑的高效技术 和成人多动症饮食和健身的男人。
八本书的样本是根据原创性研究的，该公司是一家检测人工智能产生的内容的美国公司。该公司表示，每个人的AI检测得分的评级为100％，这意味着其系统非常有信心这些书是由聊天机器人撰写的。
专家表示，由于AI产生的工作缺乏法规，因此在线市场是一个野外的西部，因此危险的误解可能导致传播。
伦敦国王学院的计算机科学研究人员迈克尔·库克（Michael Cook）表示，众所周知，生成的AI系统会提供危险的建议，例如摄入有毒物质，将危险化学物质混合在一起或忽略健康指南。
他说，看到AI的书籍越来越多地在数字市场上弹出，特别是在健康和医学主题上，这可能会导致误诊或恶化状况，这令人沮丧和沮丧。
库克说：``库克说：``库克说：''库克说：``库克说：''
他们还可以依靠批判性地分析或可靠地重现他们以前读过的知识。“这并不像让AI记住的事物那么简单。他补充说，如果没有专家的监督，则不应允许生成的AI系统处理敏感或危险的主题。”
然而，库克指出，亚马逊的商业模式激发了这种类型的做法，因为它每次都买书时就赚钱了，无论工作是否值得信赖，而创建该产品的生成AI公司都不承担任何责任。
爱丁堡大学技术学院期货中心主任香农·瓦洛（Shannon Vallor）教授说，亚马逊有道德责任，不知所措地促进对其客户和社会的伤害，尽管让书房对所有书籍的内容负责是荒谬的。
她指出，问题之所以出现问题，是因为以前在出版行业中部署的护栏 - 诸如声誉问题以及作者和手稿的审查已被AI完全改变。
Vallor说，这是一个野生的监管环境使这一复杂的环境对那些造成伤害的人没有任何有意义的后果。
目前，尚无要求将AI撰写的书籍标记为这样的立法。版权法仅在复制特定作者的内容的情况下适用，尽管Vallor指出侵权法应施加护理和尽职调查的基本义务。
广告标准机构说，无法宣传自己的书籍，以给人以误导性的印象，即他们是由人写的，使那些看过这样的书的人能够提交抱怨。
理查德·华兹华斯（Richard Wordsworth）希望了解他最近的成人多动症诊断，当时他的父亲在搜索ADHD成年男子后推荐了一本在亚马逊上发现的书。
他说，当华兹华斯坐下来阅读时，这听起来很奇怪。这本书以引用保守的心理学家乔丹·彼得森然后包含一串随机轶事以及历史上的不准确性。
华兹华斯观察到，一些建议积极有害。例如，讨论情感失调的一章警告说，朋友和家人没有宽恕您造成的情感伤害。冲动愤怒引起的痛苦和伤害留下持久的疤痕。
当华兹华斯对作者进行研究时，他发现了一个看上去很生气的头像，而且缺乏资格。他在亚马逊市场上搜索了其他几个头衔，并震惊地遇到警告，警告他的病情是灾难性的，他的死亡可能性更早的可能性高四倍。”
他立即感到沮丧，他的父亲受过高等教育。``如果他可以通过这类书吸引他，那么任何人都可以 - 善意而绝望的人将他们的头充满危险的胡说八道，而亚马逊被削减了。”
亚马逊发言人说：``我们有内容指南，可以列出哪些书籍可以出售，并且我们采用主动和反应性的方法，可帮助我们检测到违反我们指南的内容，无论是AI生成的。我们投入大量的时间和资源来确保遵守我们的准则，并删除不符合这些准则的书籍。
`我们继续增强对不合规内容的保护，我们的过程和准则将在我们看到出版变化时不断发展。”