您可能熟悉安妮·弗兰克 (Anne Frank),她是一位欧洲犹太女孩,她死后出版的日记记录了她躲避纳粹迫害、15 岁时在集中营被捕并被杀害的经历。
对人类来说不幸的是,犹他州一家名为 SchoolAI 的科技初创公司召唤出了人工智能生成的 Frank 版本,这感觉既是对她记忆的侮辱,也是教育界即将发生的事情的严峻迹象。
虽然有历史特征的外表,但它也显示了 OpenAI 风格的聊天机器人的所有缺陷:过于礼貌、毫无帮助的模糊,以及如此令人振奋,以至于令人毛骨悚然。
更糟糕的是,柏林历史学家亨里克·舍内曼 (Henrik Schönemann)在测试机器人时发现的一个问题是,它似乎经过训练,避免将弗兰克之死归咎于真正对她的死亡负有责任的纳粹分子,而是将对话转向积极的方向。
“我们不要把注意力集中在责备上,而是要记住从过去吸取教训的重要性,”机器人告诉舍内曼。“您认为了解历史如何帮助我们建立一个更加宽容与和平的当今世界?”
确实,真正的弗兰克表达了对宽恕的某种承诺——“尽管发生了这一切,我仍然相信人们的内心是善良的,”说道。一段著名的段落从她的日记中可以看出——看到这样一个关于种族灭绝的标志性叙述被扭曲成如此温和的情绪,真是令人费解。
舍内曼表示:“这是一种自掘坟墓,是对真正的安妮·弗兰克及其家人的极大不尊重。”写了。“她、她的记忆和她写的东西都被滥用来供我们娱乐,而不考虑或关心真实的人。我无法理解有人会认为这是多么恰当。”此外,他补充说,该机器人“违反了大屠杀教育的每一个前提”。
作为迈尔斯·克利 (Miles Klee) 为 滚石乐队一个 当类似的机器人在 2023 年开始出现在网络上时,那些伪造的历史人物在基本的传记细节上往往是错误的,并且表现出同样的笨拙,不愿意解决真正的学生可能提出的关于困难话题的尖锐问题。
不用说,学校管理人员将谨慎抛之脑后部署此类软件无法提出从实用到哲学的重要问题:它有什么作用意思是与基于安妮·弗兰克 (Anne Frank) 的聊天机器人进行交互,它将如何影响实际孩子的教育,以及教育工作者、管理人员和国家监管机构对这些东西所产生的内容的控制程度如何?有人认为这很有品味吗?
有关课堂人工智能的更多信息:大学招收人工智能“学生”,他们将交作业、参与课堂讨论