Hello World 是一份每周通讯，每周六早上发布，深入探讨我们的原创报道以及我们向该领域的大思想家提出的问题。请在此处浏览档案。
您好，
两周前，我分享了我如何尝试找到一种在新闻编辑室中使用生成人工智能的道德方式。当我写那篇文章时，我遇到了一个在不同学科思考相同问题的人。
Maywa Montenegro 是农业生态学助理教授，研究粮食系统转型的研究和实践，以及批判性的研究。在加州大学圣克鲁斯分校进行技术研究。她为现已停刊的科学和文化杂志《Seed》撰写和编辑，其中关于可持续发展与食品系统交叉点的报道激励她获得环境科学博士学位。
8 月，黑山分享了人工智能她为班级制定的政策：人工智能政策：批判性参与方法。当我读到它时，我知道我找到了一个和我有同样问题的人。我联系了黑山，谈论她为什么要写这份保单以及它的反响如何。我们讨论了技术炒作周期、人工智能检测软件如何将教授变成警察、人工智能真正有什么用处，以及简单地说，生菜收获机器人。
为了简洁明了，我们的对话已被编辑。
p>
Tomas Apodaca：我们先来谈谈人工智能。人工智能是您常规课程的一部分吗？
Maywa Montenegro：人工智能不是我研究或写作的中心领域。我在自己的学术研究中最接近的可能是在数字农业领域，我们有一些项目处于农业系统对抗所有形式数字化的最前沿：物联网、遥感、许多各种数字工具，其中一些现在也支持机器学习。我的一位研究生正在研究萨利纳斯谷生菜的自动化，这些机器人正在接受训练来收获。
Apodaca：您是如何意识到在课程中使用人工智能是您需要解决的问题书面政策？
Montenegro：因为我是一名科学技术研究（STS）学者，所以我关注人工智能的发展已经有一段时间了。我不会相信自己是这方面的早期举报者之一，但它有一个特定的轮廓，我们称之为炒作周期。
在我们的经济中，这些技术的利息出现了异常的通货膨胀。兴趣，尤其是在硅谷的投资。然后它们往往会失败。它们通常不会像我们在加密领域看到的那样完全消失，但人们的注意力肯定会消失。
快进到 ChatGPT 的发布。围绕人工智能的说法是，除非尽快采用它，否则人们将被抛在后面。人工智能将如何彻底改变教育？它将如何改变农业？如何让物流变得智能一百万倍？几乎每个行业都面临着这样的主张：他们应该跳上人工智能列车，否则就有被抛在后面的风险。
令我沮丧的是，他们没有就谁从这项技术中受益进行协调一致、批判性和诚实的对话，为什么以及如何让我们相信这是不可避免的，我们最好弄清楚如何利用它，尽可能地处理它。人们对此有不同的反应，但 UCSC 鼓励的政策并不是自上而下的，比如你必须在课堂上使用它，但是，你必须至少在你的教学大纲中提供语言，向学生解释你的内容
那一刻我意识到，好吧，我必须弄清楚在使用人工智能进行家庭作业、作业和考试方面的规则是什么。然后，在我的教学理念中，我真的致力于不对学生使用大棒方法，以胡萝卜和大棒的比喻。
我可以看到一些人工智能方法更具惩罚性，就像我如果你使用人工智能，我会这样做，或者我会做西蒙·拜尔斯类型的体操，以便创建会试图阻止你使用人工智能的作业。当教学已经足够具有挑战性时，这似乎给教学增加了非凡的劳动，并且有点像猫捉老鼠的游戏。这些学生非常聪明。学生们甚至在《高等教育纪事报》上撰写文章，讲述他们如何绕过老师的新作业。
我真的很想让我的学生成为他们自己学习的授权代理人，并向他们表达，我当时可以采取的最好方式，我的保留意见是什么。不仅仅是技术意义上的工具，以及正如许多人所证实的那样，它更像是一只随机鹦鹉，而不是学习或认知的东西。
除此之外，还有更大的人工智能组合使这些系统能够首先运行。自从我成为一名环境研究教授以来，很明显，其中很多都是由能源、水和其他资源组成的整个物质世界；劳动力被低估和剥削。这些聊天机器人接受训练的文本中存在着种族化和编码的假设。
这让我感到兴奋。我希望结合我的课程内容，学生会对在课堂作业中使用人工智能感到反感或根本不感兴趣。这就是我们的目标。
Apodaca：您的学生对此有何反应？
Montenegro：我听到了一些突出的反应。一是学生们非常感激教授花时间为他们提供理解 ChatGPT 的背景。
第二个回应是，哇，我们对劳动部分一无所知！
p>
Hello World
乔纳森·索马（Jonathan Soma）关于人工智能和聊天机器人的力量和陷阱
在课程结束时，我向学生们发出了一份调查，询问他们是否曾经跑步过以前也有过这样的政策。他们希望看到添加什么内容吗？是否有一些他们以前不知道但学到的东西？大多数人表示以前从未见过这样的政策。所以这对我来说很有趣。他们中的许多人都提到了对环境的影响。我认为这确实让环境研究专业的学生感到不安。
得到的答复是，我比以前更不可能使用这个，这让我感到非常高兴。
Apodaca：在政策中，您告诉学生，如果他们感到有压力在您的课程中使用这些工具，可以联系教学团队。这曾经发生过吗？
Montenegro：那没有发生。
Apodaca：你认为没有人伸出援手是件好事吗？
Montenegro：考虑到学生们正在学习有关公正和可持续农业原则的课程，我的样本可能会有偏差。
前几天我听到人们在谈论，泡沫会破裂吗？这种炒作的热度如此之高，我认为它不会崩溃并消失。它将会在这里，包括在新闻业，这一直是我作为一名前记者非常关心的事情。我来这里是为了进行长时间的对话。
我是一名在出版界和同行评审期刊工作的研究员。几周前，Taylor 和 Francis 的母公司 Informa 与另一家大型出版公司签署了一份合同，根据同行评审期刊的语言训练 OpenAI 模型。但将研究成果发表在这些期刊上的作者并没有意识到这一点。我是 Informa 编辑的期刊的编辑，我并不知道。
这对我来说很疯狂，这些合同正在签署，然后他们说，别担心，版权仍然完好无损。我们不会重复使用大的段落，那没关系。
有这样的权利，就像一切都很好。我们已经在这些期刊上免费发表文章。事实上，该文本将被重新利用并作为培训数据出售，合同价值数百万美元。
类似的事情让我感到沮丧，因为它又回到了教学价值：我们为什么要这样做？
Hello World
对 Julia Schleck 的采访，她认为大学不应该为公共利益服务，而应该成为一个定义和辩论公共利益的论坛
即使你相信机器正在学习，你的大脑并没有在学习。你可能因教育而欠下数万甚至数十万美元的债务。你真的想在没有付出你的大脑、你的思想和智力以及学习的礼物的情况下离开吗，即使这是一种挣扎？这让我大吃一惊。我们为什么要这样做？请不要这样做。
这就是我的观点。我认为，当你不以此作为惩罚措施来接近学生时，他们会尊重你的做法，因为他们会做出反应，并想用它来激怒你，说实话。或者因为他们很好奇。他们应该感到好奇！
但我很好奇它是否会出现在另一边，长期以来我们在寻找同行评审员方面面临着挑战，因为相对于同行评审的可用劳动力。过了多久他们就会告诉我们，作为第一步，考虑使用我们新的经过 Informa 训练的 ChatGPT 来减少论文堆？
Apodaca：教育技术是一个大产业，而生成式人工智能这只是其最新的创新。您过去使用过教育技术吗？它对您作为一名教育者有帮助吗？
Montenegro：技术对我来说肯定会陷入困境。在农业和粮食系统中，它很难定义。技术是栅栏吗？如果它与应用时尚的生产系统有某种关系，那么我们将技术束缚在哪里？
对我来说，将其视为一个世界创造系统是最有用的。它不仅仅是我们能看到的那个工具。它包括所有的基础设施、政治经济以及支持它的知识，以及它反过来又促进它的知识。所以我不能不在教育中使用科技。这对我来说没有意义。
我有一位失聪导师的天赋，而文本到语音识别在我们的交谈能力方面已经改变了我们的游戏规则。正是机器学习完成了这种语音识别。
还有 Google Suite，尽管它并不让我高兴地丰富 Eric Schmidt，但这些东西还是有很大帮助的。我尝试过实时民意调查、协作注释工具。由于我们已经能够在真实和具体的空间中回到课堂，只是进行对话，我认为学生们真的渴望面对面的时间、接触、对话并让其呼吸。尤其是在过去的一年里，它比我推出的任何新工具都更像是一种教学游戏保护者。
机器学习
斯坦福大学研究发现人工智能检测器对非英语母语人士存在偏见
Apodaca：人工智能检测器已经存在，而 TurnItIn 可能是教育领域最知名的检测器。您使用 TurnItIn 吗？
Montenegro：不。我是废奴主义者。因此，我相信反监禁框架，而不是警察和巡逻人员，包括我的学生。使用人工智能来检测人工智能的工具，因为它嵌入了种族编码的语言，所以几乎肯定会出现错误检测的问题。即使它是正确的，你最终也会监控并可能惩罚那些在语言方面有困难的学生。这导致了课堂上的各种偏见问题。我不想在课堂上当警察。
除非符合某些标准，否则大学不允许我们在课堂上使用检测技术。这是加州大学圣克鲁斯分校的一个限制。
Ruha Benjamin 的精彩著作《Race After Technology》深入探讨了这一点，甚至没有涉及人工智能领域，但这是一种更古老的技术。鲁哈斯关于红线和预测性警务的观点是建立在种族编码的地图上的，这些地图显示了人们居住的地方和不被允许居住的地方以及获得房屋抵押贷款的人工智能产生了这些模型，在这些模型中，我们通过可感知的中立和公正的语言来加强和延续暴力系统。算法。怎么可能是种族主义呢？它只是一种算法！
Apodaca：在政策中，您写道，我们许多人都在试图弄清楚人工智能是什么，它有什么好处。你想通了吗？您想到过它有什么好处吗？
Montenegro：对于我来说，作为一名技术学者，我认为它引发了很多关于我们重视什么以及为什么重视的讨论。当我们与我们的学生讨论 ChatGPT 是什么和不是什么、它能做什么和不能做什么时，我认为我们的核心问题是：我们为什么要这样做？我们为什么在这里？
当然，您可以使用它，即使当我们在加利福尼亚州发生干旱时它会使用数百万加仑的水；当我们知道它使用了大量的能源并且正在拼命地控制气候危机时；它从肯尼亚低薪工人那里榨取劳动力，我们正在谈论种族资本主义。
即使你决定，这对我来说也是一段艰难的时期。我必须获得及格分数，否则我就会不及格，我想尊重这一点。我想向参与这场斗争的学生表示敬意，但教育的作用是什么？我们为什么要这样做？因为你可以获得成绩并且可以离开这里。但归根结底，我们为什么要关心这些呢？它有什么价值？
人工智能确实在不经意间提出了系统性危机的根源问题，并使我们能够就这些问题进行对话。
这是我提出该政策的原因之一本着将其发布到世界各地的精神，我在 Twitter（现在称为 X）上发布了：我受到加拿大土著 Mtis 学者 Max Liboiron 的启发。他们也是本土的 STS，在离开平台之前，他们在 Twitter 上发布了很多抵抗文章。我想把它放在那里，让人们适应、重用，并希望人们能告诉我它对他们有何用处的故事（如果有用的话）。在过去的几天里，我实际上收到了同事发来的电子邮件，他们说，这是真的吗？我们真的可以使用这个吗？它引发了一些对话。
所以这对我来说真的很充实，因为有这样的社区有兴趣制定不同的道路并让学生批判性地讨论技术问题。人工智能的礼物以奇怪的方式出现。
两周前，当我在新闻编辑室分享我对道德人工智能使用的想法时，我请你让我知道你是如何在自己的家庭和办公室中应对人工智能的。你们中的一些人花时间写了非常深思熟虑的回复。如果您发现这些文章发人深省，我仍然希望收到您的来信，请写信给我：tomas@themarkup.org。
感谢您的阅读，
Tomas Apodaca
新闻工程师
The Markup / CalMatters