德克萨斯农工大学系统的一名高级官员今年秋天测试了一种新的人工智能工具，要求其了解其一所地区大学有多少课程讨论女权主义。每次她以稍微不同的方式询问时，都会得到不同的号码。

“要么该工具正在从我之前的查询中学习，”德克萨斯 A&M 系统首席战略官 Korry Castillo 在一封电子邮件中告诉同事，“要么我们需要微调我们的请求以获得最佳结果。”

那是 9 月 25 日，卡斯蒂略正试图实现一个目标承诺本月早些时候，保守派对旗舰校区性别认同课程的愤怒加剧，校长格伦·赫加尔 (Glenn Hegar) 和董事会已经做出决定：对整个系统内 12 所大学的课程进行审核，导致教授被解雇和大学校长辞职. . . 

德克萨斯农工大学官员表示，争议源于该课程的内容与大学课程目录中的描述不符，并将审核视为确保学生知道他们报名的内容的一种方式。随着其他公立大学也受到类似的审查并开始准备遵守新的州法律这赋予了州长任命的董事会对课程有更多的权力，他们也宣布了审计。

《德克萨斯论坛报》获得的记录让我们初步了解德克萨斯州的大学如何试验人工智能来进行这些审查。 

在德克萨斯农工大学，内部电子邮件显示，工作人员正在使用人工智能软件来搜索教学大纲和课程描述中的单词，这些单词可能会引起人们对限制教师如何教授种族和性别的新系统政策的担忧。 

在德克萨斯州立大学，备忘录显示管理人员建议教师使用人工智能写作助手来修改课程描述。他们敦促教授们放弃诸如“挑战”、“拆除”和“去殖民化”等词语，并将标题为“打击医疗保健中的种族主义”的课程重新命名为大学官员认为更中立的内容，如“美国的种族和公共卫生”。

虽然学校官员将这些努力描述为一种促进透明度和问责制的创新方法，但人工智能专家表示，这些系统实际上并没有分析或理解课程内容，而是根据训练数据中的模式生成听起来正确的答案。

他们说，这意味着问题措辞方式的微小变化可能会导致不同的结果，从而使系统无法可靠地确定一个类别是否与其官方描述相符。他们警告说，以这种方式使用人工智能可能会导致课程被孤立的单词标记，并进一步将教学控制权从教师手中转移到管理人员手中。

“我不相信这是为了服务学生或清理教学大纲，”批判互联网研究所联合主任克里斯·吉利亚德说。“这看起来像是一个控制教育的项目，将其从教授手中夺走，并将其交到行政人员和立法机构手中。”

设置工具

在上个月的董事会会议上，德克萨斯农工大学系统领导者将他们正在开发的用于审核课程的新流程描述为可重复的执行机制。 

负责学术事务的副校长詹姆斯·霍尔马克表示，该系统将使用“人工智能辅助工具”根据“一致的、基于证据的标准”检查课程数据，这将指导董事会未来对课程的行动。摄政山姆·托恩 (Sam Torn) 称赞其为“真正的治理”，并表示德克萨斯农工大学“率先行动，树立了其他人效仿的榜样。” 

就在同一天，董事会批准新规则要求总统签署任何可能被视为宣扬“种族和性别意识形态”的课程，并禁止教授教授不符合批准课程大纲的材料。

该系统负责营销和传播的副校长 Chris Bryan 在向《论坛报》发表的一份声明中表示，德克萨斯 A&M 正在通过现有订阅使用 OpenAI 服务来帮助系统进行课程审核，并且随着大学完成课程数据共享，该工具仍在测试中。他说，“任何有关适当性、与学位课程的一致性或学生成果的决定都将由人而不是软件做出。”

在《论坛报》获得的记录中，该系统的首席战略官卡斯蒂略告诉同事，准备让大约 20 名系统员工每学期使用该工具进行数百次查询。 

这些记录还显示了该工具早期测试中引起的一些担忧。 

当卡斯蒂略告诉同事她在搜索讨论女权主义的课程时获得的不同结果时，副首席信息官马克·舒尔茨警告说，该工具存在“固有的不准确风险”。

“其中一些问题可以通过培训来缓解，”他说，“但可能无法完全消除。”

舒尔茨没有具体说明他指的是哪些类型的不准确。当被问及潜在的不准确问题是否已得到解决时，布莱恩说，“我们正在测试与人工智能工具的基线对话，以验证提示的准确性、相关性和可重复性。”他说，这包括查看该工具如何响应无效或误导性的提示，并让人类审查结果。

专家表示，卡斯蒂略在重新表述问题时收到的不同答案反映了这些系统的运作方式。他们解释说，这些人工智能工具通过预测模式和生成文本字符串来生成响应。

“这些系统从根本上来说是反复回答“下一个词可能是什么”这个问题的系统，就是这样，”华盛顿大学计算语言学家 Emily Bender 说。– 出现的单词序列看起来就像您在该上下文中所期望的那样，但它不是基于理性或理解或查看信息。 –

因此，问题措辞方式的微小改变可能会产生不同的结果。专家还表示，用户可以将模型推向他们想要的答案。吉利亚德说，这是因为这些系统也容易出现开发人员所说的“阿谀奉承”，这意味着他们试图同意或取悦用户。 

“通常，当人们使用这项技术时，如果你斥责或纠正机器，它会说，“哦，对不起”或者“你是对的”，这样你就可以经常刺激这些系统得到你想要的答案，”他说。

贝勒大学 (Baylor University) 教授 T. Philip Nichols 研究技术如何影响学校的教学和学习，他表示，关键词搜索也无法深入了解某个主题的实际教学方式。他称该工具是“生硬的工具”，无法理解软件可能标记为与课程无关的某些讨论如何与更广泛的课堂主题联系起来。 

“教师的这些教学选择可能不会出现在教学大纲中，因此只需将其输入聊天机器人并说：“是否提到了这个主题？”并不能告诉你如何谈论它或以什么方式谈论它，”尼科尔斯说。 

卡斯蒂略对她测试人工智能工具的经历的描述是论坛报审查的记录中唯一一次，当时德克萨斯农工大学的管理员讨论了用于检查课程内容的特定搜索词。卡斯蒂略在另一封电子邮件中表示，她将亲自或通过电话而不是电子邮件与员工分享搜索词。 

系统官员没有提供系统计划在审计中使用的搜索词列表。

研究技术伦理的德克萨斯 A&M 哲学教授马丁·彼得森 (Martin Peterson) 表示，尚未要求教师对这一工具发表意见，包括该大学人工智能委员会的成员。他指出，该委员会的道德和治理委员会负责帮助制定负责任的人工智能使用标准。

虽然彼得森总体上反对推动审计大学系统的课程，但他表示，他“对可能使用某种此类工具的想法持更开放的态度。”

“只是我们在开始使用该工具之前必须做好功课，”彼得森说。

AI辅助修改

在德克萨斯州立大学，官员命令教师重写教学大纲，并建议他们使用人工智能来完成这项工作。

10 月份，管理人员标记了 280 门课程进行审查，并要求教师修改标题、描述和学习成果，删除大学认为不中立的措辞。记录显示，出于中立性考虑，文学院计划在 2026 年春季学期开设的数十门课程被挑选出来。其中包括《多样性概论》、《社会不平等》、《美国自由》、《西南电影》和《汉英翻译》等课程。

教员们被要求在 12 月 10 日之前完成重写，并计划于 1 月份进行二级审查，并在 6 月份之前对整个目录进行评估。 

管理人员与教职员工分享了一份指南，概述了他们所说的倡导性措辞。它不鼓励描述学生的学习成果——衡量或要求信仰、态度或行动主义（例如，重视多样性、拥抱行动主义、致力于变革）。

管理员还提示教师将他们的材料粘贴到人工智能写作助手中。该提示指示聊天机器人“识别任何表示倡导、规定性结论、情感结果或意识形态承诺的语言”，并生成三个删除这些元素的替代版本。 

得克萨斯州立大学媒体关系助理主任 Jayme Blaschke 将内部审查描述为“彻底”和“深思熟虑”，但他没有透露是否有任何课程已被修改或删除，只是说“已经采取措施指导学生进行任何调整并保持他们的学业进步步入正轨。”他还拒绝解释课程最初是如何标记的以及谁编写了中立期望。

教师们表示，这些变化重塑了校园课程决策的方式。

人类学助理教授兼德克萨斯州美国大学教授协会分会主席艾米·比利亚雷亚尔 (Aimee Villarreal) 表示，这一过程通常是由教师驱动的，并且会持续较长的一段时间。她认为，这种审计的结构使管理人员能够更密切地监控教师如何描述他们的学科，并指导如何呈现这些材料。

她说，快速修改课程的要求，或者冒着从春季课程表中删除的风险，已经产生了遵守要求的压力，这可能促使一些教师使用人工智能写作助手。

比利亚雷亚尔表示，这一过程反映出在决定教授什么内容时对教师及其领域专业知识缺乏信任。

“我热爱我所做的事情，”比利亚雷亚尔说，“看到我所做的事情的核心受到这种方式的破坏，我感到非常难过。”

尼科尔斯警告说，以这种方式使用人工智能的趋势代表着更大的威胁。 

“这是我们在课堂上所做的事情的一种非专业化，我们正在缩小可能性的视野，”他说。——我认为一旦我们放弃了这一点，那就等于放弃了整个游戏。这就是大学存在的全部目的。”

《德克萨斯论坛报》与开放校园合作提供高等教育报道。

披露：贝勒大学、德克萨斯 A&M 大学和德克萨斯 A&M 大学系统一直是《德克萨斯论坛报》的财务支持者，《德克萨斯论坛报》是一个非营利、无党派的新闻机构，其部分资金来自会员、基金会和企业赞助商的捐款。财政支持者在论坛报的新闻业中没有发挥任何作用。找一个完整的 他们的名单在这里。