众所周知，种族偏见会渗透到人工智能算法中。根据儿童安全非营利组织 Common Sense Media 的一项新研究，现在老师们正在将其带入课堂，督促学生使用 ChatGPT 等生成式人工智能工具来完成作业。
该组织发现，美国黑人青少年被老师错误地将其作业标记为人工智能生成的可能性是白人和拉丁裔同龄人的两倍。Common Sense Media 从 3 月 15 日到 4 月 20 日对 1,045 名 13 至 18 岁的青少年及其父母进行了调查。
周三发布的报告称，这表明检测人工智能的软件以及教师对它的使用可能会加剧历史上边缘化群体之间现有的学科差距。在美国，黑人学生在公立和私立学校中面临纪律处分的比例最高，尽管他们不太可能行为不端，从而导致学业成绩下降等负面影响。伦敦大学伯贝克学院媒体和文化研究高级讲师 Robert Topinka 在接受 Semafor 采访时表示，这一发现并不令人意外。
他说，部分问题在于人工智能检测软件完全不可靠。它经过训练可以使用模式匹配来标记通用和公式化的措辞，但无法区分 ChatGPT 和 Grammarly 等拼写和语法检查器，这意味着学生即使使用经过批准的工具也可能面临受到惩罚的风险。他说，由于黑人学生对阅读障碍等学习障碍的诊断不足，他们更有可能被错误地指控作弊。
此外，托平卡说，白人学生更有可能以使用人工智能技术的形式享受技术特权，以及掩盖其使用的释义软件，这反过来又使[他们]更容易不被抓住。
还有一种假设，即白人中产阶级能够产生 ChatGPT 所产生的那种语言，而黑人工人阶级学生则不会因为他们可以以这种方式进行交流而感到怀疑，他补充道。