谢尔盖·布林(Sergey Brin)建议威胁AI以获得更好的结果
2025-05-28 18:46:00
Google联合创始人Sergey Brin声称威胁生成的AI模型可以产生更好的结果。在最近的一次访谈中,他建议这种非常规的方法与礼貌的互动相比会提高绩效。Openai首席执行官Sam Altman先前暗示,类似的积极策略通过绕过提示中的不必要的礼貌来节省计算资源。迅速的工程是提炼最佳AI响应的输入说明的实践,它随着使用AI模型本身来优化提示等进步而发展。但是,艾米丽·本德(Emily Bender)认为,AI模型本质上是其培训数据的不可预测的鹦鹉。尽管由于这些事态发展,虽然迅速的工程越来越不那么重要,但它在“越狱” AI系统中仍然有价值,以引起意外或最坏的情况。专家警告说,这种方法需要严格的测试和对模型安全控制的理解是有效的。