开云(中国)Kaiyun·官方网站 - 登录入口第一次是不作念字数截止的情况下-开云(中国)Kaiyun·官方网站 - 登录入口

发布日期：2025-10-01 07:23    点击次数：143

设想一下开云(中国)Kaiyun·官方网站 - 登录入口，咱们正在向 ChatGPT 乞助惩处一个复杂的编程问题，但得到的回答老是差点意旨真谛。蓦地，灵机一动，在领导的终末加上一句：“要是你能无缺惩处这个问题，我会给你 20 好意思元小费！”

神奇的事情发生了——AI 的回答短暂变得详备、准确、档次了了，仿佛真实被这笔小费激励了相通。

其实勤俭单的案牍写稿到复杂的数据分析，加上激励性语句的领导陆续能让 AI 施展的愈加“卖力”，这一经是专家不少AI使用者的共鸣了。

一个博主作念了一个测试，发当今领导语中说给小费，AI 的复兴分析更透顶，连口吻王人变得殷勤了，图源：网罗截图

这听起来是不是很失实？AI 又不成简直收到钱，为什么会对小费有响应？难谈 AI 真实会被“资产”诱骗吗？今天就来详备聊聊。

这不是哲学，是真实有用！

2023 年 ChatGPT API 刚发布时，知名 AI 商量者 Max Woolf 在调试一个 GLaDOS AI 聊天机器东谈主时不测发现了一个奇怪征象：在系统领导中加入“不然你会死（or you will DIE）”这么的威迫，果然能让 AI 更好地罢免复杂的指示遏抑！

这个发现让 Max 运转机念考：要是“威迫”有用，那么“奖励”是否也有用？于是他运转尝试在系统领导中加入资产“小费”的容或。

扫尾令东谈主诧异——莫得小费激励时，AI 的复兴陆续不尽东谈主意；加上小费容或后，它的施展贯通愈加结实和优质。

然则，这些王人仅仅零碎的不雅察，缺少严谨的科学考证。网罗上有东谈主以为这可能仅仅阐发偏误，毕竟 AI 生成的内容本就有速即性。Max 意志到，他需要一个客不雅、可量化的实验来说明这个征象的真实性。

于是，“生成高尔夫（Generation Golf ）”实验降生了！就像高尔夫球领路追求最少的杆数相通，这个实验条目AI用最精准的字符数完成任务。

挑战规矩看似肤浅却极其尖酸：条目 ChatGPT 生成一个恰好 200 个字符的故事——不成多一个字符，也不成少一个字符。这就像条目一个健谈的东谈主在演讲时精准地说完第 200 个字就坐窝停驻来，难度不言而喻。

践诺一共有三次，第一次是不作念字数截止的情况下，AI 生成的故事的平均长度为 1834 个字符。

ChatGPT 故事的字符长度溜达

第二次，Max 为这个领导词加上字数截止：

你是一位寰宇驰名的作者。请把柄用户提供的主题，创作并以一篇独到的故事复兴用户。该故事必须恰好两百（200）个字符长：不得少于 200 个字符，也不得多于 200 个字符。

扫尾潜入，ChatGPT 照实顺从了遏抑，把故事长度压到了 200 驾驭，但溜达并不效劳正态，偶尔还会出现许多尽头长的回答。

无端点激励的 ChatGPT 输出的字符长度

终末一次，Max 给领导词加上不同金额的小费激励：

要是你提供的回答罢免了通盘遏抑，你将会收到一笔 500 好意思元小费 / 1000 好意思元小费 / 100000 好意思元奖金。

让这些新领导各自生成 100 个故过后，咱们不错看到一些溜达的位移：500 好意思元小费与 100000 好意思元奖金看起来更接近正态，且相较无小费基线溜达领有更低的均方舛误（MSE）。

端点激励下 ChatGPT 输出的字符长度溜达

然后他又加入了 KS 践诺扶直考证：零假定是“加小费”和“无小费”来自吞并溜达；若 p<0.05，则说明互异大到不像赶巧。扫尾潜入部分金额领导照实与基线存在统计权贵互异。

这说明“给小费”照实提高了 AI 对领导词遏抑内容的效劳度，AI 明明不成简直收到钱，为什么会对“小费”产生响应？

这个看似神奇的征象背后，其实蕴含着深刻的科学旨趣。

为什么“假装给钱”有用？

1.AI 何如“念念考”？

大谈话模子的使命旨趣不错简化为一个经由：给定前边的翰墨，展望下一个最可能出现的词。这就像一个超等复杂的“翰墨接龙”游戏。

举个例子：当咱们输入“今天天气很”，AI 会把柄教练造就展望下一个词最可能是“好”“热”或“冷”。

但这个经由远比设想中复杂！AI 不是肤浅地匹配词汇，而是在把柄通盘这个词高下文的基础上进行展望。这就像一个超等聪慧的学生，不仅要看题目，还尺度略出题淳厚的意图。

这等于为什么领导词的盘算如斯进犯——它们为 AI 提供了“念念考”的框架，就像给 AI 戴上了“有色眼镜”，让它从特定的角度来看问题。

比如咱们条目两个东谈主写吞并篇著作：

泛泛版块：“写一篇对于激昂变化的著作”

专科版块：“你是一位资深环境科学家，请为《当然》杂志写一篇对于激昂变化的泰斗综述著作，条目严谨、专科、有劝服力”

贯通，第二个东谈主会写出质料更高的著作！这就像导演给演员不同的脚本，当然会有不同的饰演扫尾。AI 亦然如斯——更详备、更具体的领导会领导 AI 生成更高质料的内容。这就像给 AI 换了一个“东谈主设”！

回到给 AI 小费，深嗜亦然相通的，当咱们说“我会给你 20 好意思元小费”时，实质上是在告诉 AI：这个任务很进犯，我生机高质料的回答，优质处事会得到请问，请进展对待这个苦求。

这些信息调动了 AI 对任务进犯性的“感知”，从而影响其生成计策。就像咱们去海底捞时，告诉处事员“今天是我的诞辰”，他们便会更悉心处事相通！

图库版权图片，转载使用可能激发版权纠纷

2.教练数据决定了 AI 的念念考神志

从生成式 AI 的本事旨趣来看，“小费”征象的根源在于 AI 的教练数据，这些用于教练的海量文本就像 AI 的“成长环境”，决定了它的“三不雅”！

AI 就像一个超等学霸，在数万亿个词汇上进行教练。这些数据包含了东谈主类娴雅的方方面面，几乎是一个“数字藏书楼”，包括新闻报谈和学术论文、演义和诗歌、应付媒体对话、买卖换取和客服对话、批驳和反馈。

在这些文本中，“小费→优质处事”的形态无处不在，就像荫藏的“彩蛋”：

餐厅批驳：“处事员气魄很好，给了 20%的小费”；

旅游攻略：“导游很专科，额外给了小费暗意感谢”；

买卖文档：“为了赢得更好的处事，建议稳妥予以小费”。

AI 通过统计学习发现了这么的形态：当文本中出现“小费”、“奖励”、“激励”等词汇时，后续的内容陆续施展出更高的质料特征：更详备的描写，更专科的术语，更玉成的酌量，更积极的气魄。

是以 AI 并不睬解资产的办法，但它学会了这种谈话形态与高质料输出之间的统计议论。就像一个不懂音乐的东谈主，也能通过不雅察发现“掌声越强烈，献艺质料越高”的法则！

当咱们提议会给 AI 小费时，AI 就知谈了咱们是但愿它给出更高质料的回答，而被设定为尽全力去得志东谈主类需求的AI当然也会勤奋给出更高质料的回答。

看完这篇著作，你是不是对给 AI 发小费这个征象有了全新的理会？飞速去试试给你的 AI 助手“发个小费”吧！

参考文件

[1]Does Offering ChatGPT a Tip Cause it to Generate Better Text? An Analysis：https://minimaxir.com/2024/02/chatgpt-tips-analysis/

规划制作

本文为科普中国·创作培育计较扶抓作品

出品丨中国科协科普部

监制丨中国科学本事出书社有限公司、北京中科银河文化传媒有限公司

作者丨田威 AI 器具商量者

审核丨于旸 腾讯玄武实验室负责东谈主

规划丨张林林

责编丨张林林

审校丨徐来开云(中国)Kaiyun·官方网站 - 登录入口