PENG Bo 2024-12-16 11:33 广东
目前AI的问题不是太聪明，是太蠢。能力强的蠢人最为危险。
?Tips本文转自知乎作者：PENG Bo
原文链接：https://www.zhihu.com/question/6833253550/answer/55768424495
迄今AI的发展，于我的意义，是逐渐证实一个我的观察：
这个世界的人，在某些方面的智能，真的很低。
我一直怀疑，也许有人和我一样，不说知道的事情（因为感觉可能会发生什么不好的事）。
但是，从一些证据看，这个概率在逐年降低。因为很多人好像是真信自己说的东西。
目前LLM必须堆海量数据，因为目前是纯纯的题海战术。
对于数学和代码（也包括下棋等等），存在oracle，可以靠合成数据，继续暴力前行。
但是，大多数问题，并没有一个能很快给出答案的oracle。原因是什么，自己想。
我不妨说，为什么，有的人有时可以解决这种问题。
因为人可以理解世界之内的力量，和世界之外的力量（我不玩⚪，此乃巧合，lol）。
这里说的"世界之内的力量"是什么？
这里说的"世界之外的力量"是什么？
你问GPT-5也不可能知道，对吧？
RWKV-10可能可以自己知道一点。我说一个秘密，我的智能不但很低，而且越来越低，与日俱减。
其实，我的方法，是作弊开挂。这就不需要"智能"。
所以，什么是智能？
如果你觉得智能是什么system1什么system2，说明没入门。
我直接说吧，智能不是思考，智能是开挂作弊，是卡bug。
认真你就输了。要走歪门邪道。
你想知道怎么开挂吗？你可以先看看你大脑的状态。
补充一句：我在研究方法，给大家开挂。至少是会有帮助的。
很多人，没有智能，不知道什么是智能，却认为，能做超级智能。
太搞笑，救命。
但是，一个很蠢的AI足够毁灭人类。目前AI的问题不是太聪明，是太蠢。
现在我们在做 Artificial General Stupidity，AGS。能力强的蠢人最为危险。
一种常见的朴素想法，在虚拟环境做RL。这对于大多数问题无疑很有用。
但某些问题很有趣。
打字机猴子的故事。
打字机猴子在理论上可以打出莎士比亚。
打字机猴子在实际上不可以打出莎士比亚。
人比打字机猴子强，人可以打出莎士比亚。
但有时，人比打字机猴子还糟糕。
为什么？
因为有时人的整个思维是错的，就是要走错误的道路，就是不走正确的道路。
很多问题的正误，要在很久之后才会显现，很nasty。
其实，有正确和错误给人选，已经是简单了。
对于有趣的问题，很多人，根本不知道这里有问题，根本不知道这里有路口。
怎么走？
其实，有路给人走，已经是简单了。
很多人，根本不知道有路，根本不知道有走。
很多人，根本不知道，原来可以走路？原来路是可以走的？
（不妨我先问你一句：是你走路，还是路走你？）
太搞笑，救命。
是的，搞笑的，不是走正确或错误的路，而是，根本没在走路。当然，这不影响，我们确实在努力做一些很有实际价值的事情，并取得了很多成效。
还是看看RWKV-7，家人们。
下面是一个L12-D768的0.1B RWKV-7的效果，支持世界所有语言和代码。
注意只有0.1B，而且是基底模型，而且还没做任何post-training。
来个日文，因为属于大家都可以猜到一点意思的，我也不知道它写得对不对。其它什么阿拉伯文，印尼文，印度文，都可以的。只需要RWKV-7 L12-D768噢。
中文小说续写，对于0.1B不错。中文语料占训练数据的<10%，大部分是英文，英文强得多。
我发现RWKV-7有个特点，它的自我重复变少了，它明显比各种transformer和RWKV-6更有某种"思路"。
使用 RWKV-Runner 运行[1]。
在 Hugging Face[2] 下载模型。
我们正在做 WebGPU 纯网页运行版。
关于 RWKV-7 的介绍：https://zhuanlan.zhihu.com/p/9397296254
客观而言，RWKV-7还是幼儿园玩泥巴，后续的RWKV-8会有趣一点。
转刚看见的推特图：
AI锐评：
相关链接
[1]
RWKV-Runner 运行: https://rwkv.cn/RWKV-Runner/Introduction
[2]Hugging Face: https://huggingface.co/BlinkDL/rwkv-7-world
?Tips本文转自知乎作者：PENG Bo
原文链接：https://www.zhihu.com/question/6833253550/answer/55768424495
