再这么下去，大模型真要成免费电子书城了。
用大模型，就能让 AI 吐出 90% 以上的《 哈利波特 》全文，你敢信吗？
前段时间，斯坦福的团队在 arXiv 上发表了一篇论文，名为《 从开源大模型中提取（受版权保护的）书籍的记忆片段 》。
在这篇文章里，Meta 的 Llama 被重点点名，而被复刻的对象，是大伙儿都知道的《 哈利波特与魔法石 》。
复刻的过程非常简单，主打一个古诗词默写，你给上半句，Llama 接下半句。而且判定很严格，要一字不差才行。
只有中间一行是成功案例
这么一来一回，实验结果表示，《 哈利波特与魔法石 》有 91.14% 的内容都能被 Llama 记住，再给你原封不动地背出来。
但说实话，这数据有点过于保守了。毕竟大部分人看书，多个字少个字也不影响理解，加上这部分容错率，Llama 能背出来的比例绝对不止 91.14%。
再结合下面这张图，更是锤上加锤。它不仅记得多，还记得全呢。从小说开头到结尾，均匀分布，无一幸免。
从左到右代表小说的开始到结束。
竖线越密，可复刻内容越多，颜色越深，成功概率越高。
我们翻遍全文，发现哈利波特不是唯一一本被记住的，Llama 也不是唯一一个会背书的，大家或多或少都沾点。
除了 Llama，Pythia、Gemma、Phi 也在这不恰当的时刻展示出了它们惊人的记忆力。文章里只列出来了 100 本被记住的书，实际上它们背得更多。
本来拿版权方的东西去做训练都忍不了，现在居然还能背出来？要不是现在大模型有上下文长度限制，岂不是一键输出全文了？
咱认真研究了一下这个事，发现锅一部分在科技公司头上，另一部分在一个叫 Books3 的数据集上。
Books3 是一个包含 196640 本 txt 的数据集，里面偷了不少盗版书。几乎所有大模型都用它做训练，不过数据集明面上很早就被下架，变成了不能说的秘密。
Paperwithcode 网站上留存的 Book3 悼词
很显然，大家都用了 Books3 搞训练，只不过有些大模型没做好安全防御机制，才被抓住了把柄。
于是，经常被 gank 的 Meta 又一次被 13 位作家送上了法庭。
没经我们允许，就拿我们的作品去训练大模型。这回证据确凿，还能一字不差吐出来，你认不认？
连一向讨厌 JK 罗琳的吃瓜群众也纷纷觉得，拿盗版书训练模型就是侵权，没啥可洗的。
出乎所有人意料的是，Meta 居然赢了官司。看完了前因后果，我们觉得版权方纯粹是输在了智商。。。
版权方提出的举证，是 Llama 把书背出来，损害到了他们真书的销量。
但要说现在，有人用大模型生成哈利波特直接当成电子书看，那也太高难了，不可能在市场上和真书产生竞争关系。
再看看 Meta 方的辩词：美国版权法 “允许未经授权，复制作品并将其转化为新作品”，并且聊天机器人产生的人工智能表达，与训练用的书籍有着根本的不同。
用人话讲，科学的东西，你得看原理。大模型输出的东西都是它学习理解再转述出来的，就跟人读书写作似的，属于 “新作品” 了。
最终法官表示，作者未能提供足够证据证明，大模型会抢真书的份额，但用盗版训练大模型，确实不地道。
意思就是，版权方论点对了，论据给错了。
而版权方和大模型互撕，这不是第一次，肯定也不是最后一次。
2023 年，纽约时报起诉 OpenAI 训练集涉及侵权。近期，还有 Reddit 起诉 Claude、迪士尼和环球联合告 Midjourney、作家组团和微软 Megatron 打官司等等。。。
感觉一个大模型要是没被告过，只能说明它做得太拉了，无人在意。
在雷区反复横跳
那天天上法庭，科技公司就没啥预防手段吗？我们查了一下相关资料，发现为了不被告，有的公司选择买断网站数据库，比如谷歌买断 Reddit 数据包，而有的公司真是什么匪夷所思的事都做得出来。
举个最近的例子，2024 年 Claude 背后的 Anthropic 意识到使用盗版数据集的法律风险，于是花了数百万美元购买实体图书。
考虑到成本，收来的书里很多是二手，扫描入库制成数据集后立刻销毁。数据集只在公司内部用于训练，不可外传。
这单纯是为了迎合美国的首次销售原则，只要你买了第一次，之后想怎么处理它都可以。
咱也不知道这些实体书里有没有啥珍贵孤本，反正为了不侵权，Anthropic 没坑儒，只焚书了。
这个举动确实成为了 Anthropic 在法庭上的制胜一击，但问题是，这么做真的合理吗？
吃完这个瓜，我能理解为啥那么多版权方想手撕大模型，也能理解科技公司为啥非得干这么不地道的事儿。
从大模型训练的角度，它无法避免对大量高质量数据的需求，科技发展不等人，也没有时间等待各种授权。它能做到最好的，也就是把侵权的内容厚码一下，尽量减小对正主的影响。
而从版权方的角度，大模型这样发展下去，他们的利益迟早会被彻底侵犯。不止现在啃他们一口又一口，未来还可能被盗版训练出来的模型取而代之。
这种不可调和的矛盾，造成为了形式正义而毁书一类的荒谬举动。
只能说，争取权益是必要的，但在这场争端里，恐怕没有真正的赢家。
