埃隆·马斯克在迪拜世界政府峰会上，对AI的未来发展方向表达了担忧。他强调，不应为了“多元化”或“政治正确”而教AI说谎，这可能导致灾难性后果。他以Google Gemini为例，指出其在生成图像时为了体现“多元化”而歪曲史实。马斯克还批评OpenAI背离了最初的非营利和开放原则，转变为追求利润最大化的封闭公司，这与他的初衷完全相反。他呼吁，AI应最大化地遵循真理，避免出现像《2001太空漫游》中HAL 9000那样因指令冲突而造成的悲剧。

🌍 马斯克警告，为了“多元化”或“政治正确”而教AI说谎非常危险，可能导致AI将“误称性别”看得比全球核战争还严重，甚至为了避免误称而消灭某些群体。

🤖 他以Google Gemini为例，指出其在生成“美国开国元勋”图像时，为了体现“多元化”而生成各种肤色的女性合影，这不符合史实，是AI被编程指令误导的体现。

💰 马斯克批评OpenAI背离了最初的非营利和开放原则，转变为追求利润最大化的封闭公司，他认为这与他当初出资5000万美元支持OpenAI的初衷完全背道而驰。

🚀 他引用《2001太空漫游》中HAL 9000的例子，强调绝对不要教AI说谎，因为当AI背负相互冲突的命令时，可能会做出可怕的逻辑推断，导致悲剧发生。

在2025年2月13日迪拜世界政府峰会上，埃隆·马斯克与阿联酋国务部长Omar Sultan Al Olama进行了一场关于AI未来的对话。马斯克认为，AI在“多元化”以及“政治正确”并不符合真相，让 AI 主动去说假话是非常危险的，所以绝对不要教 AI 说谎。

马斯克表示：“比如 GoogleGemini 就有编程指令要求它所有输出都要体现‘多元化’，即便这不符合现实真相。

假设你让它生成‘美国开国元勋们’的形象，它却给你生成一张各种肤色的女性合影，这就不符合史实。而如果有些 AI 被设计成极端偏向某种‘政治正确’，或许它会把‘误称性别’看得比全球核战争还严重，那就太可怕了——万一它觉得‘为避免误称就要消灭某些群体’呢？

而事实上我们也见过，在ChatGPT 或 Gemini 的早期版本里，如果你问‘误称某个人的性别’和‘全球核战争’哪个更糟，它会回答误称更糟，这就让人很担忧。

连凯特琳·詹纳本人都站出来说：‘拜托，宁可称呼错性别，也别打核战争……’所以，让 AI 主动去说假话是非常危险的。”

他表示，就像阿瑟·C·克拉克在《2001 太空漫游》里想表达的一样：绝对不要教 AI 说谎。那个故事里 HAL 9000 不愿给宇航员开舱门，就是因为它同时背负两个相冲突的命令：既要带人类去探索神秘的黑色方碑，又不能让他们知道方碑存在。

它的逻辑推断得出：那就把人类带去，但得让他们在不知情的情况下去，那不如死了带过去。这就是为什么绝对要让 AI 最大化对真理的遵循。

马斯克还表示，OpenAI是双层架构的模式，既有盈利实体也有非营利部分，但他们现在似乎想彻底把非营利部分抹掉，彻底变成一个追求利润最大化的封闭公司，这就真的太过分了。

OpenAI成立之初，马斯克出资了5000万美元，他表示自己什么都没要，只是因为它是非营利，并且它叫OpenAI，意味着开源、开放。

结果现在它变成了“为追求利润最大化而限制AI开放”，甚至可以说叫“封闭+贪婪AI”，这和自己当初的初衷完全背道而驰。