OpenAI首席执行官萨姆·奥尔特曼近日发出严厉警告，指出人工智能（AI）的滥用可能导致全球面临一场“欺诈危机”。他强调，现有的身份验证方式，特别是依赖声纹的金融机构，已难以抵御AI的欺骗能力，未来甚至可能出现以假乱真的视频冒充。奥尔特曼还担忧AI的“超级智能”可能被用于攻击关键基础设施或制造生物武器，并对人类失去控制权表示忧虑。尽管部分科技领袖担忧AI对就业的冲击，奥尔特曼对此持更为开放的态度，认为AI对未来就业市场的影响难以预测，但预示着工作性质的根本性转变。

⚠️ AI技术发展带来了严峻的“欺诈危机”，不法分子可利用AI冒充他人，特别是语音和视频的模拟技术已能达到以假乱真的程度，对现有的身份验证方式（如声纹验证）构成严重威胁。奥尔特曼指出，一些金融机构仍依赖易被攻破的声纹作为验证手段，这已跟不上AI技术发展的步伐，需要更先进的防护措施。

🛡️ AI的滥用风险不仅限于个人身份欺诈，奥尔特曼还担忧“超级智能”AI可能被恶意利用，例如攻击国家电网或制造生物武器，尤其是在一些国家尚不具备足够能力抵御此类攻击的情况下，风险尤为突出。他对人类是否能有效控制或限制AI的决策权表示担忧。

🧑‍💼 针对AI对就业市场的影响，奥尔特曼的观点与一些同行不同，他认为AI对就业的未来影响难以准确预测，但明确表示某些工作类别可能会消失，同时也会催生新的工作类型。他甚至预测，长远来看，未来的工作模式可能与当前人们所理解的“正式工作”大相径庭，预示着工作性质的根本性变革。

📢 奥尔特曼的担忧并非孤例，美国联邦调查局（FBI）和政府官员也曾就AI语音和视频“克隆”骗局发出警告，并有案例显示AI已被用于模仿政要声音进行欺诈活动，凸显了AI安全防护的紧迫性。

财联社7月23日讯（编辑 黄君芝）OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）周二表示，由于不法分子可以利用人工智能（AI）冒充他人，世界可能正处于“欺诈危机”的边缘。

“让我感到恐惧的一件事是，显然仍然有一些金融机构接受声纹作为你转移大量资金或做其他事情的认证——你只需说一句验证短语，他们就会照做。这种事居然还在继续做，真是太疯狂了……除了密码之外，人工智能已经彻底击败了目前人类大多数的身份验证方式。”他说。

奥尔特曼说：“我非常担心，我们面临一场迫在眉睫的重大欺诈危机。现在，这可能意味着一个语音电话；但很快，它就会变成视频或FaceTime（苹果视频聊天软件），与现实难以区分。”

他还警告说，虽然他的公司没有开发这样的模拟工具，但随着人工智能的不断发展，这是世界很快需要面对的挑战。

奥尔特曼还解释称，在世界其他国家发展到足以抵御此类攻击之前，不法分子可能会制造并滥用人工智能“超级智能”——例如，对手可能会利用人工智能攻击美国电网或制造生物武器。

他还担心，人类会失去对超级智能人工智能系统的控制，或者赋予该技术太多的决策权。

奥尔特曼并不是唯一一个担心AI会加剧欺诈的人。美国联邦调查局（FBI）去年就对这些人工智能语音和视频“克隆”骗局发出了警告。本月早些时候，美国官员警告称，有人利用AI模仿美国国务卿卢比奥的声音，联系了多位外交部长、一名州长和一名国会议员。

周二当天，奥尔特曼在美联储就人工智能的经济和社会影响接受了广泛的采访，上述言论是采访的一部分。他还向包括美国大型金融机构代表在内的听众讲述了他预计人工智能将在经济中发挥的作用。

对就业市场影响

此外，奥尔特曼还表示，他并不像硅谷的一些同行那样担心人工智能对劳动力的潜在影响，此前，Anthropic首席执行官Dario Amodei和亚马逊首席执行官Andy Jassy等科技大佬都警告说，这项技术将会抢走人们“饭碗”。

与他们相反的是，奥尔特曼认为“没有人知道接下来会发生什么。”

“有很多这样听起来很聪明的预测。但事实是，没人知道（将来会如何）。在我看来，这是一个太复杂的系统，这是一项太新、太有影响力的技术，很难预测。”他补充说。

不过，奥尔特曼还重申了一些他此前的预测。例如，一些工作类别会整体消失，但新的工作类型将会出现；如果世界可以展望100年，未来的工人可能不会拥有今天工人所认为的“真正的工作”。