OpenAI的非营利部门向杜克大学提供了一笔100万美元的赠款，用于为期三年的"研究AI道德"项目。该项目旨在研究如何使AI具有道德意识，并创建算法来预测人类在医学、法律和商业等领域的道德判断。研究团队由伦理学教授领导，他们致力于解决现实世界中的道德难题，例如器官移植分配。然而，由于AI模型基于训练数据，可能存在反映主流文化偏见的风险，因此该项目也面临着挑战。

🤔OpenAI资助杜克大学开展为期三年的‘研究AI道德’项目，旨在探索如何赋予AI道德意识，总金额达100万美元。

👨‍🏫该项目由杜克大学伦理学教授Walter Sinnott-Armstrong和Jana Schaich Borg领导，他们专注于应用伦理学、道德心理学和神经科学等领域。

🎯项目目标是开发算法，预测人类在医学、法律、商业等领域的道德判断，以期提升AI的道德决策能力。

⚠️研究面临的挑战在于AI模型的训练数据可能反映主流文化偏见，导致AI决策存在潜在的偏见风险。

🔬研究团队将通过设计算法解决现实世界中的道德难题，例如器官移植分配的公平性问题，并权衡公众和专家意见，优化AI系统的公平性。

IT之家 11 月 23 日消息，OpenAI 正在资助“人工智能道德”研究进入复杂的领域。据外媒 TechCrunch 今日报道，在美国国税局提交文件披露的一项举措中，OpenAI 的非营利部门向美国杜克大学的研究人员提供了一笔赠款，用于一个名为“Research AI Morality（研究 AI 道德）”的项目。

该项目属于一项更大的计划，该计划在三年内提供了 100 万美元（IT之家备注：当前约 726 万元人民币），用于研究如何使 AI 具有道德意识。

该项目由专门研究实践伦理学的教授 Walter Sinnott-Armstrong 和 Jana Schaich Borg 领导，Sinnott-Armstrong 是哲学界的研究人员，他深入应用伦理学、道德心理学和神经科学等领域。他在杜克大学的团队致力于解决现实世界中的难题，比如通过设计算法来决定谁应该接受器官移植、权衡公众和专家的观点来完善这些系统的公平性。

OpenAI 资助的项目旨在创建算法，预测医学、法律和商业等领域的人类道德判断。这个研究的难点源于 AI 的运作方式：机器学习模型基于训练数据预测结果，因此通常反映了主流文化的意见，可能会存在偏见。