您现在的位置是:首页 > 产经 >正文
OpenAI将用新方法来训练模型 以对抗人工智能“幻觉”
发布时间:2023-06-01 10:54:53黄玉卿来源:新浪网
导读 财联社6月1日讯(编辑牛占林)美东时间周三,OpenAI发布的最新研究论文显示,该公司正在用一种新的方法来训练人工智能(AI)模型,以对...
财联社6月1日讯(编辑牛占林)美东时间周三,OpenAI发布的最新研究论文显示,该公司正在用一种新的方法来训练人工智能(AI)模型,以对抗人工智能“幻觉”。 人工智能幻觉指的是人工智能模型生成内容的能力,这些内容不是基于任何现实世界的数据,而是模型自己想象的产物。人们担心这种幻觉可能带来的潜在问题,包括道德、社会和实际问题。
当OpenAI的聊天机器人ChatGPT或谷歌(123.37,-1.27,-1.02%)公司竞品Bard纯粹在捏造虚假信息时,就会发生人工智能幻觉,表现得就像是在滔滔不绝地谈论事实一样。某些独立的专家对OpenAI这样做的效果表示怀疑。
举个例子,在谷歌2月份为Bard拍摄的宣传视频中,这个聊天机器人对詹姆斯·韦伯太空望远镜做出了不真实的表述。最近,ChatGPT在纽约联邦法院的一份文件中引用了“伪造”的案件,导致涉案的纽约律师可能面临处罚。
OpenAI的研究人员在报告中写道:“即使是最先进的人工智能模型也很容易产生谎言,它们在不确定的时刻往往表现出捏造事实的倾向。而这些幻觉在需要多步骤推理的领域尤其严重,因为一个逻辑错误就足以破坏一个更大的解决方案。”
该公司提出的新策略是:训练人工智能模型时,奖励每个正确的推理步骤,而不仅仅是简单地奖励正确的最终结论。根据研究人员的说法,这种方法被称为“过程监督”,而不是“结果监督”,它可能会提高人工智能的性能与准确性,因为这种策略鼓励模型更多地遵循类似人类的“思维链”。
OpenAI的数学研究员Karl Cobbe指出:“检测并减轻模型的逻辑错误或幻觉,是构建通用人工智能(AGI)的关键一步。”他指出,这项研究背后的动机是解决人工智能幻觉,以便使模型更有能力解决具有挑战性的推理问题。
Cobbe补充道,OpenAI已经发布了一个附带的数据集,其中包含80万个人类标签,用于训练研究论文中提到的模型。
此前一天,科技界高管和人工智能科学家正在对AI敲响警钟,他们表示,这项技术带来的灭绝风险堪比疫情和核战。
超过350人签署了人工智能安全中心(Center for AI Safety)发布的一份声明,该组织表示,与疫情和核战争等其他社会规模的风险一样,减轻人工智能带来的灭绝风险应该成为全球的优先事项。
猜你喜欢
最新文章
- OpenAI将用新方法来训练模型 以对抗人工智能“幻觉”
- 收盘:美股周三收跌 市场等待债务上限协议表决结果
- Meta试图迫使联邦贸易委员会上法庭改变隐私解决方案
- 纽约黄金期货周三收高0.3% 本月下跌1.8%
- 全球Q1新能源车销量激增28%,特斯拉比亚迪“双雄争霸”
- 特斯拉计划在马斯克到访上海时展示Model 3改款车型
- 油价疲软 “欧佩克+”减产预期增强
- 美国WTI原油周三收跌2%创10周新低 本月下跌11%
- 欧盟官员呼吁延长对乌粮食禁令 乌克兰:别帮助俄罗斯分裂欧洲
- 尾盘:美股维持下跌趋势 市场聚焦美债务上限进展
- 美联储褐皮书:全美多地出现招聘放缓和经济降温情况
- 美FDIC报告:美国银行一季度存款流失刷新历史纪录
- 一路向南!推特估值仅剩马斯克收购价的1/3
- 5月30日美股成交额前20:英伟达市值一度突破1万亿美元
- 特斯拉又玩活,Model 3全身大改!自动驾驶硬件升级...售价不到20万
- 美国财政部现金余额反弹 为等待债务协议过关提供了喘息之机
- 特斯拉又玩活,Model 3全身大改!自动驾驶硬件升级...售价不到20万
- 美国众议院民主党领袖:将尽力确保债务上限法案通过
- 因对债务上限协议的担忧 美国原油期货价格跌破每桶70美元
- 收盘:美股收盘涨跌不一 市场关注债务上限协议进展
- 世界黄金协会:黄金继续受到央行的青睐 去美元化将持续下去
- 美国WTI原油周二收跌4.4% 跌破70美元关口
- 旧金山联储研究人员:薪资增长并非推高通胀的关键因素
- 纽约黄金期货周二收高0.7%