OpenAI:超智能AI或在这个十年出现,将加大资源应对
新浪科技讯北京时间7月6日早间消息,当地时间周三,ChatGPT的开发者OpenAI表示计划投入更多资源并成立新的研究团队,研究如何确保AI对人类的安全性,最终实现用AI来监督AI。OpenAI联合创始人伊利亚·苏茨凯弗(Ilya Sutskever)和AI对齐负责人简·莱克(Jan Leike)在官方博客中表示:“超级智能的巨大能力可能导致人类失去力量甚至灭绝。目前,我们还没有解决方案来操纵或控制一个可能的超智能AI,并防止其变成无赖。”这篇博文预测,超智能AI,即相比于人类更智能的系统,可能会在未来10年中出现。人类需要比目前更强大的技术来控制超智能AI,因此需要在“AI对齐研究”方面取得突破,确保人AI对人类持续有益。AI对齐是AI控制中的主要问题,即要求AI的目标和人类的价值观与意图保持一致。作者写道,OpenAI将在未来4年内,将算力的20%专门用于解决这方面问题。此外,该公司将组建新的“超对齐”团队来组织这方面的工作。该团队的目标是开发达到“人类水平”,由AI驱动的对齐研究员,随后通过庞大的算力推动其发展。OpenAI表示,这意味着将使用人工反馈来训练AI系统,通过训练AI系统来协助人工评估,最终训练AI系统来进行实际的对齐研究。不过,人工智能安全的倡导者康纳·莱希(Connor Leahy)表示,OpenAI的计划存在根本性缺陷,因为最初的人类水平AI可能会失控并造成严重破坏,而这将迫使研究者去解决AI安全问题。他在接受采访时表示:“在构建人类水平的智能之前,必须先解决对齐问题,否则默认情况下你无法控制它。我个人认为这不是个特别好的、安全的计划。”AI的潜在危险一直是AI研究员和公众最关心的问题。今年4月,一群AI行业领袖和专家签署公开信,呼吁暂停6个月开发比OpenAI的GPT-4更强大的系统,原因是对社会存在潜在风险。益普索今年5月的调查发现,超过2/3的美国人担心AI可能产生的负面影响,61%的人认为AI可能威胁人类文明。
阅读
本文由用户上传,如有侵权请联系删除!
更多知识
-
狗狗生病了如何喂药?口服方法?分享简单实用的方法!
原标题:狗狗生病了如何喂药?口服方法?分享简单实用的方法! 狗...朕略傻 222 阅读
-
楼市大消息!房主买家各收1.5%,这个省会城市出手了!
原标题:楼市大消息!房主买家各收1.5%,这个省会城市出手了! 继...Rose情调※ 295 阅读
-
6月,带你“种草”乐山非遗!
原标题:6月,带你“种草”乐山非遗! 关于“非遗”,你了解多少...我真窝囊 265 阅读
-
伊朗要与多国组建新海军联盟 美国慌了:违背情理
原标题:伊朗要与多国组建新海军联盟 美国慌了:违背情理 伊朗军...臫欺欺亼 279 阅读
-
【环时深度】神十五乘组凯旋,哪些“神器”护航?
原标题:【环时深度】神十五乘组凯旋,哪些“神器”护航? 【环球...俄只是俄ゅ 309 阅读
-
果然紧跟!美印太司令部发声炒作中国导弹驱逐舰逼退美舰“不安全”
原标题:果然紧跟!美印太司令部发声炒作中国导弹驱逐舰逼退美舰“不安全” ...年少纵马且长歌 278 阅读
-
西甲大结局:巴萨夺冠压皇马 莱万金靴格刀助攻王
原标题:西甲大结局:巴萨夺冠压皇马 莱万金靴格刀助攻王 北...贤↘内助 300 阅读
-
被羁押22年后身患癌症,河北廊坊灭门案被告原伟东申请现场出庭被拒
原标题:被羁押22年后身患癌症,河北廊坊灭门案被告原伟东申请现场出庭被拒 ...回忆湿了眼 242 阅读
陌墨安
认证文章发布者
51 声望值
文章数
热门问题
1
2022年教育事业成绩单公布,各级各类教育均取得显著进展 在“上好学”上迈出坚实步伐
2
锋菲是娱乐圈最后的纯爱战士吗?
3
故宫考古如何走向世界:拾取遗落的文明碎片
4
回到中国遇球迷热情接机,伊沃:会在河南再留一年
5
美爆了也坏透了,《他是谁》陈宝丽,完美定义“蛇蝎美人”
6
牛!名记:施罗德会参加与森林狼的比赛,湖人会让他带领替补阵容
7
“圈子文化”、“能人”腐败,反腐风暴中的云南烟草
8
关于新一轮国企改革,国资委最新发声!
9
外媒:中国已提出关于乌克兰危机的和平方案,与美国成鲜明对比
10
芳蕾(关于芳蕾的介绍)
11
18省份去年出生人口全部下降,其中11省份降幅超一成
12
维拉蒂:在欧洲拿到决赛圈资格并不容易,我们会做好准备
撰写回复