OpenAI 离成熟商业公司更近一步
发布 GPT-4 的同时,OpenAI 离成熟公司越近,离名字里的 “Open” 越远。
GPT-4 无疑是一个更好的产品。写散文、诗歌、代码,这些 GPT-3 已经会的技能,它可以完成得更好、更具创造力;而读图、雇人、数学等 GPT-3 表现很差或全然不知的领域,GPT-4 的表现称得上惊艳。(关于 GPT-4 新功能的细节以及它们是如何实现的,请参阅《晚点 LatePost》今天的长文《更强的 GPT-4,更封闭的 OpenAI》)
如我们之前所讨论的,在这场 “火鸡”(OpenAI)追逐 “雄鹰”(Google,其实也可以泛指掌握充沛技术资源的巨头)的故事伊始,OpenAI 靠着 “开发通用人工智能技术、专利和研究成果全部开放” 的宏大愿景,招揽到一批顶尖 AI 专家。创始人们都对人工智能的未来充满恐惧,假想敌是大公司(比如 Google)开发的邪恶 AI。
如今 OpenAI 也更像一家商业公司了:发布会之前提前向媒体和合作伙伴开放试用,等到正式发布时一同造势;为了保持自身竞争优势,同步张贴的 “论文” 长达 90 页,却没有介绍任何训练的技术细节;发布会上高管风趣的演示方式,跟市值万亿美元以上的硅谷巨头们没太大区别。
就像每次人工智能取得重大进展时一样,很多人都在 GPT-4 发布后担忧自己会丢工作。GPT-4 看上去可以轻松替代助教、初级编辑、客服助理,而一些看上去掌握更难技能的人也开始焦虑。
一位得克萨斯大学奥斯汀分校研究 NLP(自然语言处理)的博士在 Twitter 上分享了他对 GPT-4 的复杂情感:激动不已,但也因此质疑自己的研究价值。另一位软件工程师则说:“别再说 GPT-4 不会解 LeetCode hard 难度的题所以程序员很安全了,我特么也不会。” 评论区里不少同行表示赞同。
不过,OpenAI 的创始人和一些学者仍在提醒不要过分神化 GPT-4。山姆·阿尔特曼(Sam Altman)在社交媒体上说,它仍有缺陷、存在限制,并在熟悉之后可能不会像初见时那样惊艳。
艾伦人工智能研究院院长、华盛顿大学教授奥伦·埃齐奥尼(Oren Etzioni)称,虽然 GPT-4 取得了很大进展,但显然还不能被信任,“离放心让任何 GPT 运营一座核电厂,还有很长的路要走”。
OpenAI 的研究人员已经做了很多努力,帮助 GPT-4 拥有更高的准确率和更严苛的道德准则。OpenAI 称,与 GPT-3.5 相比,GPT-4 在回答事实性测试题时,评估得分提升了 40%;响应本该拒绝的用户请求几率降低了 82%。
但基于其生成答案的底层逻辑未变(更多依赖统计和概率而不是对事物的理解)、训练数据仍来自公开世界,GPT-4 仍不可避免地会出错、会产生幻觉(hallucinating,指 AI 编造事实)、会被恶意利用、也会输出偏见,和创造它的人类一样。(邱豪)
更多知识
-
如何治疗和预防甲流(服务窗·科学防疫)
原标题:如何治疗和预防甲流(服务窗·科学防疫)每年春季是甲流的高发季节,最近一些地方出现了散发病例。什么是甲流?有什么特点?如何治...烟燃烟灭つ 268 阅读
-
iPhone15的type-C接口玩手段,欧盟将重罚,苹果会妥协么?
据称苹果今年的iPhone15将会首次用上type-C接口,不过苹果为了赚取厚利可能会给type-C接口,而欧盟显然也早就为此做好准备,如果苹果执意如...﹏丶小迣界 284 阅读
-
微视频|同心逐梦 共向未来
原标题:微视频|同心逐梦 共向未来春风浩荡中,2023年全国两会通过法定程序把党的二十大作出的决策部署转化为全国人民的实际行动,胜利闭...■■俗人雅钦 186 阅读
-
东方甄选回应直播间疑似售假:会积极解决问题,请不要攻击主播
Tech星球3月16日消息,日前东方甄选被曝将养殖虾当野生虾卖引发热议。昨日晚间,东方甄选官方账号发文回应称,“东方甄选作为一家公司,会...原地等候已经远去的幸福 216 阅读
-
OpenAI 离成熟商业公司更近一步
发布 GPT-4 的同时,OpenAI 离成熟公司越近,离名字里的 “Open” 越远。GPT-4 无疑是一个更好的产品。写散文、诗歌、代码,这些 GP...床上小旋风 280 阅读
-
维珍轨道公司暂停运营一周:员工休无薪假,股价暴跌50%
3月16日消息,据外媒援引知情人士消息称,当地时间周三火箭发射公司维珍轨道决定暂停运营一周时间,并安排大部分员工休无薪假,期间寻求能...冷夕颜 236 阅读
-
推动世界共同发展繁荣 创造更加美好未来
原标题:推动世界共同发展繁荣 创造更加美好未来新华社北京3月13日电题:推动世界共同发展繁荣 创造更加美好未来新华社记者十四届全国人...而后的我们 220 阅读
-
瞭望·治国理政纪事丨马上就办 真抓实干
原标题:瞭望·治国理政纪事丨马上就办 真抓实干 ◆ 1991年2...愚人自愈 203 阅读
撰写回复