摘掉 Chat 标签,GPT-4 将释放更大生产力


本文摘自雷锋网,原文链接:https://www.leiphone.com/category/ai/Q05qlqRHtvpWNchg.html,侵删。

摘掉 Chat 标签,GPT-4 将释放更大生产力

今日,多模态大模型 GPT-4 震撼登场!

GPT-4 能够接受图像和文本输入,输出文本,在各项测试和基准上的表现已经与人类水平相当。

Sam Altman 称,GPT-4 是“我们迄今为止最强大、对齐最好的模型”。

摘掉 Chat 标签,GPT-4 将释放更大生产力

在许多方面,GPT-4 都已经能做到之前 ChatGPT(GPT-3.5)所力不能及的事情。相比 ChatGPT,GPT-4 支持更长的输入,一次可接受 32768 个 token,相当于 50 页纸的内容,长篇学术论文可以直接丢给它去解读了。

摘掉 Chat 标签,GPT-4 将释放更大生产力

GPT-4 跟 GPT-3.5 具有相同的 API 接口和交互界面,但在文本总结和加工能力上,GPT-4 有了明显的提升,这表现提出指令后,模型能更好地遵循指令给出答案。

例如让一篇文章变成一个句子,每个单词都以 G 开头,GPT-3.5 还未尝试就放弃了任务,但在 GPT-4 中可以很好地完成:

摘掉 Chat 标签,GPT-4 将释放更大生产力

摘掉 Chat 标签,GPT-4 将释放更大生产力

同时,GPT-4 对指令的理解能力更佳:

摘掉 Chat 标签,GPT-4 将释放更大生产力

摘掉 Chat 标签,GPT-4 将释放更大生产力

此次更新中,GPT-4 最令人惊喜的能力,是它可接受图片输入,并对图片生成说明、分类和分析。比如输入一张有鸡蛋、面粉和牛奶的图片,询问 GPT-4 可以使用这些原材料做什么,得到的结果如下:

摘掉 Chat 标签,GPT-4 将释放更大生产力

GPT-4 可以实现从图片中提取文字信息并输出到 HTML,比如尝试手绘一个笑话网站模型,让 GPT-4 尝试自动生成网站的原型图(程序员嗅到了危险的味道):

摘掉 Chat 标签,GPT-4 将释放更大生产力

手绘的笑话网站模型图

摘掉 Chat 标签,GPT-4 将释放更大生产力

GPT-4 根据手绘生成的笑话网站

对比 ChatGPT,GPT-4 的推理能力也有所超越,下面的结果展示了同一个问题 ChatGPT 和 GPT-4给出的不同答案:

摘掉 Chat 标签,GPT-4 将释放更大生产力

不仅如此,GPT-4 还能基于税务法则,帮助一对夫妻精准地计算出2018年缴纳的税额,并给出详尽的算法步骤,以便阅读解释。

摘掉 Chat 标签,GPT-4 将释放更大生产力

据了解,OpenAI 于去年 8 月就已经完成了 GPT-4 的训练,我们与 OpenAI 的差距似乎更大了。

—— 2 ——与 ChatGPT 相同的技术路线

在技术层面,一句话概括,GPT-4 是一个 Transformer 模型,使用公开可用的数据(如互联网数据)和第三方提供商许可的数据进行预训练,预测文本中的下一个 token,然后使用 RLHF(来自人类反馈的强化学习)对模型进行微调。

在一份98页的技术报告中,OpenAI 报告了 GPT-4 的性能、局限性和安全特性,但并没有公开有关架构(包括模型参数量)、硬件、训练计算、数据集构建、训练方法等内容的更多细节。

OpenAI 声称是“鉴于竞争格局和 GPT-4 等大规模模型的安全性影响”。

关于GPT-4的参数量,此前OpenAI的CEO Sam Altman表示,GPT-4不会比GPT-3高出太多,但大家关于GPT-4拥有极大参数量的猜测仍有很多。

对此,UCL 计算机系教授、上海数字大脑研究院院长汪军认为,大力确实出奇迹,此前 ChatGPT 的语言能力很强,有一定的逻辑推理能力,但它并未真正理解数据里面的内容,它只是在原来的训练数据中、搭料能力很强,因此是具有一定局限性的,在训练里一定要加上它对整个世界的理解。举个简单的例子,以下棋为例,如果你给它所有人类的下棋数据能力,比如说2000分以下所有人的数据,如果模型只模仿人的话,那么它是模仿不出比这2000分更高的智能的。

摘掉 Chat 标签,GPT-4 将释放更大生产力

在这份技术报告中,OpenAI 依然传达了一些关键信息,比如 GPT-4 采用与 GPT-3.5/ChatGPT 完全相同的技术路线;有一系列的对齐方案来保证 GPT-4 输出的安全性;基于不超过 GPT-4 千分之一的计算量来准确预测 GPT-4 在一定计算规模下的性能,利用小模型的训练性能来预测大模型期望性能这一点,在 OpenAI 看来是一项核心能力,也是一个值得研究的方向。

—— 3 ——GPT-4 背后的强大阵容

阅读剩余部分

相关阅读 >>

古茗捐款500万元驰援京津冀防汛救灾

折叠屏转折之年:谁夺c位?

锐龙7000支持intel独家avx512指令集?zen4有ai加速了

《堡垒之夜》将联动《刺客信条》艾吉奥加入战场

中兴终端事业部总裁倪飞:践行“创行力”,构建全场景5g终端生态​​

网友爆料《忍者神龟:斯奈德的复仇》发售日期

1月xgp游戏:质量效应传奇版、画中世界、星际拓荒等

中国折叠屏市场新趋势:oppo折叠屏体验必须超越直板手机

微星笔记本国行发布会定档2月2日

京东徐雷:二季度面临上市以来最大挑战,手机、家电需求低迷

更多相关阅读请进入《新闻资讯》频道 >>



打赏

取消

感谢您的支持,我会继续努力的!

扫码支持
扫码打赏,您说多少就多少

打开支付宝扫一扫,即可进行扫码打赏哦

分享从这里开始,精彩与您同在

评论

管理员已关闭评论功能...