文章主题:GPT-5, OpenAI, H100, 算力
GPT-5,作为OpenAI语言模型GPT(Generative Pre-trained Transformer)的第五个版本,备受瞩目。其先驱者GPT-3在性能与功能上取得了显著的成果,因此GPT-4作为其后续之作,被寄予厚望,预期将进一步提升能力和表现。尽管目前GPT-5的具体发布时间尚未确定,但据可靠消息来源透露,最早在今年7月,GPT-5的部分功能便有望逐步公开。而在第四季度,随着GPT-5的正式亮相,其将彻底改变世界的格局。
8月1日,OpenAI已经为GPT-5申请了商标。
GPT-5的训练过程依赖于5万张H100显卡的助力。作为人工智能领域的重要推动者,英伟达GPU已经成为了众多AI公司开发大型模型时的首选工具。然而,OpenAI的首席执行官Sam Altaman却透露出GPU供应短缺的问题,这让人不禁担忧大量使用ChatGPT会对GPU资源产生过大的压力。
目前,生成式AI的繁荣仍在持续,对算力的需求也日益增加。许多初创公司都在采用英伟达的昂贵且性能卓越的H100显卡来训练模型。马斯克曾表示,与药物相比,GPU在这一点上更为难以获取。Sam Altman则指出,由于GPU的短缺,OpenAI的短期计划(如微调、专用容量、32k上下文窗口和多模态)已被推迟。
GPU芯片行业发展分析
在1984年之前,GPU仅被应用于图形和图像相关运算,其运行受到CPU的调度限制。然而,随着云计算、人工智能等技术的飞速发展,GPU并行计算的优势得以充分挖掘,开始在高性能计算领域替代CPU,逐渐成为主角。1999年,NVIDIA公司在其标志性产品GeForce256发布时,首次提出了GPU的概念。到了2006年,NVIDIA推出了第一款采用统一渲染架构的桌面GPU以及CUDA通用计算平台,这使得开发者能够利用NVIDIA GPU的运算能力进行并行计算,从而大大拓展了GPU的应用范围。2011年,NVIDIA发布TESLAGPU计算卡,正式将用于计算的GPU产品线独立出来,这标志着GPU芯片进入了高性能计算新时代。
全球GPU芯片出货量超过4.6亿片/年
近年来,全球GPU技术取得了显著的进步,已经超越了其原有的功能范围。如今,它不仅可以满足大部分图形应用程序的需求,而且在科学研究、人工智能以及新型图形渲染技术等领域得到了广泛的应用,这无疑推动了全球GPU芯片市场的持续高速增长。
根据全球知名调研机构JPR的数据,我们观察到2021年全球GPU芯片的季度出货量大致保持在1-1.3万片之间,而在整个2021年,其出货总量超过了4.6亿片。
预计2027年全球市场规模超过320亿美元
根据IC Insights数据,2015-2021年全球GPU芯片市场规模增速超过20%,2021年,全球GPU芯片市场规模超过220亿美元。
对于 GPT-4 下一代版本是什么样子外界多有猜测,其中呼声较高的一个观点是认为 OpenAI 的下一代大模型产品可能会实现通用人工智能。
OpenAI 在最近的博客文章中提到,它正在组建一个由熟练的机器学习研究人员和工程师组成的团队,以应对调整超级人工智能的基础技术挑战,并在未来四年为此分配 20% 的计算资源。
“虽然超级智能系统现在看起来还很遥远,但我们相信它可能在十年内实现,”OpenAI方表示。
AI时代,拥有个人微信机器人AI助手!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!