文章主题:GPT-5, OpenAI, H100, 算力
GPT-5,作为OpenAI语言模型GPT(Generative Pre-trained Transformer)的第五个版本,备受瞩目。GPT-4作为GPT-3的继承者,有望在性能和功能上实现突破。尽管目前GPT-5尚未正式亮相,但有关其功能的消息已经传播开来,据称最早在今年7月,GPT-5的部分功能将逐渐公开。到第四季度,随着GPT-5的正式发布,它有望彻底改变世界的格局。
8月1日,OpenAI已经为GPT-5申请了商标。
GPT-5的训练过程依赖于5万张H100显卡的助力。目前,英伟达GPU已经成为了众多AI公司打造大型AI模型的首选工具。但是,OpenAI的首席执行官Sam Altaman却透露出GPU供应短缺的问题,同时他也不希望看到太多人使用ChatGPT。
目前,生成式AI的繁荣仍在持续,对算力的需求也日益增加。许多初创公司都在采用英伟达的昂贵且性能卓越的H100显卡来训练模型。马斯克曾表示,与药物相比,GPU在这一点上更为难以获取。Sam Altman则指出,由于GPU的短缺,OpenAI的短期计划(如微调、专用容量、32k上下文窗口和多模态)已被推迟。
GPU芯片行业发展分析
在1984年之前,GPU仅被应用于图形和图像相关运算,其运行受到CPU的调度限制。然而,随着云计算、人工智能等技术的飞速发展,GPU并行计算的优势得以充分挖掘,开始在高性能计算领域替代CPU,逐渐成为主角。1999年,NVIDIA公司在其标志性产品GeForce256发布时,首次提出了GPU的概念。到了2006年,NVIDIA推出了第一款配备统一渲染架构的桌面GPU以及CUDA通用计算平台,这使得开发者能够利用NVIDIA GPU的运算能力进行并行计算,从而拓宽了GPU的应用范围。2011年,NVIDIA发布TESLAGPU计算卡,这标志着GPU芯片正式步入高性能计算时代。
全球GPU芯片出货量超过4.6亿片/年
近年来,全球GPU技术取得了显著的进步,已经超越了其原有的功能范围。如今,它不仅可以满足大部分图形应用程序的需求,同时在科学计算、人工智能以及新型图形渲染技术等领域得到了广泛的应用,这无疑为全球GPU芯片市场的持续高速发展提供了强大的动力。
根据全球知名调研机构JPR的数据,我们观察到2021年全球GPU芯片的季度出货量大致保持在1-1.3万片之间,且在2021年全年的出货总量超过了4.6亿片。
预计2027年全球市场规模超过320亿美元
根据IC Insights数据,2015-2021年全球GPU芯片市场规模增速超过20%,2021年,全球GPU芯片市场规模超过220亿美元。
对于 GPT-4 下一代版本是什么样子外界多有猜测,其中呼声较高的一个观点是认为 OpenAI 的下一代大模型产品可能会实现通用人工智能。
OpenAI 在最近的博客文章中提到,它正在组建一个由熟练的机器学习研究人员和工程师组成的团队,以应对调整超级人工智能的基础技术挑战,并在未来四年为此分配 20% 的计算资源。
“虽然超级智能系统现在看起来还很遥远,但我们相信它可能在十年内实现,”OpenAI方表示。
AI时代,拥有个人微信机器人AI助手!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!