文章主题:关键词:宋徽宗、《蜡梅山禽图轴》、丹青、文生图模型、AIGC、视觉计算、预训练、东方美学、版权问题、网易伏羲、稳定性Diffusion、AI绘画平台、玉言、有灵美术平台。
嘉宾 | 赵增博士 作者 | 凌敏
🎨宋代巨擘宋徽宗赵佶的不朽之作,《蜡梅山禽图轴》,以其细腻笔触与深远意境,展现了他对自然与生命的独特见解。画中的白头翁,仿佛在丹青之间翩翩起舞,那份矜持与优雅,如同梅花粉嫩轻柔,虽岁月流转,却依然保持着初见时的深情。诗中言:“丹青之约,千秋犹白头”,寓意着艺术的永恒超越生命,即使羽毛上的墨色稍淡,也掩盖不了其千年不衰的爱情故事。这幅画作,无风、无影,远离尘世喧嚣,犹如一幅静谧的时光画卷,诉说着超凡脱俗的艺术魅力与时间的无声流转。SEO优化词汇:宋徽宗《蜡梅山禽图轴》、丹青艺术、白头翁的爱情故事、千年不衰、艺术永恒。
🎨启发创作,网易VP胡志鹏以中国古代绘画技法为名,赋予网易自主研发的文生图模型——`丹青`,寓意艺术与科技的融合。以此模型为基础,他打造了集AI生成内容(AIGC)于一体的平台——`丹青约`,旨在引领未来创意新风尚。🎨🎨SEO优化提示:使用行业术语如“AI图文创作”、“创新内容平台”,并融入相关情感词汇如“灵感驱动”、“艺术科技融合”。记得保持信息的连贯性和完整性哦!
🎨✨丹青模型🌟源于深厚中文底蕴与网易独家优质图像资源,以其卓越的中文理解力独树一帜!它对中华美食、成语、俚语和诗词的诠释精准无误,让每张图片都蕴含着地道的东方韵味。👀比如,它的杰作——鱼香肉丝不带鱼,红烧狮子头不见真狮,每一笔都流淌着东方美学的灵魂。🌍基于对中国文化场景的深刻洞悉,丹青模型不仅能创作出如诗如画的水墨画卷,还能呈现符合东方审美的古典佳人,让人眼前一亮!🎨SEO优化提示:关键词“中文理解”、“东方美学”、“文生图模型”、“中华传统”。
丹青模型生成的图片
🌟网易伏羲,AI领域的领军者🌟趙增博士揭秘🔥丹青模型背后的创新之路💡。成立于2017年,这颗科技明星专注于强化学习、自然语言处理、用户画像等前沿领域,引领着视觉计算和虚拟人技术的革新🚀。他们的技术成果丰硕,已应用于多个场景,如智能捏脸、反作弊系统、动态NPC设计及精准匹配策略,甚至延伸到竞技机器人与人机协作的高度。\📈在过去的几年里,伏羲团队在全球顶级学术会议上发表了200余篇论文,专利申请更是达到550项的里程碑。他们的每一次突破,都在为AI世界点亮新的可能🌟。欲了解更多伏羲的技术实力和卓越成就,敬请关注我们的平台,让前沿科技触手可及!🏆#网易伏羲 #丹青模型 #AI技术探索
1 文生图模型“卷”起来了2022 年被称为 AIGC(生成式人工智能)的元年。
🌟今年科技创新热度不减,两大里程碑事件引领潮流:Stable Diffusion开源,开启文生图模型新篇章;ChatGPT横空出世,全球热议,成为现象级应用的代表。🎉Science杂志年终盘点,AI生成内容(AIGC)以其显著突破,闪耀在2022年度科学十大创新之列,彰显人工智能领域的非凡实力与无限可能。🌍技术的进步,不仅改变了我们的交流方式,更深刻地塑造了信息时代的未来。🔥让我们期待未来,AI将在更多领域引领革新!
🌟2023年AI浪潮开启,AIGC引领创新风暴!🔥大模型迭代升级,文生图领域热度飙升,国内外爆款模型层出不穷。🚀这一领域的竞赛愈发激烈,不断刷新着生成质量和速度的上限,为用户带来前所未有的视觉盛宴。🌍无论是国内还是国际,文生图技术的进步都在全球范围内引发关注和赞誉。💻紧跟潮流,探索AI新可能,让我们一起见证这股人工智能浪潮如何引领未来图文创作的新风尚!🏆
“在过去的半年里,我深刻地感受到了 AIGC 技术的飞速发展。整体来看,去年整个行业和技术相对来说不如今年活跃。今年以来,行业和社会都开始更加关注 AIGC 的发展,AIGC 技术发展速度惊人。”
赵增在接受 InfoQ 采访时表示,AIGC 技术的飞速发展使得文生图模型不断实现更加良好的生成效果,与此同时,以 Stable Diffusion 为代表的开源项目空前活跃,很多没有强大 AI 背景的开发者也能够基于开源生态做出优秀的 AI 模型。“这对我们产生了很大的冲击,我们需要重新审视自身的工作路径,并考虑如何与有志于参与模型建设的行业伙伴建立关系。同时,我们也要考虑如何支持内部同事,尤其是那些掌握了一定 AI 生产能力的美术同事们,帮助他们更好地利用 AIGC 技术,以提升他们的工作效率和质量。”
2 如何构建更懂中文的文生图模型?据了解,网易伏羲从 2018 年开始关注 AIGC 技术在产品中的应用可能性,不断尝试将其应用于实际场景。
2018 年,GPT 横空出世,其强大的生成效果令人印象深刻。在胡志鹏的推动下,网易伏羲开始尝试在游戏中使用 AIGC 技术,推出一些互动玩法。比如,在《遇见逆水寒》游戏中,网易伏羲引入了一个文字生成类的玩法——傀儡戏。
在这个玩法中,玩家可以扮演剧情角色,通过聊天的方式,与 AI 共同创作剧本,共同协作达成一些目标。这也是国内首个将 AI 接入游戏中,与玩家共同创作剧本的玩法。2019 年,网易伏羲尝试将这一设计正式大规模上线,并在训练应用、工程加速等多个方面进行直接探索。
与其他 AI 研究机构相比,网易伏羲的优势在于能够快速在产品中验证 AI 技术,根据实际应用效果不断迭代优化。赵增表示,网易有多款产品,可以通过类似“实验田”的方式验证 AI 产品在游戏或其他产品中的可行性,“这也是网易的一个良好机制,可以快速验证和实现 AI 的应用。”
2021 年,网易伏羲正式启动大规模预训练研发项目,并得到了浙江省政府的支持。根据项目规划,网易伏羲计划开发文本、图像、音乐等一系列 AI 大模型。在与网易集团多个业务的专家交流后,网易伏羲判断多模态将是未来发展趋势,决定优先专注多模态相关的工作,如文本到图像、文本到音乐、图像到音乐的理解和生成。
文生图模型丹青正是其中的主要工作之一。2022 年上半年,网易伏羲开始启动丹青模型的各项工作,该模型基于原生中文语料数据及网易自有高质量图片数据训练,100% 自研。
“生产好的内容之前,需要先理解好的内容”在丹青模型出现以前,国内外已有多个文生图模型,随着去年 Stable Diffusion 的开源,文生图模型数量激增,很多创业公司直接基于 Stable Diffusion 模型进行适配训练和推理生成,并利用 API 的翻译接口将中文的输入转化成英文,实现对中文用户的支持。
不过,Stable Diffusion 使用的核心数据集是开放图像 – 文本对数据集 LAION-5B,存在一些偏西方化的特点。比如,海外数据的内容组成大多由当地的人文地理、生活历史构成,对中文语言、美食、文化、习俗缺乏理解,直接地英译中可能引起语义的缺失,由此生成的图片也容易引发争议。像淮扬名菜“红烧狮子头”,一些模型会生成狮子头的图片;河北小吃驴肉火烧,也有模型直接生成一头驴和一团火。
此外,海外数据集在合规性和安全性方面存在一定风险,比如,存在种族不平等、大量裸露、暴力等内容,直接将这些数据模型用于国内的生产,存在巨大的隐患。
“网易伏羲的观点是,生产好的内容之前,需要先理解好的内容。”赵增认为,Stable Diffusion 的确给文生图模型领域带来了一些参考和启示,但 Stable Diffusion 在很大程度上仍是“黑盒”,如果在其基础上进行修改,对模型的优化和控制力是相对有限的。做文生图模型,如果只是简单的重复并无意义,需要走出自己的一条路子。
具体来说,网易伏羲的关注点主要有三大方面:
第一,网易伏羲需要构建的是一个对中文领域以及中文的艺术知识有更深理解的生成模型,满足国内用户的使用需求。
第二,从技术的可控性、安全性和规则性出发,需要打造一个完全开放的基础模型,知道它是如何构建和运作的,以及如何对其进行优化,而不是始终等待别人开源新版本。
第三,AIGC 并不代表只是大模型,大模型只是其中的重要环节,要真正将生成的内容用于生产,还需要做很多大模型以外的工作。比如建立生产管线,将专家及 AI 能力整合起来,提供专业化解决方案。
基于这一认识,网易伏羲选择兼容开源数据的同时,又分为四步推进丹青模型的研发工作:建设高质量的大规模中文数据集;构建中文领域的优质理解模型;基于数据集和理解模型重构图文生成算法,做到语义的有效提升;引入专家和人类的反馈,引导模型生成用户更加需要的高质量内容。
数据集方面,网易伏羲联合网易多个部门,包括网易雷火、传媒、云音乐等核心业务,从用户和业务维度提供对数据的理解和需求,完成对于优质数据的定义,建设包括文本质量、图像美观度、版权合规性以及伦理评估等评价标准。以此框架作为约束共同推进数据构建,同时设计了一套基于分布式任务的数据可信系统,各专家团队各自提供数据质量评审模型,完成共同打分后再交由数据治理引擎统一管理。
大模型方面,网易伏羲自主研发了中文文本预训练大模型系列“玉言”,“玉言”先后登顶知名中文榜单 FewCLUE 和 CLUE 分类榜单,在多项任务上超过人类水平。在文本理解的基础上,网易伏羲自 2021 年起着力打造“玉知”多模态图文理解大模型,采用图片 – 文本双塔结构和模块化的训练思想,基于亿级别的中文图文数据对,先后迭代了三种规格的模型版本。
基于数据集和理解模型,网易伏羲对图文生成算法进行重构,依托于扩散模型的原理,在广泛的(8 亿)图文数据上训练以达到较好的生成结果。具体来说,丹青模型侧重文本与图片的交互,强化了在文图引导部分的参数作用,能够让文本更好地引导图片的生成,因此生成的结果也更加贴近用户意图。同时,丹青模型进行了图片多尺度的训练,充分考虑图片的不同尺寸和清晰度问题,将不同尺寸和分辨率的图片进行分桶。在充分保证训练图片训练的不失真的前提下,保留尽可能多的信息,适应不同分辨率的生成。
在数据策略方面,丹青模型在初始阶段使用亿级别的广泛分布的数据,不仅在语义理解上具有广泛性,可以很好地理解一些成语、古文诗句,在生成的画风上也具有多样性,可以生成多种风格。在之后的阶段,丹青模型分别从图文关联度、图片清晰度、图片美观度等多个层面进行数据筛选,以优化生成能力,生成高质量图片。
此外,丹青模型在训练和生成阶段还引入了人工反馈。在训练阶段,人工从多个维度的评估,筛选出来大批高质量图文匹配、高美观度数据,以补足自动流程缺失能力,帮助基础模型获得更好的效果;在生成阶段,人工对模型的语义生成能力和图片美观度进行评分,筛选出大批量优质生成的结果,引入模型当做正反馈,实现数据闭环。
丹青约背后的东方美学丹青模型是底层基础,在实际场景中进行应用需要依赖于上层平台的建设。依托于丹青模型,网易伏羲和雷火艺术中心联合研发了 AI 绘画平台“丹青约”。
在赵增看来,丹青约的优势在于对中文和美的理解,依赖于较强的中文理解能力,以及对美学的专业理解,丹青约创作出的作品更能满足中式审美。“我们会请一些美术专家对模型进行把控。目前来看,国内具备美术专家群体的 AI 机构寥寥无几,网易在这一领域具有显著优势,我们知道什么样的模型生成内容更符合大家的审美需求。”
比如,雷火艺术中心会派遣艺术家前来指导,从艺术的角度对生成图片效果、插件、版本给予专业意见。丹青约也会为艺术家提供定制化的生成工具,及时获取艺术家们的反馈意见,进一步迭代优化。
此外,丹青约还充分结合了网易游戏美术设计的工作流,无论是生成图片的美观度,还是满足高质量要求的图片生产(如原画、美术资产等),都做了深入的探索和研发,并且支持用户跨文字、图片等多模态给予多轮修改建议,直到生成满意的图片效果。
丹青模型生成的“天空之城”
目前,网易伏羲正在推进丹青约的建设,并携手网易集团内部生态共同参与艺术风格和算法模型的设计和训练。此外,网易伏羲还积极推动将 AI 技术应用于企业美术资产的生产创作流程中。即将上线的网易伏羲有灵美术平台集成了丹青约等多种美术工具,涵盖了美术资产制作、工具管理、审核验收等生产全链路功能,大幅提升了美术创作的生产效率,为艺术家们提供了更加灵活的生产力工具。
“大模型业务不仅包括模型算法本身,还需要一个非常完善的数据计算和人工智能系统支撑。我们系统地从多个方面来建设大模型能力,以满足实际应用需求,并不断持续关注和发展大模型技术。”赵增说道。
3 文生图模型如何应对版权争议?文生图作为大模型最火热的应用领域之一,近几年取得了突破性的进展,并成功在多个领域落地应用。与热度随之而来的也有争议,其中,最大争议点在于版权。
今年 1 月份,三位艺术家曾对 Stable Diffusion 背后的公司 Stability AI,AI 绘画工具 Midjourney,以及艺术家作品集平台 DeviantArt 提起诉讼,称这些组织通过在“未经原作者同意的情况下”从网络上获取的 50 亿张图像来训练其人工智能,侵犯了“数百万艺术家”的权利。
该案的代理律师 Matthew Butterick 指出,从法律的角度来看,几乎没有艺术家明确同意他们的作品用于训练 AI 系统。即使系统生成的图像作为原始图像传递,生成系统仍将基于未经授权的数据。“因为系统中的所有视觉信息都来自受版权保护的培训图像,所以产生的图像无论外观如何,必然是从这些训练图像中衍生出来的。”
版权争议是文生图模型继续向前发展必须解决的问题。赵增认为,能够真正训练好 AI 模型并使其发挥作用的并不是技术人员,而是具有行业需求和美术能力的专家。“我们需要聚集这些专家,让专家们围绕这个生态进行创作。必须考虑到专家的版权和原始利益,否则整个生态无法运转。”
在版权问题上,目前网易伏羲团队正与网易区块链团队搭建相关平台,通过区块链和 Web3.0 的模式,将大家在整个生产链路过程中的贡献记录下来。例如,有人提供了原始训练图片,有人提供模型,有人提供创意,将这些生产日志记录下来,并通过回报分配的方式尽可能给予大家相对公平的激励。“这是我们现在非常明确要做的非常重要的事情。但是这个事情比较新,我们目前还在与网易的区块链团队搭建平台,并在内部进行验证。”
4 写在最后目前,丹青模型还在持续的迭代优化中,团队的短期目标是将丹青模型打造成一个更完善的产品。“我们正在努力提升大模型的效果,包括丰富其知识和提高生成的稳定性。其中,丰富知识是指对一些特定领域的理解,例如对于中国传统文化或海外知识的掌握。当我们需要生成一个中国古代建筑或榫卯结构的建筑时,我相信许多模型缺乏相关的知识。此外,我们的模型对于海外支持相对较弱,这也是需要进一步提升的地方。”赵增表示,除了将基础生成模型发展为一个更完善的产品,网易伏羲还希望构建一条更高效的生成图片的路径,以帮助美术专家进行创作。这涉及到多个模型能力的整合和闭环学习系统的建设,“这些都是我们接下来的重点努力方向”。
在技术之外,开源生态同样值得关注。“今年以来出现了很多基于开源生态的大模型,包括图文、文本等。未来基于这些开源生态,工具和模型的版本迭代一定会发生非常有趣的变化,这个可能是我们现在都想象不到的。因此,我们需要保持关注并适应这些变化。”赵增说道。
采访嘉宾 赵增,计算机博士,网易人工智能专家,预训练及生成式人工智能平台负责人、计算效能部门负责人。网易集团技术委员会机器学习分委会、音视频分委会委员。研究领域包括大规模人工智能系统、生成式预训练及基础算法优化。浙江省重点研发项目 – 超大规模预训练云平台主要研发人员,组织多项超大规模预训练模型研制及平台示范工作,参与申请发明专利近 30 项、高质量论文 5 篇。主导研发人工智能平台“丹炉”,日调用量超百亿次。曾参与国产芯片基础数学库优化、国产万亿高性能集群、“十四五”数字人等多个国家、省部级重点研发计划。内容推荐本期《中国卓越技术团队访谈录》深入采访了腾讯、网易伏羲、阿里云、QQ 等技术团队,呈现了这些团队在向量数据库、大模型、前端和研效等方面的技术落地、产品演进和团队建设等方面的多年实践经验和相关心得体会。识别下图二维码或点击阅读原文,立即查看全部内容!
今日好文推荐爱奇艺VR公司业务停滞,员工或被欠薪;阿里云开源通义千问 70 亿参数模型,免费可商用;华为正式发布鸿蒙 4,接入大模型|Q资讯
年薪超 600 万,比技术总监还高:电影行业 AI 产品经理的崛起
大模型竞争突然升级!亚马逊 CEO 亲自监督、组建新的核心技术团队,集中优势资源打造“最具野心”的大语言模型
AI时代,拥有个人微信机器人AI助手!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!