多模态大模型初创企业“智子引擎”,近日完成千万元天使轮融资

访客2年前AI生活225

独家 | 多模态大模型初创企业“智子引擎”,近日完成千万元天使轮融资

大模型在四五月份迎来“百家争鸣”,战况愈加激烈,有新玩家仍在陆续进场。

AI 科技评论获悉:近日,一家多模态大模型初创公司“智子引擎”完成了千万元天使轮融资。据了解,“智子引擎”的 CEO 是 90 后青年高一钊。高一钊是人大博士生,师从卢志武,卢志武在“智子引擎”公司中担任顾问一职。此外,卢志武担任软通动力首席 AI 科学家。

在 ChatGPT 火起来之前,北京智源人工智能研究院曾率先开拓中国大模型研究,名为“悟道”,当时聚集了四支主要力量,分别由清华唐杰、清华刘知远、清华黄民烈与人大文继荣领头。

其中,人大文继荣主要带领人大高瓴人工智能学院的科学家们开拓多模态大模型方向,名为“文澜”,卢志武便在团队中担任模型主力军,他的学生高一钊也参与进来,完成了核心的研究工作。“悟道”之后,唐杰、刘知远与黄民烈均基于大模型技术成立了公司,而人大的入局,为智源大模型“四大金刚”的创业阵容拉开了完满的序幕。

据 AI 科技评论了解,卢志武团队也是国内最早研究多模态大模型、并取得杰出技术成果的团队。

卢志武和高一钊二人

卢志武和高一钊从事多模态大模型始于 2020 年。

2020 年 5 月,由 OpenAI 研发的 GPT-3 在人工智能领域掀起了一阵巨浪,引发了国内从业者对预训练大模型的关注,其中就包括了卢志武等人。

卢志武早年就读于北京大学数学科学学院信息科学系,硕士毕业后,于 2011 年在香港城市大学计算机系取得博士学位,他主要的研究方向包括机器学习、计算机视觉等。

独家 | 多模态大模型初创企业“智子引擎”,近日完成千万元天使轮融资

卢志武

当时,国内大部分人的注意力都聚焦在 NLP 领域,但有关从文字扩展到图像、视频的多模态大模型鲜少有人关注。

期间,中国人民大学高瓴人工智能学组建了多模态大模型研发团队,专门从事图文多模态预训练模型的研究和开发,由文继荣牵头,其他核心成员包括宋睿华、卢志武等人,这也是国内最早从事多模态大模型研究的团队。

高一钊在同年进入中国人民大学高瓴人工智能学院攻读博士、师从卢志武。

独家 | 多模态大模型初创企业“智子引擎”,近日完成千万元天使轮融资

高一钊

“智子引擎”将推出多模态大模型

事实上,早在 ChatGPT 横空出世的三年前,北京智源人工智能研究院已率先开始中国大模型研究,名为“悟道”,其中由文继荣主要带领的人大高瓴人工智能学院科学家组成“悟道·文澜”团队,从事多模态大模型方向研究,卢志武任模型研发主力军。

2021 年 3 月,基于对 3000 万图文数据集的预训练,第一代“文澜”——图文检索模型 BriVL 正式问世,这是一个超大规模的多模态预训练模型,采用了双塔结构可分别对图像和文本进行编码,通过自监督任务来学习图像和文本之间的相似度。

以图文检索模型为基础,研究团队还开发了 H5 小应用“AI心情电台”,只需要向 AI 精灵提供一张图片,模型即可为该图片匹配一段合适的音乐。

随即三个月后,卢志武所在的文澜团队又发布了“文澜 2.0”(BriVL-2)。基于视觉-语言弱相关的假设,研究团队提出图文弱相关假设,设计了高效的跨模态对比学习策略,同时提出了基于DeepSpeed的分布式多模态训练框架,从而提高模型的表达能力和泛化能力。

基于 6.5 亿弱相关的图文数据集的预训练,文澜 2.0 拥有的模型容量达到50亿参数,是目前最大的中文通用图文预训练模型,可覆盖多个领域和场景,在多个图文检索和生成任务上都取得了优异的性能,比如图像检索、图像描述、视觉问答等。

期间,高一钊也深度参与了文澜 1.0 和 2.0 的图文预训练工作,主要负责数据处理、模型训练和评估等。

在 ChatGPT 的热浪下,卢志武和高一钊看到了多模态研究在大模型时代的新机遇,成立多模态大模型公司“智子引擎”。借鉴以往参与文澜模型研发的经验,“智子引擎”团队于今年的 3 月 8 日正式推出了自主研发的多模态对话大模型,并发布了第一款应用级多模态 ChatGPT 产品“元乘象 ChatImg”。

“元乘象 ChatImg”的参数量在百亿级别,主要使用了图文对数据和 VQA 数据作为训练集,同时进行图文匹配、图文检索、图像描述生成、文本描述生成等多种任务的训练。根据用户输入的图片或文字,“元乘象 ChatImg”可以进行智能聊天、讲故事、写广告等。

自四五月份以来,陆续亮相的大模型引起一片喧嚣沸腾,大厂刀光剑影,创业公司也不遑多让。学术界下场入局大模型是个大趋势,如何能在靠近工程化的较量中找到自己的竞争力和位置,亟待从与时间的赛跑中找答案。

本站部分文章来自互联网,文章版权归原作者所有。如有疑问请联系QQ:362580117!

相关文章

Illumina周三宣布,在与华大及其在英国几家附属公司的专利侵权诉讼中,获得了胜利!

Illumina周三宣布,在与华大及其在英国几家附属公司的专利侵权诉讼中,获得了胜利!

Illumina周三宣布,在与华大及其在英国几家附属公司的专利侵权诉讼中,获得了胜利。 英国高等法院大法官庭专利法庭认定,华大...

国产芯片开启光刻机布局模式,未来国产芯片事业将焕然一新!

国产芯片开启光刻机布局模式,未来国产芯片事业将焕然一新!

国内布局光刻机 在芯片最为关键的生产过程中,需要很多精密设备的支持,其中光刻机占据着不可替代的重要地位!顾名思义,光刻机最主要的作用就...

17亿美元,美国太空探索技术公司SpaceX新一轮融资!

17亿美元,美国太空探索技术公司SpaceX新一轮融资!

5 月 23 日消息,美国太空探索技术公司 (SpaceX) 正在进行新一轮大规模融资,此次拟融资17亿美元,SpaceX估值达到约 127...

理想 L9:李想从 1-10 迈出的第一步

理想 L9:李想从 1-10 迈出的第一步

6月21日晚,理想汽车正式发布理想L9,这是理想汽车成立八年后的第二款量产车型,也是进入公司发展新阶段的首款作品。 李想注重创业的节奏,他把...

直面数字化挑战,戴尔PowerEdge R750最全面的通用服务器

直面数字化挑战,戴尔PowerEdge R750最全面的通用服务器

服务器作为计算的基石,在企业IT基础架构的建设中扮演着重要的角色。在商业竞争中,企业往往要面对不断变化的环境和用户需求,对于服务器而言需要...

谁才是中国AI芯片领军人?

谁才是中国AI芯片领军人?

芯片行业的历史上,很少出现创业热潮,但AI再次掀起的热潮不仅吸引了全球多家科技巨头进入了芯片行业,也让我们得以见证了AI芯片的崛起。中国作为...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。