多模态大模型初创企业“智子引擎”,近日完成千万元天使轮融资

访客1年前AI生活92

独家 | 多模态大模型初创企业“智子引擎”,近日完成千万元天使轮融资

大模型在四五月份迎来“百家争鸣”,战况愈加激烈,有新玩家仍在陆续进场。

AI 科技评论获悉:近日,一家多模态大模型初创公司“智子引擎”完成了千万元天使轮融资。据了解,“智子引擎”的 CEO 是 90 后青年高一钊。高一钊是人大博士生,师从卢志武,卢志武在“智子引擎”公司中担任顾问一职。此外,卢志武担任软通动力首席 AI 科学家。

在 ChatGPT 火起来之前,北京智源人工智能研究院曾率先开拓中国大模型研究,名为“悟道”,当时聚集了四支主要力量,分别由清华唐杰、清华刘知远、清华黄民烈与人大文继荣领头。

其中,人大文继荣主要带领人大高瓴人工智能学院的科学家们开拓多模态大模型方向,名为“文澜”,卢志武便在团队中担任模型主力军,他的学生高一钊也参与进来,完成了核心的研究工作。“悟道”之后,唐杰、刘知远与黄民烈均基于大模型技术成立了公司,而人大的入局,为智源大模型“四大金刚”的创业阵容拉开了完满的序幕。

据 AI 科技评论了解,卢志武团队也是国内最早研究多模态大模型、并取得杰出技术成果的团队。

卢志武和高一钊二人

卢志武和高一钊从事多模态大模型始于 2020 年。

2020 年 5 月,由 OpenAI 研发的 GPT-3 在人工智能领域掀起了一阵巨浪,引发了国内从业者对预训练大模型的关注,其中就包括了卢志武等人。

卢志武早年就读于北京大学数学科学学院信息科学系,硕士毕业后,于 2011 年在香港城市大学计算机系取得博士学位,他主要的研究方向包括机器学习、计算机视觉等。

独家 | 多模态大模型初创企业“智子引擎”,近日完成千万元天使轮融资

卢志武

当时,国内大部分人的注意力都聚焦在 NLP 领域,但有关从文字扩展到图像、视频的多模态大模型鲜少有人关注。

期间,中国人民大学高瓴人工智能学组建了多模态大模型研发团队,专门从事图文多模态预训练模型的研究和开发,由文继荣牵头,其他核心成员包括宋睿华、卢志武等人,这也是国内最早从事多模态大模型研究的团队。

高一钊在同年进入中国人民大学高瓴人工智能学院攻读博士、师从卢志武。

独家 | 多模态大模型初创企业“智子引擎”,近日完成千万元天使轮融资

高一钊

“智子引擎”将推出多模态大模型

事实上,早在 ChatGPT 横空出世的三年前,北京智源人工智能研究院已率先开始中国大模型研究,名为“悟道”,其中由文继荣主要带领的人大高瓴人工智能学院科学家组成“悟道·文澜”团队,从事多模态大模型方向研究,卢志武任模型研发主力军。

2021 年 3 月,基于对 3000 万图文数据集的预训练,第一代“文澜”——图文检索模型 BriVL 正式问世,这是一个超大规模的多模态预训练模型,采用了双塔结构可分别对图像和文本进行编码,通过自监督任务来学习图像和文本之间的相似度。

以图文检索模型为基础,研究团队还开发了 H5 小应用“AI心情电台”,只需要向 AI 精灵提供一张图片,模型即可为该图片匹配一段合适的音乐。

随即三个月后,卢志武所在的文澜团队又发布了“文澜 2.0”(BriVL-2)。基于视觉-语言弱相关的假设,研究团队提出图文弱相关假设,设计了高效的跨模态对比学习策略,同时提出了基于DeepSpeed的分布式多模态训练框架,从而提高模型的表达能力和泛化能力。

基于 6.5 亿弱相关的图文数据集的预训练,文澜 2.0 拥有的模型容量达到50亿参数,是目前最大的中文通用图文预训练模型,可覆盖多个领域和场景,在多个图文检索和生成任务上都取得了优异的性能,比如图像检索、图像描述、视觉问答等。

期间,高一钊也深度参与了文澜 1.0 和 2.0 的图文预训练工作,主要负责数据处理、模型训练和评估等。

在 ChatGPT 的热浪下,卢志武和高一钊看到了多模态研究在大模型时代的新机遇,成立多模态大模型公司“智子引擎”。借鉴以往参与文澜模型研发的经验,“智子引擎”团队于今年的 3 月 8 日正式推出了自主研发的多模态对话大模型,并发布了第一款应用级多模态 ChatGPT 产品“元乘象 ChatImg”。

“元乘象 ChatImg”的参数量在百亿级别,主要使用了图文对数据和 VQA 数据作为训练集,同时进行图文匹配、图文检索、图像描述生成、文本描述生成等多种任务的训练。根据用户输入的图片或文字,“元乘象 ChatImg”可以进行智能聊天、讲故事、写广告等。

自四五月份以来,陆续亮相的大模型引起一片喧嚣沸腾,大厂刀光剑影,创业公司也不遑多让。学术界下场入局大模型是个大趋势,如何能在靠近工程化的较量中找到自己的竞争力和位置,亟待从与时间的赛跑中找答案。

本站部分文章来自互联网,文章版权归原作者所有。如有疑问请联系QQ:362580117!

相关文章

对话竹间智能简仁贤:做大模型不能唱高调,企业需要低成本、平民化的模型产品

对话竹间智能简仁贤:做大模型不能唱高调,企业需要低成本、平民化的模型产品

2015年从微软离职的简仁贤,创办了竹间智能,从成立之初,竹间智能就专注于AI技术的研发,并在NLP(自然语言处理)领域下足了功夫。 但值得...

人工智能常见的误区?人工智能的七个误区!

人工智能常见的误区?人工智能的七个误区!

很多人认为人工智能好像无所不能,但其实人工智能有明显的局限性。真实情况是,当前的人工智能行业应用主要以感知智能为主,就像人一样,我们...

肺炎病毒肆虐,孤立主义和排外情绪也愈演愈烈!

肺炎病毒肆虐,孤立主义和排外情绪也愈演愈烈!

”我们就像难民“,乘坐包机离开武汉的美国公民在批评美国政府时如是说道。 美国国务院称,2 月 4 日晚间,数百名美国公民已乘坐两架美国...

国内医疗AI公司与放射科医生一起,开发出了针对新冠肺炎的AI产品!

国内医疗AI公司与放射科医生一起,开发出了针对新冠肺炎的AI产品!

新冠肆虐,疫情严峻。疫情面前,国内很多医疗AI公司站了出来,与放射科医生一起,开发出了针对新冠肺炎的AI产品,与医生一起携手前行。...

收藏级苹果首批制造的Apple 1 电脑,在eBay标价150W美元!

收藏级苹果首批制造的Apple 1 电脑,在eBay标价150W美元!

知乎上有这样一个问题: 是不是电子产品都贬值得比较快? 实际上所谓的“贬值”,和诸多因素有关,比如技术发展情况、品牌对产品的规划...

平台战略,生态模式,15 万开发者打造 AI 领域的 App Store!

平台战略,生态模式,15 万开发者打造 AI 领域的 App Store!

如今AI圈的角逐,高手如云,战事胶着。 其中一家叫极视角的企业,异军突起,出其不意地进入了大家的视线。 在一众企业鏖战A...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。