月之暗面“自卷”,Kimi智能助手官宣支持200万字无损上下文

访客1年前AI生活227

“lossless long context is everything”,杨植麟不止一次表达过这一观点,而月之暗面的最新动作也表明团队对这一观点的坚定信仰。

3月18日,AI大模型初创企业——月之暗面宣布在大模型长上下文窗口技术上取得新的突破,Kimi 智能助手已支持200万字超长无损上下文,并于即日起开启产品“内测”,用户可到 Kimi 智能助手网页版 kimi.ai 首页申请体验。

月之暗面“自卷”,Kimi智能助手官宣支持200万字无损上下文

而这距离去年10月,Kimi 智能助手正式推出,最高可支持20万汉字无损上下文输入,才过去不到半年时间。

据介绍,Kimi 智能助手是月之暗面基于自研千亿参数大模型——Kimi大模型(原Moonshot大模型)打造的对话式 AI 助手产品,一经发布,最高可支持20万汉字无损上下文输入的能力创造了消费级AI产品所支持的上下文输入长度纪录。

面向全社会开放服务后,基于出色的长上下文处理能力,Kimi 智能助手帮助用户解锁了很多新的使用场景,比如专业学术论文的翻译和理解、辅助分析法律问题、一次性整理几十张发票、快速理解API开发文档……

用户在使用过后纷纷给予好评,认为其是当前最好用的智能助手之一。

而现在,月之暗面开始自己卷自己,不到半年时间,月之暗面就将 Kimi 智能助手的无损上下文长度提升了一个数量级, 从 20 万字到 200 万字,提高了10倍。

据月之暗面透露,为了达到更好的长窗口无损压缩性能,研发和技术团队从模型预训练到对齐、推理环节均进行了原生的重新设计和开发,不走“滑动窗口”“降采样”等技术捷径,攻克了很多底层技术难点,才取得了新的突破。

月之暗面工程副总裁许欣然说,在过去的5个月里,基于相同成本、相同设备,Kimi大模型的响应速度提升了近3倍。

200万字汉字的上下文长度,能做什么

升级后的Kimi 智能助手到底能做哪些事情呢?

简单来说,200万字汉字的上下文长度,意味着它能够解锁海量的超长任务、复杂任务;快速学习一个新领域,kimi10分钟速成定律;快速学习大模型推理、挖掘长篇故事情节中的深层次信息。

在沟通会现场,月之暗面展示了一些超长无损上下文的使用场景示例。比如,用户上传几十万字的经典德州扑克长篇教程后,让 Kimi 扮演德扑专家为自己提供出牌策略的指导。

上传一份完整的近百万字中医诊疗手册,让 Kimi 针对的用户问题给出诊疗建议。

月之暗面“自卷”,Kimi智能助手官宣支持200万字无损上下文

上传英伟达过去几年的完整财报,让 Kimi 成为英伟达财务研究专家,帮用户分析总结英伟达历史上的重要发展节点。

月之暗面“自卷”,Kimi智能助手官宣支持200万字无损上下文

上传一个代码仓库里的源代码,可以询问 Kimi 关于代码库的所有细节,即便是毫无注释的陈年老代码也能帮助你快速梳理出代码的结构。

过去要 10000 小时才能成为专家的领域,现在只需要 10 分钟,Kimi 就能接近任何一个新领域的初级专家水平。用户可以跟 Kimi 探讨这个领域的问题,让 Kimi 帮助自己练习专业技能,或者启发新的想法。有了支持 200 万字无损上下文的Kimi,快速学习任何一个新领域都会变得更加轻松。

无损的长上下文,将是通往AGI的关键

如今,国内大模型在历经持续了一年多的百模大战后,市场竞争逐渐深化,切实提升模型能力,才是决定模型是否真正可用、好用的关键所在。而上下文长度也成为各大AI大模型公司比拼的一个焦点所在。

在许欣然看来,大模型无损上下文长度的数量级提升,将会进一步帮助大家打开对AI应用场景的想象力,包括完整代码库的分析理解、自主帮助大家完成多步骤复杂任务的智能体Agent、不会遗忘关键信息的终身助理,以及真正统一架构的多模态模型,等等。

“无论是内存、算力还是网络带宽,历史上每一次基础技术的升级,都会解锁新的产品形态和应用场景。我们对 200 万无损上下文的 Kimi 可以带来哪些超出想象力的创新机遇充满期待。”

而杨植麟也不止一次公开表示,想要通往通用人工智能(AGI),无损的长上下文将会是一个很关键的基础技术。从 word2vec 到 RNN、LSTM,再到Transformer,历史上所有的模型架构演进,本质上都是在提升有效的、无损的上下文长度。

“上下文长度可能存在摩尔定律,但需要同时优化长度和无损压缩水平两个指标,才是有意义的规模化。”

之前,20 万字的无损长上下文帮已经帮助用户打开了新的AI应用世界。许欣然告诉小编,用户使用Kimi 智能助手能做的事情远远超过他们的想象,有很多好玩的玩法也是在看了用户的使用评价之后才发现,“原来还可以这样玩。”

而这也是月之暗面一直坚持的观点——与用户共创。

如今,伴随模型能力的每日升级,iOS应用、Android应用、小程序、Web等多端平台的上线,Kimi 智能助手已成为越来越多用户工作和生活离不开的 AI 小助手。此次正式启动 200 万字超长上下文的内测申请后,月之暗面会逐步开放更多用户来体验具备超长无损上下文能力的 Kimi 智能助手,期待与更多用户共创智能。

本站部分文章来自互联网,文章版权归原作者所有。如有疑问请联系QQ:362580117!

相关文章

德睿智药达成AI制药合作里程碑,向德琪医药交付肿瘤双靶点先导化合物

德睿智药达成AI制药合作里程碑,向德琪医药交付肿瘤双靶点先导化合物

据消息,AI制药企业德睿智药(MindRank)近日宣布完成与德琪医药(6996.HK)的合作里程碑。 在某肿瘤双靶点小分子药物管线上,德睿...

为客户提供更安全可靠的物联网!

为客户提供更安全可靠的物联网!

世界传感(Worldsensing)是全球公认的物联网先驱。公司总部设在西班牙巴塞罗那,通过高科技、低成本的解决方案实时捕获和传输数...

腾讯健康发布新版疫苗接种地图 发热门诊可一键查询

腾讯健康发布新版疫苗接种地图 发热门诊可一键查询

12月16日,腾讯健康发布新版“新冠疫苗接种点地图”,为21省市居民提供疫苗接种点查询服务,助力第二剂次加强免疫接种。同时,覆盖全国100个城...

AR虚拟现实给各个行业带来丰富应用体验!

AR虚拟现实给各个行业带来丰富应用体验!

近几年,很多IT厂商推出了AR地图,例如百度AR地图、Google AR地图、苹果AR地图。AR地图可以广泛应用于景区模型构建、景区实景导览...

OPPO成立西安研发中心:加速影像、5G、系统技术研发!

OPPO成立西安研发中心:加速影像、5G、系统技术研发!

世界正处于一个变革的时代,大量新兴行业,商业模式以及职业在高新科技带动下如雨后春笋般出现。在技术驱动时代,企业的核心竞争力来自于创新力,来自...

让农户更省心省力,一块大屏便可实时掌控“千亩良田”

让农户更省心省力,一块大屏便可实时掌控“千亩良田”

过去,从耕种、管理到收获、销售,农户都需要使用多个应用或平台来辅助农业生产;而现在,农户只需要通过一块智慧大屏就可以全面掌握气象信息、农作物生...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。