大模型推理太慢?来看——Sparse Transformers稀疏推理加速器。简单来说,这个项目通过稀疏化技术让 Transformer 大模型推理提速1.6-1.8倍,提供: 融合稀疏C++内核优化MLP层计算 差分权重缓存机制动态管理...
专注AIGC领域的专业社区,关注微软&OpenAI、百度文心一言、讯飞星火等大语言模型(LLM)的发展和应用落地,聚焦LLM的市场研究和AIGC开发者生态,欢迎关注! 今天凌晨,全球社交巨头Meta在官网开源了一个世界大模型V-JE...
专注AIGC领域的专业社区,关注微软&OpenAI、百度文心一言、讯飞星火等大语言模型(LLM)的发展和应用落地,聚焦LLM的市场研究和AIGC开发者生态,欢迎关注! 6月11日,字节跳动旗下火山引擎举办Force原动力大会,发...
今天给大家推荐的这个项目Memvid很新鲜,之前没见过这么玩的。 以前大家语义搜索,还是向量化那一套,对GPU算力的消耗还是蛮大的。 Memvid真的是创新,用CPU去做语义检索,还能做到极快的速度。 扫码加入AI交流群 获得更多技术支...
新智元报道 编辑:LRST 【新智元导读】普林斯顿大学AI实验室与复旦大学历史学系联手推出了全球首个聚焦历史研究能力的AI评测基准——HistBench,并同步开发了深度嵌入历史研究场景的AI助手——HistAgent。这一成果不...
如果要问我今年最期待谁家开发布会,那或许还得是华为。 其实今年的智能手机圈发布会已经非常精彩,有的亮出自研芯片,有的展示全新 UI。 但华为给人的感觉要更加「有趣」,原因就是今年华为都在发一些「怪东西」:「阔折叠」手机 Pura X,折叠电...
这届大模型内卷到什么程度了? 回看今年的节奏,字节几乎月月有新招,甚至一月多更,一个个模型砸出来,不只是上新,也都有实打实的升级,持续把行业的竞争门槛推高一大截。 1 月,豆包 1.5 pro 模型上线。 4 月,豆包 1.5 深度思考模型...
整理 | 褚杏娟 近日,字节分享了其对今年 AI 技术发展主线的思考,主要包括以下三个方面: 多模态的推理和思考。仅做文本的 reason 和 thinking 无法充分发挥模型能力,基于图片、视频等多模态数据,reason 和 th...
作者 | 华卫 今年的智源大会上,智源研究院推出全新的“悟界”系列大模型,其中包括原生多模态世界模型 Emu3、脑科学多模态通用基础模型见微 Brainμ、跨本体具身大小脑协作框架 RoboOS2.0 与具身大脑 RoboBrain2.0...