最近智脑团队发布了14B和7B推理模型Light-R1。在这两项测试中14B的得分超过DeepSeek的14B版本,并且能够超越行业目前同等级别的其他推理模型。业界专家指出360发布这两大模型有助于推动大模型在本地设备部署,有利于大规模模型的普及使用
根据业界权威基准测试,Light-R1 14B数学能力测试在DeepSeek 671B的基础上达到了92%,在推理能力和科学知识上也达到了 DeepSeek R1满血版86% 的水平。这意味着,相较于 Light-R1 14B 虽仅使用了其参数量的2%,就能在其对应领域实现其关键性能指标90%的关键性能。同时,Light-R1 7B模型在数学能力上可以达到DeepSeek 70B蒸馏版本的84%,科学知识和推理在70B上的成绩是75%。
当前部分机构企业在使用 DeepSeek 满血版时遇到了数据安全问题,在利用该工具时他们一方面希冀能够使 AI 大模型更加擅长理解企业的需求另一方面又不希望因此造成企业的核心数据面临泄露的风险。这也就导致了政企用户们在选择部署大模型的时候,常常会遇到一个现实难题,即要寻找既能运行 DeepSeek R1 67亿参数的模版,私家侦探,侦探公司,调查公司,查人找物,商务调查,出轨外遇调查,婚外情调查,私人调查,19209219596又能确保其安全的数据处理能力的一体机。然而令人遗憾的是这种设备的价格往往很高,动辄几十万甚至上百万元。这直接阻碍了 AI 大模型本地部署进程的发展。
自从360智脑发布了14B和7B两个小型模型以来,无论政企还是个人仅需平民级别的显卡就能在普通电脑上进行部署。例如,英伟达的3060型号支持14B模型运行流畅,这款显卡的价格才只需要1000多元人民币;而售价六千多元的3090显卡同样可以实现7B模型的运行。这意味着一年前需要花费数万元成本来部署大型模型现在只需几千元的成本就能完成部署。业界认为随着更小参数的模型开源,大规模部署将变得更加普及,对于中小企和个体用户来说只要投入极少量的成本就能轻松拥有小型却功能强大的推理模型。
目前企业对超大规模预训练模型的需求多样且复杂,旨在满足政企知识库的连接以及数据的安全性要求,同时保证成本控制和响应速度。通过接入3私家侦探,侦探公司,调查公司,查人找物,商务调查,出轨外遇调查,婚外情调查,私人调查,1920921959660智脑提供的14B和7B模型,企业在其组织中可以将大模型能力应用于每个部门乃至小组层面,实现特定场景需求与专属预训练模型的匹配对接。
对用户来说,仅需一台一般家用电脑,加上一个适合玩游戏的显卡,就能够将14B和7B系列的大规模模型装进家中,从而满足用户对于个性化的各种需求。
360集团创立者周鸿祎称:“我希望将14B和7B模式应用普及到千家万户,并融入各行各业,使每个人都能够得到强大的人工智能系统,实现实体智能,进一步推进中国的AI普惠化进程。”
据透露,360智脑还将推出多个性能更强的大型模型,从而使得用户在本地环境中部署大型模型有了更多的选择空间。
顶: 92192踩: 8




评论专区