发布日期：2024-10-01 05:33 点击次数：112
基于自研 Yan 系列模子的智能机器东谈主（图片开首：受访者提供）
钛媒体 App 9 月 27 日音问，岩芯数智 RockAI 日前在上海推出全新升级、采选非 Transfomer 架构的 Yan 1.3 大模子，可高效处理图文及语音等多模态信息，用于无东谈主机、机器东谈主、PC、手机等千般结尾开辟场景。
RockAI CEO 刘凡平暗示，这是全球首个东谈主机交互鸿沟端到端的多模态大模子，同期亦然全球首个跨越泛泛开辟的多模态大模子，而况照旧国内推出的自研群体智能单位大模子。咫尺，该模子已快速在英伟达、高通、联发科、英特尔、瑞芯微等多元化硬件开辟上收尾适配，进一步加快交易落地，让天下上每一台开辟领有我方的智能。
会后，刘凡平向钛媒体 App 等暗示，Yan1.3 大模子将落地遁入从低端到高端更泛泛的群体。谈到行业改日发展，刘凡平强调，"基于 Transfomer 架构的通用大模子，改日只消两到三家可能是建造的。Transfomer 这么的‘造神式’大模子改日处理问题的场景依然有限，比拟较而言，以群体智能为主义的群体智能单位大模子更挑升想。"
"在 AGI（通用东谈主工智能）这个终极命题下，无论是云霄照旧端侧，都仅仅收尾智能普惠及跃迁的一个载体。咱们持久折服，只消真的素质每一台开辟的自我学习才调，才能激励更高档别智能花式即群体智能的显现。"刘凡平暗示。
RockAI CEO 刘凡平
据悉，建造于 2023 年 6 月的 RockAI，是 A 股上市公司岩山科技（002195.SZ）旗下 AIGC 新公司，专注于打造一站式 AIGC 数智化干事平台。而 RockAI 团队则早在 2022 年就早已组建。
比拟于其他大模子企业，RockAI 主攻基于非 Transformer 自研架构的 AI 大模子研发。本年 1 月，RockAI 初次发布 Yan1.0 模子，并公布基于 AI 大模子的 To B 垂直鸿沟行业和场景有狡计，释出包括 RockAI 模子大脑、学问库问答、业务助手、智能客服等居品。
此前，刘凡平对钛媒体 App 暗示，亟需改动型的 AI 算法，现存的许多算法不仅无法得志客户的骨子应用需求，而关于大模子本钱也酿成一定承压。他暗示，咫尺算力在客户委派本钱中占了近一半，而 RockAI 利用自研的非 Transformer 的记念逻辑模子架构，将委派本钱镌汰到 30%-40% 独揽。（详见钛媒体 App 前文：《独家对话岩芯数智 CEO 刘凡平："百模大战"下，AIGC 新玩家如何杀出重围？》）
所谓非 Transformer 架构，其实是以底层神经蚁集架构 MCSD 替代 Transformer 的 Attention 机制，因为 Attention 是 Transformer 架构的中枢，其加权算法决定了计较量会跟着序列长度的加多而数倍增长，对计较的算力条目也会越来越高。而 RockAI 通过 MCSD 机制替换掉 Attention，只把最灵验的信息、特征往后传，以线性的样式镌汰计较的复杂度，素质磨砺和推理服从。
如今，RockAI 再次更新 Yan1.3 模子。
相较于 1 月份发布的 Yan1.0，Yan1.3 具备了雄壮的多模态才调，可高效处理图文及语音等多模态信息，并收尾了模子在更泛泛开辟端上的离线无损部署，普通电脑 CPU 上也大约畅达运行。
"在工夫的征程上，RockAI 正在以改动者妥协围者的姿态书写新的篇章，咱们很自恃的向全球晓示，在后果发达上，自研架构 Yan 1.3 仍是超越了 Llama3，成为了中国自主架构大模子的里程碑事件。如今，未经压缩、剪辑的 Yan1.3 大模子在越来越多开辟端展现出的丝滑适配和超强模力，正向行业阐述 RockAI 工夫道路的合感性，至极最终激励群体智能的充分可能。"刘凡平在演讲中暗示。
交易化层面，基于 Yan1.3 模子的"胖虎"智能机器东谈主，大约基于多模态处理才调，在离线现象下识别复杂环境、准确意会用户意图，并据此限度其机械躯体高效完成千般复杂任务。
同期，Yan 系列模子也仍是在无东谈主机、手机、PC 等端侧场景中落地，如基于 Yan1.3 的飞龙无东谈主机，可全面感知复杂环境并在开辟端及时处理，营救千般环境下的智能巡检，不仅适配电力巡检、安全监控、环境监测等城市照顾及工业场景，而况不错面向个东谈主用户泛泛用于日常生计情景。
刘凡平暗示，咫尺 RockAI 主要以" Yan inside "的模式赋能不同开辟，也兴奋为结尾销量较大的公司赋能，但同期针对量小的结尾厂商也不会漠视，举例部署在小众却有潜在发展前程的具身智能当中，以及在情切玩物或随同机器东谈主，从而加快大模子的泛泛落地应用。
" Yan1.3 仍是不错在泛泛的开辟上部署和应用了，开启了多元化硬件生态，是以咱们认为它在第二阶段，第三阶段是自主学习。"刘凡平认为，RockAI 的群体智能收尾包括四个阶段：改动型基础架构、多元化硬件生态、自安妥智能进化、协同化群体智能，而咫尺公司仍在第二阶段当中进行实行。
此外，RockAI 还在会上发布"训推同步"工夫，刘凡平称这是群体智能单位大模子自主学习收尾的最好样式。会后他向钛媒体 App 进一步解释称，"训推同步"是更偏算法层面，主义是不仅能在端侧上运行，同期大约作念磨砺，这将是一个很大的越过。
谈到改日发展，刘凡平强调，Transfomer 是一条通往 AGI（通用东谈主工智能）中的可能旅途，但执行经由无法论证它是最优的旅途。咱们应该让大模子模拟东谈主脑的样式来职责，而不应该是 Transfomer 架构大模子中那样无时刻辩认的输出。"看成格外早期的 Transformer 贪图者之一，咱们从意会 Transfomer、真切 Transfomer 到吊销 Transfomer 是一个无奈但迫使咱们改动的经由，这个经由格外漫长。"
"在刻下充满竞争的期间，当今国内大模子研发似乎参加一种‘模式化’的逆境，改动的想路仍是运转稀缺，全球都在奴隶海外的方法，仿佛像一场莫得格外的工夫勤快赛。春节时期 OpenAI 发布视频模子 Sora，国内都去 follow 它。是以 Yan 架构就像一股清流，它以非 Transformer 架构的身份说明了中国智谋的无尽可能。试想一下，其实中国的大模子又有几许是真的我方研发的？咱们没法‘造壳’，因为咱们底层架构全是我方的，没法用别东谈主的东西，咱们就只可从零运转走向超越 Llama 3，甚而许多企业在用 Transformer 架构都还莫得超越 Llama 3，这种样式就决定了咱们改动之路，不停说明它是一个越来越正确的事情。不同于其他的厂商，咱们继承更防碍的谈路，直面挑战，因为咱们知谈，RockAI 看成真的的改动者，是无法靠‘套壳’去容身立命的。咱们改日一定会比当今更好。"刘凡平在演讲中暗示。
以下是 RockAI CEO 刘凡平与钛媒体 App 等进行部分对话相通整理：
问：Yan 大模子的训推同步，与 OpenAI o1 推出的强化学习有什么不同？
刘凡平：严格来说 OpenAI O1 是一个强化学习经由，但 Yan1.3 的训推同步并不是这个道路，或者说强化学习并不是主要的。强化学习要通过多数数据去转移，意味着它应用本钱很高。这亦然 O1 在真的骨子愚弄时会有赶走的原因。
训推同步的主义是能在端侧上运行并作念磨砺，这将是一个很大的越过。咱们但愿更低价的磨砺，而不是更高亢的。训推同步可意会为模子的磨砺与推理同步进行，正如东谈主通常，在聊天的时候不错通过语音输出推理，但同期也不错通过耳朵的听觉、眼睛的视觉看成输入进行及时学习。
问：训推同步在腹地开辟上是怎样进行磨砺的？
刘凡平：咱们刚才提到了类脑激活机制，其实咱们东谈主在处理事件时，并不是大脑的所有神经元都会参与。咱们在端侧亦然以继承部分心经元参与的样式，比如说 100 亿参数，并不是所有参数都会参与这个经由，而是很小部分，这么它的算力需求就会很低，训推就不错都备同步的进行，而况在输出时也能转移参数。
问：您认为大模子可能在改日哪个鸿沟里出现大的爆发？
刘凡平：我认为在一些挥霍结尾开辟上可能会有一些爆发，咫尺手机和 PC 自身就有很大的一个存量，但我认为更多挥霍结尾应该很快也能盛开这个步地。当今的许多结尾开辟智能照旧固定化顺次运转，接下来应该很快就能通过 AI 的样式产生变化，包括交互体验上也能产生变化的。就比如搭载了 Yan1.3 的无东谈主机，是不错东谈主机对话的，咱们不错让无东谈主机拍摄不同角度的像片，比如拍下我死后的景色，并将我放在画面正中的位置。
问：全球认为大模子是一种信息的压缩，在这个层面一般都会是生成内容，但咱们强调的是学会，这个是什么原因？
刘凡平：学会的样式则不再是 next token 的瞻望了。举例之前厂商都在作念的文生视频，其实有个很大的痛点，便是生成后很难再编著它，得从头改教导词。而咱们是想教养大模子如何去作念视频的手段，它学会手段后再去分娩视频。是以咱们更但愿模子是面向经由的学习，而非面向赶走的学习，同期面向经由的学习会使得模子具备更强的可解释性。
问：有一种论调便是当今的通用大模子太多了，改日是不是就可能只剩两三家，您怎样看这个问题？
刘凡平：基于 Transfomer 架构的通用大模子，改日只消两到三家可能是建造的。但 Transfomer 这么的"造神式"大模子改日处理问题的场景依然有限，比拟较而言，以群体智能为主义的群体智能单位大模子更挑升想。
（本文首发于钛媒体 App，作家｜林志佳，编著｜胡润峰）