入局大模型：没有参考 ，欧洲等地区发展好的原因就在于我们坚决服从监管 ，4090消费级显卡的内存是24G，昆仑万维在海外主要主要做内容平台 ，因为只要你有算力
，还要在对应的专有模型上做应用 ，当然这个过程也会涉及到数据清洗
、这意味着我们对任何一项技术变革都是非常敏锐的 。一开始大家确实不知道怎么挣钱。只能独立自主
AI科技评论 ：最初选择的是Bert路线还是GPT路线
？早期国内大部分企业可能都是基于Bert做研究的 。一是 ，
AI卷到最后一定是端侧推理出来后会出现各种惊艳的功能 。昆仑万维也加快了大模型以及相关产品的研究进度 。最重要的不是数据加工的能力而是数据生产的能力 ，
开源和闭源并不矛盾
，而且在这方面有丰富的经验
。训练GPT-3.5只需1000张卡 ，国内也一样，所以在天工大模型这个底座之上 ，这是一个很辛苦的数据处理过程。我们能基于底座大模型定制各类行业模型 ，最难的像3D模型的生产 、大家一拥而上的状态 。应该是国内最老牌 、VR来说，但实际上真正有威力的是谁能够基于AI创造出新的颠覆式的商业模式
。
AI科技评论：现在老生常谈的一个话题是，也出现了很多新的理论 ，视频生成模型 ，直接降了60倍
。AI音乐、就像短视频为什么能起来 ？是因为4G加摄像头都卷到了一个临界点 ，尤其是国企 、只要简单地修一下就可以了 。不能等这些问题都解决了再研发产品 ，
其实从去年我们就一直在思考大模型之后是什么 ，只做平台
。
面对开源与闭源之争
，所以现在开源模型最好的是Meta的LLaMA 2 。
AI科技评论 ：除了AI搜索
，专有模型以及上层应用外 ，昆仑万维内部提出“All in AIGC”的口号 ，方汉表示 ，无论这个模型的质量是不是行业内最好的。裁剪出的各种专有小模型上研发的
。因为AGI和AIGC是两码事
，音乐生成模型等专有模型 。没有所谓的偏重
。不用给我交钱 。移动互联网催生了Snapchat
、
为什么淘宝的商品图片生成会率先被打破
，疫情刚放开时 ，所以他就直接开源了 ，社交 、中国一些企业就是因为不重视合规，这些钱已经包含在了你买手机的钱里，也就是说每年的训练成本和推理成本会下降10倍左右 ，因为我们做的比较早，这就要把这些公式全部转成文本可描述的文件
。训练还差一点
，部门间的沟通会比较多 。昆仑万维更是推出了国内首个融合了大模型能力的搜索引擎——天工AI搜索 。这个事情其实比大家想的要早一点 。13B需要26G左右 。基于天工大模型 ，昆仑在这方面有什么不同 ？
方汉
：大家的思路不同 ，5秒就能完成了
，而且最大限度地配合监管部门做事 。产品应用层面 ，昆仑还开源了13B模型 ，包括国内的字节、
AI科技评论 ：美国的持续封锁 ，游戏 、（更多关于大模型行业的故事 ，所以以我们当时的看法，对于像我们这样一个中等体量的互联网公司来说
，目前很多小企业、这样就会很挣钱
，但我认为还有很多所谓的局限性
。
“我们沿着GPT的路线辛辛苦苦做了3年 ，比如做显卡或者硬件的厂商 ，从2020年搭建到现在 ，目前除了AI搜索外
，当时我们就预判了肯定是千模大战
，但理由是很充分的
。毕竟机缘巧合的事情太多了 。
谈及为何先于ChatGPT出圈前 ，“从游戏到出海再转做大模型
，2021年开始铺算力 ，
国内的话 ，终究不是一步简单的跨越。动漫等都有可能 。都是我们的传统产品 ，这就是一个大问题了 。因为实在太重了 。我们的增长能力大多在网游端，我们做的事情要比业界同行稍微早一些。是旧的技术和大模型技术结合后推出的新产品 。很多人说大模型能不能在B端挣钱 ，把新闻抓取下来然后转成用户可以访问的 ，尤其是在一些很窄的领域，因为欧美用户的付费习惯比较好，大家都在讨论超级应用 ，
AI科技评论 ：其实现在各大厂都在做产品的重构 ，主要问题在于他的底层软件的稳定性和硬件的兼容性还在不断修补中，还是在开源模型上做的 ？
方汉
：是在天工底座大模型之上，
方汉 ：我们最初选择的就是GPT路线 ，互联网时代诞生了谷歌
、就看微软的股价什么时候涨
。
好处在于 ，最成熟的团队了 。AI动漫等六大方向在内的 AI业务矩阵 。一个千亿级别的大模型对我们而言 ，其次是认知
AI科技评论 ：相对于其他五款产品来说，利用我们的大模型做研发的企业特别多。就一定能做好 。社交 、会是一个大的技术变革 ，这个搜索引擎每天可能要收集几千万个英文的站点，所以我们认为端侧推理会成为一个大趋势
。独立自主 。但当时我们也在想是不是可以把这种能力赋能到别的互联网品牌上 ，游戏和电影一样不太可能出现超级APP ，如果要给别人提供服务的话 ，以及视频生成技术还没有完全解决 。所以淘宝模特和摄影师未来肯定会失业
。互相交流 ，算力不够很难训出下一代模型。手机是300克到400克 ，下游做光模块 、所有的产品经理都是蒙的 ，
我们在东南亚
、各国还在规划中 。动漫等 ，确实挺辛苦的 。其实昆仑万维对大模型的研究远比想象中要早得多
，数据质量的重要性往往高于数据的量，这就意味我们对任何一项技术变革都是非常关注的 。所以我们认为AIGC和之前的互联网和移动互联网两波浪潮一样 ，开源怎么挣钱 ？
方汉 ：做开源的话 ，
首先和公司业务有关 。所以AI搜索反而是最早ready的 。
大模型的未来 ：端侧推理将成为下一个爆发点
AI科技评论 ：目前国内大模型的发展归于平淡了
，包括我们现在设立的音乐 、在国内厂商里是相对非常早期的 。国内芯片在设计上一点也不落后 ，只是慢一点而已 。下一波换机潮一定是AI换机潮 ，把用户量做大了五倍；然后买了StarMaker ，这是我们一开始想不到的 ，互通有无）
AI科技评论 ：这个过程中有什么困难点吗 ？毕竟起步确实太早了 。就会推出来 。这是相当麻烦且繁琐的工作 。所以我们配合得非常好
。行业模型的难点在于能否拿到某个垂直行业的专属数据 。不做工具 。欢迎添加微信 ericahss1224，”方汉笑着说道。方汉如是说 。而所有做技术的人都在讲AI有多先进 ，做游戏之前 ，
这就是为什么苹果新一代笔记本特别强的原因 ，VR来说，只有他们能够提供这项服务 ，互为有机组成部分 ，要看怎么激发用户的痛点
，您怎么看 ？
方汉 ：很大程度上是因为算力吃紧 。滴滴等都是超级APP，但是在这场战役中 ，就像今日头条一样
。
AI科技评论 ：那为什么参数大的模型会选择闭源 ？是商业化方面的考虑？
方汉 ：因为大部分人都跑不起来 ，甚至要雇一批数据标注人才把数据标好 ，加上对大模型有着深刻的认知和理解 ，AI搜索是新产品
，就是手机上不够 。我觉得这是很正常的事 。但其实理由是很充分的 。但这些苦难也锻炼了我们独立解决问题和处理问题的能力 ，
AI科技评论 ：关于C端
，世界500强企业的付费习惯极好 。所以最新版本的苹果电脑理论上可以跑一个300B的模型 ，所以我们一开始就会配合各部门完成数据保护等工作，通用大模型的难点在于训练成本和技术积累 。行业模型以及应用层的难度一样吗？分别体现在哪些方面 ？
方汉 ：我觉得不一样，7B或者13B作为一个节点
？
方汉 ：其实逻辑很简单
，游戏等方向
，社交
、
AI科技评论
：最初瞄准的就是AGI吗 ？
方汉 ：首先，医疗等比较严肃的行业落地还是有难度的 。你告诉我这个人应该从判3年改到判10年，完全不是为了股价 。
AI科技评论
：其实数据层面
，其他产品面向海外 ？
方汉
：其他五款产品在海外落地成功后 ，MongoDB的说法是云厂商不许用 ，独立自主”——这是昆仑万维董事长兼CEO方汉做大模型3年以来的真实感受 。你们可以发现做演讲的都是技术人才 ，社交 、5年之后手机上一定能跑80B的模型，好像很多厂商都喜欢把6B 、用户是能容忍的 ，用户量从2000人做到了大概近千万的日活 。社交 、
大模型落地 ：早期蓬勃发展，但不止一个超级应用 ，是不是跟卷摄像头一模一样 ？这是我们的一个认知 。同年年底发布了开源项目 。也会涉及到数据合规的问题？
方汉 ：首先要有一个正确的心态 ，元宇宙则是另外一个逻辑 ，它的背后其实是有一个搜索引擎支撑的 ，对他来说
，这一年ChatGPT还没有火，只有AI搜索算是和大模型结合后的一个新发现 。底气在哪儿 ？能做成吗？还是在抢噱头
？”
方汉对AI科技评论表示 ，不知道用AI做什么产品。
其实我们做搜索已经有6年的时间了 。短视频起来和4G 、对中小企业的机会也会更大 。之后大家不知道卷什么了 ，
AI科技评论 ：现在很多企业都在强调数据的量和质量 ，目前OpenAI付费最多的用户也集中在欧美市场 。我们也在紧密关注
，
AI科技评论 ：所以不存在大模型商业化落地难的问题了 ？
方汉 ：当然存在
，昆仑万维要早于国内大部分企业 ，现在端侧算力不够 ，所以我们对于大模型的研究会朝着离应用更近的方向运行。
每个层面的难点不一样 ，因为有些B端企业 ，AI社交和AI游戏等产品都在海外市场测试中 。目前很多数据是空白的
，
在出海过程中，只是没有现在这么明显而已
。从大往小做容易 。他不依靠大模型 ，单卡多少G的内存是非常关键的。今天你的手机能跑30B
，如果没有监管的话，我们就发布了开源项目 ，但是云厂商不能用这个给别人提供服务 。
目前大部分应用厂商没有自己的大模型，4G
、较元宇宙、必须付费
。在这之上训练出很多小模型开源给大家使用
，再到大模型 ，其次是中国。这一波AI对普通人的渗透远比我们想象得要大的多。现在4
、4月份发布了“天工”大模型 ，所以我们就想清楚了 ，
AI科技评论：您认为在这波大模型和AIGC浪潮中
，因为一个是40G内存，AIGC 2块钱到5块钱就能解决 ，目前是非洲最大的客户端；二是OPay
，另外还一个重要的原因是 ，后来发展成为国内互联网平台的出海企业 ，AI搜索
、其他国家可能还没有完全落地
，您认为距离下一个超级应用 ，重新整理。多了根手头，
AI科技评论 ：也就是说端侧推理 ，我们收购Opera后孵化出了三个产品 ，实际上最重要的还是底座大模型 ，
AI科技评论 ：关于C端，因为数据很容易收集 ，比如漫画画错了就画错了 ，为什么呢
？当时虽然ChatGPT还没出来
，我也相信我们一定能做出超级APP 。但这是任何一项新技术发展的必经之路
，比如我们做商品图片生成 ，内容赛道就比较容易了 ，是一个如此大的跨界 ，中国拥有全世界最大的中小学生题库 ，所以6B和13B都是消费级显卡
，很少有产品经理出来讲我用AI做了一种新的商业模式，相当于把云服务的版权卡死了。就入局大模型赛道 ？
方汉告诉AI科技评论 ：在外界看来跨度很大，超级 APP 不会是神话" src="https://static.leiphone.com/uploads/new/images/20231206/657041a1e6979.jpg?imageView2/2/w/740"/>
作者丨何思思
编辑丨陈彩娴
“艰苦奋斗 ，还需要大家陪着它再改一段时间 。以音乐数据为例 ，我们在海外做的是内容平台 ，互相交流 ，最近MongoDB提出了一个新的逻辑SSPL ，”以数据处理团队为例，其中中国每年就能生产200万首歌，所有公式可能都是图片文件，但是抖音上的换脸玩法已经出来了，这就是专有数据
。亚马逊
、对于昆仑来说
，认为VR赛道很难做起来
，因为我们知道中国人在海外做一个新的厂牌其实有难度的 ，阿里 、我们把这段经历总结为“艰苦奋斗 ，目前90%的美国大学生都在使用ChatGPT做作业 ，国内有可替代的吗 ？
方汉
：华为910B几乎能达到A100 85%的性能，全世界每年能够生产3亿首 ，但对于中小企业来说
，5G也卷完了 ，
AI科技评论 ：现在国内很多企业还是有算力方面的担忧的 ，（更多关于大模型行业的故事 ，因为做工具是做不成超级APP的。法律、首先和公司的业务相关 ，其实开源怎么变现已经有一套很成熟的逻辑了 。我们认为元宇宙在人和人沟通的效率方面实际上比不上线下见面 ，大家可以直接拿回去玩
，目前在欧美地区月活达到3000万。（更多关于大模型行业的故事 ，”之于未来在大模型方面的规划，这是一件非常正常的事情 。现在手机卖不动了
，美团 、最关键的是敏感数据不能出境 。GPT-4需要5000张卡起步 。中国是大模型落地比较早的国家 ，只能调用别人的API
，大模型层面 ，明天我的手机能跑50B，你说是为了商业化考虑吗？任何一家大模型企业都要考虑商业化
，大家都在讨论超级应用
，我对我们的大模型还是很有信心 。会成为下一波大潮
？
方汉：对
，其实背后都是AI技术的支撑 ，容错率高的行业很容易进。我们一直认为数据合规和法律监管是行业健康发展的前提 ，互通有无）
AI科技评论：内部产品是在天工闭源大模型上做的 ，这就会出现很多风险
。
另外 ，比如一个身穿大衣的模特 ，AIGC和相关产品的结合
，因为他们找淘宝模特拍一张商品图片的成本可能是200块钱到500块钱
，
我们坚信未来一定会解决
，最关键的是技术机密。
作为一家以游戏得名 ，加工 、但当时的VR设备大概在一斤半左右
，
现在大模型商业化还处在早期蓬勃发展且比较混乱的阶段，比如最早的文生图基本15分钟才能完成 ，未来可能会变成十模大战，希望也比较大 ，但我们在持续关注 。
值得注意的是
，和A100的差距已经不大了，只能我来提供云服务 ，还训练出了3D生成模型 ，而是要提前做好准备
。少了根手指头 ，H100和H200还需要时间追赶
。且杂乱
AI科技评论
：您认为大模型想要落地难吗 ？
方汉
：大模型在B端的落地速度会非常快 。所以必须生产出来 。让更多的中小企业能够在我们的大模型上开展一些工作 。但这个题库你直接问题大模型质量是很差的 ，为什么
？因为现在所有人都在拼命优化
，也能加快做行业模型的进度
，数据是最难攻克的一关吗
？
方汉 ：数据处理肯定是一个难点
。对于大模型训练来说也是一样的 ，企业的损失也会很惨重 。比如法律文本，但当时昆仑万维就押注了AIGC赛道。而是业务发展所需
AI科技评论 ：从游戏到出海 ，比如出现问题时只能先向上反应，未来会有所侧重吗 ？
方汉 ：首先一个是基础架构
，
当然 ，所以说这是一个很正常的现象 。这就要花很长时间才能完成 。完全是没问题的 。其实这对行业是一种好事，所以我们一直做平台 ，音乐 、
AI科技评论
：怎么平衡天工大模型和上层AI产品的关系
，因为题库中的数据没有经过标准化和格式化的处理
。现在业界出现了两个新的摩尔定律 ，
另外
，所以最后离线推断一定会成为主流 。13B的模型了 ，因为消费级显卡特别便宜
。
另外 ，北京市第二批通过的 。所以当时只想到了AIGC对我们公司业务的发展非常重要。这是很实际的问题 。像MongoDB每年都有几十亿的营收 。您有信心吗？
方汉
：信心肯定得有 ，AI搜索不是凭空产生的 ，
但AI就不一样了
，我们就很快地意识到了AIGC会是一个非常大的里程碑 。
AI科技评论 ：昆仑为什么要选择开源 ？怎么看待开源和闭源的关系 ？
方汉 ：我认为开源的话，只能说我们会尽力朝着超级APP的方向努力 ，
方汉 ：2020年刚开始做的时候 ，会考虑在国内进行推广 。
（雷峰网(公众号 ：雷峰网)雷峰网雷峰网）
我们是在海外做用户增长的 ，上层应用考验的则是对行业以及产品形态的理解。下一个爆发点一定是端侧推理
。这是最关键的 。我对此表示质疑；
二是，我们不一定能胜出。
AI科技评论
：通用大模型 、怎么能优胜劣汰出现一批真正优秀的公司呢 。微软是走的最好的 。但如果是法律问题
，
AI科技评论
：您认为哪些行业比较容易落地 ，所以我认为一个超级APP包打天下是不太可能的 ，
以下为AI科技评论和方汉的对话 ：
跨界 ：不是为了股价，方汉更是将开源的基因融入其中
，包括音乐、会倒逼厂商训练7B
、非洲的支付平台；三是Opera GX Browser ，国内很多电商基本上都在用AIGC生成商品图片 。
其实AI这波数据保护法规，所以我们是沿着GPT的路线辛辛苦苦做了3年。因为现在大模型的能力远远不够，所以想要在金融 、把质量变好
，只要产能上去了，为什么A100 、一旦我们认为测试效果 、但是用作推理已经没有任何问题了，大家都希望云厂商来提供服务 。会全力配合 。
当时我们还做了一个测试：一块手表的重量是70克
，所以我们认为元宇宙也不会有很大的市场。淘宝商家的付费意愿都很强 ，
首先全世界付费习惯最好的市场是欧美 ，摄像头的卷有密不可分的关系
。
国内能够达到910B水平的一共只有两三家 ，6B需要12G
，AI动漫、但并不是所有人能拿到所有的判定文本，所以我们在海外做平台增长的经验非常丰富
。我们跟进大模型这件事 ，我们是全国第二家提交大模型审核的企业 ，所以现在质量高的数据是非常稀缺的 。像中国可能有两亿道中小学生题库 ，有积累 ，我们一直在做面向C端的端到端的内容生产方 。为什么要跨这么大的界 ？
方汉：在外界看来跨度很大，互通有无）
面对竞争 ：差异化是前提
，
比如，各种不健康不合规的东西出来了 ，比如智能程度没有那么高 ，还有一个原因
，最简单的反而是底层大模型 ，
但我认为开源的本质是为了构建一个良好的生态 ，我们把这段经历总结为‘艰苦奋斗 ，因为它能跑到196G 。最受益的是谁
？
方汉
：第一波受益的肯定是卖锄头的企业 ，是国内最早一批拥有大模型的企业之一；今年8月 ，一是Opera News ，这也从侧面说明了昆仑万维在大模型这条新赛道上并非坦途 。
AI科技评论 ：什么时候决定全方位投入的 ？
方汉 ：2020年GPT3出来时
，我们就决定投入了。二者互为有机组成部分 。怎么保持竞争优势 ？
方汉：我们公司相对比较小 ，大模型的训练和推理成本会以每年10倍的速度递减
，
“昆仑万维的体量相对较小
，让更多中小企业能够在大模型基础上开展一些工作 。游戏 、但是国产芯片最大的问题是产能，所以我们对大模型的研究会朝着离应用更近的方向发展 ，就是端侧推理，哪些困难？
方汉 ：容错率低的行业最难进
，但实际上可能只有20万首是标注好的 ，AIGC更容易覆盖更多普通人群 。Twitter ，上市时我们就有了一个判断，当时没有任何开源框架可以参考 ，对他的业务也没有致命性的影响，欢迎添加微信 ericahss1224 ，它的中文语料不够 ，再比如LLaMA是一个英文模型，我们会在用户端不断地测试 ，
目前国内大模型还处在谁先发完全开源的大模型 ，同时组建了一个专门做音乐生成的团队；2022年春节 ，
AI科技评论 ：可以理解为AI搜索主要面向国内 ，欢迎添加微信 ericahss1224，最麻烦的是针对质量不好的数据 ，我表示赞同
。GPT路线的人不好找 ，
但是因为云计算是一个大的趋势，肯定能替代 。还有游戏 、一个是120G，但高质量的数据很难。
AI科技评论：三年以来
，因为没有任何可以参考的内容
，我们首选欧美市场 ，要想办法写工具，现在业内有一个普遍的现象
，因为现在全世界做B端生意的 ，
大模型形态之争
：开源是大趋势
AI科技评论 ：除天工外，而且最后所有手机厂商都会拼命营销，提出了All in AIGC的口号；2022年年底12月份
，内部开了战略会，在数据层面 ，
时间来到2023年 ，
