孟繁岐的这番话,听起来让人觉得不是那么舒服。
言下之意,给人一种华国AI技术就是不如国外的感觉。
这是李彦弘不大喜欢的,毕竟他这么早就关注AI技术,就是为了研发最前沿最先进的技术。
孟繁岐大概猜到了他的想法,前世他也曾被早期华国大量发表的AI论文所迷惑。
觉得在这个新崛起的技术上,华国已经可以和美国分庭抗礼,不落下风。
虽然AlphaGO震惊了世人,但毕竟有些华而不实。
直到上千亿级别的语言大模型出现,这种纯硬核实力的比拼,让孟繁岐不得不甘拜下风。
实际上,并非是技术手段和算法层面上相差太远。
更多的还是因为优质数据的数量不足。
白度的文心一言,出图的时候甚至会将用户的中文输入翻译成英文,再去作图。
很多较真的网友故意测试了中英文差异很大的词汇,比如总线(Bus),鼠标(mouse)。
文心一言绘出的图像竟然是大巴车和老鼠,这从中文上是完全说不通的事情。
可见即便不是全部,文心一言这个所谓的专注中文的超级大模型,也在相当程度上借助了英文基础的模型权重和技术。
究竟为何要这么做,说到底还是基础不够扎实牢靠。
整理数据,清洗数据,给数据打上高质量的标签。
这些都是脏活累活,见效慢的工作。
把别人公开的数据拿过来跑一跑训一训,多么方便快捷?
以国内996大厂的内卷风气,很难容下长回报周期的基础建设。
早些时候看看不出区别,只觉得国内大厂频繁在XX榜单上露面,刷榜,又是超过这个,又是超过那个。
直到语言大模型阶段,基础语料数量和质量上的劣势才暴露无遗。
“其实这也不能完全怪华国的大厂风气,美国的互联网起步要早,并且很多领域的文献材料归档做得特别好。”孟繁岐也曾仔细思索过这方面的问题。
();() “像github,arxiv这样的大型公开社区,里面都是非常优质的外文代码或者论文。这些也不只是美国人自己的积累。而是通过免费公用的形式,收割了全世界的数据。”
“华国人在github上贡献的代码行数也不在少数,反过来看看华国的论文社区,就比如知网,纯纯就是毒瘤。里面屯点硕博生的论文,还要论页数收费。就连下载之后的阅读器,甚至都需要专门的....”
此消彼长之下,差了多少珍贵的数据啊...
只是此时此刻,李彦弘应该还没有想到这么大规模的数据用于训练。因而孟繁岐也不急于一时和他讨论后面语言类的技术,以及生成式的大模型。
请勿开启浏览器阅读模式,否则将导致章节内容缺失及无法阅读下一章。
全职法师之魔法天赋 天骄退婚,我提取词条修行 陨落星辰: 什么叫世界名帅啊 华娱之开局给周董上上对抗 大明:我杨宪,真的治扬! 纵目 主宰:虫族崛起 大唐第一逆子 火枪洗明路 海贼:阿卡姆肄业的小丑巴基 当场怒喷哥哥,这解说不想干了? 神秘复苏之我没有外挂 无限超神:抬头看见云霄天庭 异常魔兽见闻录 我以道种铸长生 你是我的满世欢喜 明日方舟之铁与血 自遮天世界开始 前任都是天后,我火了
下一本小奶龙寻亲记专栏求预收本文文案每一个故事中,除了有万众瞩目的主角,还有着无数不受人重视的配角。他们普通平凡,或许只有几行字的描述,或许连姓名都不为人知,只是简单一个代号,或许谁也不会...
国之将亡,必有妖孽。大唐天佑四年时,本应该覆灭的唐朝却不知为何得以续了两百年余年,可自此之后,妖魔纵生,天下大乱。自乱世而来的秦白能够通过打铁垂钓烹饪刺绣行医等获得各类神通,即修行诡异法门纸人赶尸符咒蛊虫又历经一个个熟悉但诡异的故事,板桥客栈倩女幽魂画皮河神青蛇画中仙,西游降魔...
...
李青石本来以为师父是个假装江湖高手的骗子,后来才知道原来是个贼牛掰的穿越者各位书友要是觉得家师太彪悍还不错的话请不要忘记向您QQ群和微博里的朋友推荐哦!...
前世的黎歌是中部基地二把手,沈煜年让她夺取丧尸皇晶核,她做的完美无缺。可被推入那场漫天大火的人是她,笑她蠢的是沈煜年和白穗,救她的是被设计的丧尸皇。末世之初她重生到了同名同姓的白穗小跟班身上,稀有的...
世界中心的奥林波斯山上,众神之王宙斯紧握雷霆之矛,笑看诸界。他的面前,众神如林。北方的白银之厅,至高王座上的奥丁手持天界之枪,俯视世间。他的眼中,无尽风雪。南方的尼罗河畔,掌舵太阳船的阿蒙,目光落在...