优美励志的句子网优美励志的句子网

Meta继续押宝开源大模型 Llama 3拿下“赛点”?

Meta继续押宝开源大模型 Llama 3拿下“赛点”?

开源与闭(bì)源之争延续到大模型时代。在寻找“新大陆”的路上,开源与闭源的辩论,就像是一场(chǎng)关(guān)于AI未来(lái)的“航海策略(lüè)”讨论。

开源一派认为,开源(yuán)能(néng)够(gòu)促进全球科研人员和开(kāi)发者的(de)协作,加(jiā)速AI技术(shù)的迭代与创新(xīn)。同时,开源让更多人参与到(dào)模型的改进和优化中,通过集(jí)体(tǐ)智慧(huì)解决复杂的技术难题。

闭源的倡导者则(zé)看重其在商(shāng)业化、技(jì)术保护(hù)和产(chǎn)品差异(yì)化方面的(de)优势。闭(bì)源模型使(shǐ)得企(qǐ)业能够控制产(chǎn)品的(de)开(kāi)发节奏和市场策略,保护(hù)其商业利(lì)益。此外,闭源也有助于企业维护其技术优(yōu)势,避(bì)免竞争对手模 仿或超越。

Llama 3的(de)发布让开源大(dà)模型在与闭源的竞争中再度“扳回一(yī)城”。从(cóng)测试结果来(lái)看(kàn),Llama 3的成 绩大(dà)幅超越了Llama 2,也胜(shèng)过了GPT-3.5。

在AI这场没有(yǒu)硝烟(yān)的“航(háng)海竞赛”中,大模型已然成为眼前的灯塔。未知的是,这(zhè)座灯塔究(jiū)竟是向所有航海者开(kāi)放(fàng)其光芒,还是仅为(wèi)特定的船只照亮前行的航道。

开源(yuán)在开发者和研究人员(yuán)中极受欢迎

Meta正沿着开源路径继续(xù)前进。

近日,Meta推出开源大模型Llama 3系列,发(fā)布8B和70B两个版本。Meta创始人兼首席执行(xíng)官扎克伯格在同一天宣布,基于Llama 3,Meta的AI助手现在已经覆盖Instagram、WhatsApp、Facebook等全系应用(yòng),并单独开启了网 站。

与Llama 2相比,Llama 3进行了几项关键的改进:使用具128K token(输入(rù)数据的最小单元)词汇(huì)表的tokenizer(编译器),可以更有效地编码语言,从而显著提升模型性能;在8B和70B模(mó)型中(zhōng)都采用分组(zǔ)查询注意力(GQA),以(yǐ)提高Llama 3模型(xíng)的推理效率;在8192个token的序列上训练模型,使用掩码来确保自注意(yì)力(Self-Attention)不会跨(kuà)越文档(dàng)边界。

据Meta介绍,Llama 3已(yǐ)经在多种行业(yè)基准(zhǔn)测试上展现了最先进的性能,提(tí)供(gōng)了包(bāo)括改进的推理(lǐ)能力在(zài)内的新(xīn)功能,是目前市场上最好的(de)开源大模型。

此外,Llama 3发布后,微软Azure、谷歌云、百度智能云(yún)等(děng)陆续宣布其平台上线Llama 3。百度方面此(cǐ)前对《每日经(jīng)济新闻》记 者表示,百度(dù)智能云千帆(fān)大模(mó)型平台在(zài)国内(nèi)首家推出针对(duì)Llama 3全系列版本的训练(liàn)推理方(fāng)案,便于开发者进(jìn)行再训(xùn)练,搭建专属大模型。

工(gōng)业和信息化部工业文化发展中心AI应用(yòng)工作组执行组 长、行行AI董事长李(lǐ)明顺在(zài)接受《每日经济新闻》记者采访(fǎng)时表示,Meta的Llama 3发布可能会带来更多AI应用落地机会和场景,它(tā)通过提供更(gèng)大词汇(huì)量的Token词(cí)典、更长(zhǎng)的输(shū)入上下文长度以及优化的模型结构(gòu),增强了模型的编码效率和推理效(xiào)率。“现在,比起(qǐ)Llama 2,Llama 3在代(dài)码能(néng)力和逻辑推理能力上有显著提升,这可能会促进相(xiāng)关AI应用的性能(提升),尤其是在需要(yào)复杂逻辑和代码理解的(de)场景中去落地。”

OpenAI在GPT-2之后(hòu)调转船头(tóu)走向闭源,Meta则成为深圳机器人“版图”扩张明显 一年新增万家企业开源界的引领(lǐng)者之一。

从(cóng)2020年发布GPT-3,到(dào)引发轰 动的GPT-3.5,以及2023年(nián)3月(yuè)发布的GPT-4,都(dōu)是闭(bì)源模型(xíng)。此(cǐ)前,马斯克起诉OpenAI时曾直言(yán):“如果OpenAI改名为ClosedAI,我就撤销诉讼。”

李(lǐ)明(míng)顺认为,OpenAI的(de)转变 可能与其商业战略和市场定(dìng)位有关(guān)。“初期开源有助于快速吸引关注和社区参与,但随(suí)着(zhe)公司的发展,我估计阿(ā)尔特曼(Sam Altman)的野心和商业梦想越来越膨胀了 ,闭源 可以更好地让它融资,包括和微软合作,保护领 先的技术 优势。”他表示,从OpenAI的转变中可以(yǐ)看出,开(kāi)源与闭源的选择并非(fēi)固定不变,而是需要根据公司战略(lüè)目标、市场环境和产 品发展阶段灵活调整(zhěng)。天下(xià)没什么事 情(qíng)是绝对的,很多开源公司也(yě)是拿着次优代(dài)码开源,独家秘方闭(bì)源。

在追(zhuī)逐AGI(通用人工智能)这颗明珠的道路(lù)上(shàng),迄今为止,Meta依旧持(chí)续沿着开源的路径前行。

2024年(nián)初,扎克伯格在Meta第四季度及2023全年财报电话 会议上 表示:“长(zhǎng)期(qī)以来,我们(men)的策略是构建并开放源代码通用基础设施(shī),同时保留我们的具体产(chǎn)品实现为(wèi)专(zhuān)有技(jì)术(shù)。”

他(tā)认为,开(kāi)源(yuán)带来(lái)了几个战略好处。首先,开源软件通常更加安全可靠,并且因为社区(qū)的持续反馈、审查和开发,更(gèng)加高效(xiào)。其次(cì),开源软件经常(cháng)成为行业标准,“当企业开始基于我们的技术栈建立标准(zhǔn)时,这使得将创新(xīn)融入我(wǒ)们的产品变得更加容易。这种微妙的优势,能 够迅速学习和改(gǎi)进,是巨大(dà)的竞争优势,而成为行(xíng)业标准正是(shì)这一能(néng)力的关键”。第(dì)三,开源在开发者和研究人员(yuán)中极受欢迎。

开源与闭源并不矛盾(dùn)

开源还是闭源,也许是全球人(rén)工智(zhì)能信徒长久的辩题。在(zài)Llama 3诞生前几(jǐ)天,国内同样在进行(xíng)一场“辩论”。

4月(yuè)11日,百度董事长兼首席执(zhí)行官李彦宏在(zài)其内(nèi)部(bù)讲话中直言,大模型开源的意义不大(dà),闭 源模型在能力上会持续领(lǐng)先,而不是一时(shí)领先,做模型的创(chuàng)业公司既做模型又做应用的“双轮驱动”不是一个(gè)好的模式。在一周后的Create 2024百度 AI开发者大会上,李彦宏再度提到,大家以前用开源觉(jué)得(dé)开(kāi)源便宜,其实在大模型场景下,开源是最贵的,所以开源模型会越来越落后。

360公司创始人周鸿祎则持不同(tóng)的观点。他表示:“网上有些(xiē)名人胡说八道,大家也(yě)别被他(tā)们忽悠,说开源不如闭源(yuán)好。一句话,今天没(méi)有(yǒu)开源就没有Linux(操(cāo)作系统内核),没(méi)有Linux就没有(yǒu)互联网,就连说这话的公司自己都借(jiè)助了开源的力量才成长到今(jīn)天。”

这段发言被解读为对李彦宏观点(diǎn)的回怼(duì),周鸿祎随后澄清道:“我一直(zhí)是开源的信徒,但是我(wǒ)说深圳机器人“版图”扩张明显 一年新增万家企业开源好,是(shì)(4月)13日在哈佛讲的,李厂长(指李彦宏)说闭源好,是(shì)(4月)16日(rì)在北京讲的。”

生数(shù)科技联合创始人兼CEO唐家渝站在(zài)闭源的一边。在(zài)4月18日举行(xíng)的“2024中国生成式(shì)AI大会”上,唐家渝表示:“在我们看来(lái),开(kāi)源、闭源(yuán)都有各(gè)自可以做的商业生态,但是从模型能力的提升来说,或(huò)者持续走到前列来 说,闭源还是会走 到开源的前面。”

昆仑万维董事长(zhǎng)方汉的观点是,开(kāi)源模型与闭源模(mó)型之间的差距正在不断缩小。4月16日,方汉在接受《每日经济新闻》记者在内的媒体采访时表示,闭源模型的(de)确是第一,但是开源大模型在2023年(nián)到今年这一年 间,从落后两年以上,已经进化(huà)到落后(hòu)4~6个月以上。

此(cǐ)外,方汉认为(wèi),在应用侧(cè),闭源对于产品(pǐn)特性和长尾需求的满足都落后于开源大模型,开源大模型(xíng)是一种生态构建器(qì),更利于满(mǎn)足(zú)用户的长(zhǎng)尾需求。开源(yuán)大模型和闭源(yuán)大模型是一个生(shēng)态(tài)的(de)组成(chéng)部分,不是谁压倒谁,大(dà)家都(dōu)有(yǒu)自己的(de)生存空间,也(yě)都有更好的明天。

不过,从商业化上来讲(jiǎng),闭源和开源也许并不(bù)矛盾。启明创投合伙人周志峰就认为,开源闭源在过去几个大浪潮当中没有很大的(de)冲突,不太理解为什么很多人把闭源(yuán)、开源在AI时代看成对立的。

李(lǐ)明顺的观 点则是,在当前强应(yīng)用导向(xiàng)的背景下,开源模(mó)式具有显著优势,能够吸引全球范围内最广泛的人参与,从(cóng)而使其创新性 保持在较(jiào)高水平。

相较之下,尽管一(yī)些闭源大(dà)模型在技术上具(jù)有领(lǐng)先(xiān)地位,但其成(chéng)本太高。不过他也强调,开源与闭(bì)源在(zài)不同公司和应用场景中可以相互转换。一些基于开源的产(chǎn)品在发掘(jué)到独特优势后,可能会通过闭源策略(lüè)建(jiàn)立(lì)竞争壁(bì)垒。同时,一些闭源(yuán)公司也会不断将其部分产品开源。这两个应该是(shì)共(gòng)存的,未来开源可能用户量级上更大,但是行业内,商(shāng)业化做得 比较好的公司,往往(wǎng)还是闭源的多一点(diǎn)。

在 开源与闭源的(de)辩(biàn)论中,也许答案并非非此即彼。AI的未来可能既不是完全(quán)开放的“自由港”,也不(bù)是彻底封闭的“孤岛”,而是一个既(jì)包(bāo)含开放协(xié)作也包含封闭竞争的(de)混合生态。在这个生态系统中,开放与封闭不是对立的两极,而是一枚(méi)硬(yìng)币的(de)两面。

未经允许不得转载:优美励志的句子网 深圳机器人“版图”扩张明显 一年新增万家企业

评论

5+2=