ECI@創(chuàng)新科技 | Meta發(fā)布了一個針對Llama2的編碼版本

轉載贊收藏評論

舉報 2023-08-25

掃描,分享朋友圈

ECI @HiTech開欄語

【ECI @科技創(chuàng)新】是由ECI@HiTech科技創(chuàng)新專委會每周從全球精選熱門科技創(chuàng)新主題，幫助科技創(chuàng)新者和初創(chuàng)團隊取得成功！讓我們共同攜手，尋找改變現(xiàn)有游戲規(guī)則的科技創(chuàng)新，激發(fā)人類的智慧和挑戰(zhàn)，實現(xiàn)科技的創(chuàng)新和夢想。這就是科技創(chuàng)新的終極魅力！也是ECI”將創(chuàng)新帶入生活Bring Innovation to Life” 的使命所在！

通常來說，科技的發(fā)展都會交替經(jīng)歷平臺期和爆發(fā)期。平臺期的科技創(chuàng)新更多聚焦于識別并解決客戶現(xiàn)在的痛點，而爆發(fā)期的科技創(chuàng)新更多聚焦于引領并創(chuàng)造客戶未來的需求，劃時代的偉大科技創(chuàng)新往往誕生于此。

上個月，Meta發(fā)布了類似于ChatGPT背后的人工智能模型Llama2，使開發(fā)人員、初創(chuàng)公司和研究人員可以嘗試這種人工智能，這種人工智能已經(jīng)讓全世界著迷了將近一年。

今天，Meta又發(fā)布了CodeLlama，這是該模型的編程任務版本。這一發(fā)布可能意味著更多的開發(fā)人員能夠體驗到人工智能輔助編程。它也可能激發(fā)將人工智能嵌入軟件的新方法。此外，它還有助于進一步鞏固Meta作為“開放”人工智能工具的卓越供應商的地位。

斯坦福大學博士后研究員、研究人工智能編碼的DeepakKumar說：“令人興奮的是，他們正在向社區(qū)發(fā)布這些權重。”他指的是該模型核心神經(jīng)網(wǎng)絡的結構參數(shù)。

Kumar說Meta規(guī)范語言模型Llama2的發(fā)布形成了討論模型運作原理以及模型如何改進的社區(qū)。“相對于Google或者OpenAI提供的封閉式軟件來說，我們現(xiàn)在使用該項技術比以往的任何軟件都更加靈活。”

Kumar表示，Meta發(fā)布的常規(guī)語言模型Llama2促使社區(qū)形成，專門討論它的行為方式以及如何對其進行修改。“與Google或OpenAI的封閉源代碼模型相比，它給了我們更多的靈活性，讓我們可以研究到底發(fā)生了什么。”Kumar說，開發(fā)人員可能會使用CodeLlama構建新型應用程序。例如，Kumar表示，可以創(chuàng)建一個編程助手，在推薦一段代碼之前執(zhí)行各種附加的安全檢查。他自己的研究表明，人工智能輔助有時會導致代碼不那么安全。Kumar補充說，這一發(fā)布可能會激發(fā)創(chuàng)造出專門針對特定編程類型的助手。“你可以在該模型的基礎上構建各種工具，”他說。

伊利諾伊大學厄巴納-香檳分校研究編程的助理教授塔莉婭·林格(Talia Ringer)說，《 CodeLlama》將為學術研究提供有價值的資料。我已經(jīng)有學生使用Llama模型進行研究，考慮到我們的工作性質，我可以看到那些學生對代碼模型非常感興趣，“她說。但林格補充說，理想情況下，用于訓練的數(shù)據(jù)也應當被發(fā)布出來。她說：“這往往是理解LLM研究的缺失部分。”

人工智能最近的進步已經(jīng)對編程產生了相當大的影響。2021年5月，微軟子公司GitHub推出了Copilot，這是一款編程程序插件，可根據(jù)用戶輸入的第一行或注釋自動完成代碼部分。Copilot使用OpenAI的GPT的一個版本，這是ChatGPT背后的大型語言模型。該模型使用GitHub為開發(fā)人員存儲的代碼以及據(jù)報道由承包商付費注釋自己的代碼進行進一步的訓練。

GitHub因在其培訓數(shù)據(jù)中使用一些開源代碼而面臨訴訟，Masad說，Meta很可能限制了培訓數(shù)據(jù)，以避免此類復雜情況。Copilot個人每月花費10美元，企業(yè)每個用戶每月花費19美元。

根據(jù)GitHub于6月發(fā)布的數(shù)字，Copilot已經(jīng)被超過100萬名開發(fā)人員和超過20萬家企業(yè)使用。該公司自己的研究還表明，Copilot加快了程序員執(zhí)行任務的速度，使生產率提高了30%。

Meta發(fā)布了兩個版本的CodeLlama，一個針對生成Python代碼，另一個針對將自然語言命令轉換為代碼進行了優(yōu)化。該公司還推出了三種尺寸的機型。最小的可以在單個GPU上運行。

Meta表示，CodeLlama是在公共領域的代碼上進行訓練的。該公司表示，在兩個常見的編碼基準測試中，即HumanEval和Mostly Basic Python Problems中，它的性能比現(xiàn)有的開源編碼模型好得多，而且與ChatGPT“相媲美”。

提供幾個生成人工智能工具的在線編碼平臺Replit的首席執(zhí)行官Amjad Masad并不認為CodeLlama會取代Copilot，因為它的訓練數(shù)據(jù)更有限，這可能會使它更加有限。但他表示，此次發(fā)布的軟件將允許開發(fā)人員使用能執(zhí)行有用任務的代理進行試驗，比如瀏覽網(wǎng)頁獲取信息或使用API預訂航班或訂餐。“我認為這是一個非常令人興奮的領域，”馬薩德說。“人機交互時，你可以鍵入自然語言指令，而模型則能處理數(shù)據(jù)，這可以在世界上做一些有趣的事情。”

CodeLlama的發(fā)布也可能給Meta帶來好處。該公司可能沒有ChatGPT或基于AI的搜索引擎，但成為許多開發(fā)人員、公司和研究人員的免費AI提供商，可以使它在利用生成性AI的競爭中占據(jù)一席之地。在看到有人在5月份將Llama的早期版本泄露到網(wǎng)上后，Meta選擇采用開放的方法。

無論是Llama2還是CodeLlama，都不是在常規(guī)的開放源代碼軟件許可證下發(fā)布的，該許可證將允許不受限制的商業(yè)使用。例如，根據(jù)Meta的許可證，用戶不得在每月用戶超過7億的應用程序或服務中使用這些模型。

本月發(fā)表在網(wǎng)上的一篇研究論文指出，發(fā)布人工智能工具可以為其背后的公司帶來顯著的間接利益，例如，將研究人員鎖定在他們的工具中，并為他們提供可以大規(guī)模使用的新想法。

注：本文內容轉載于WIRED文章：

Meta Just Released a Coding Version of Llama 2

https://www.wired.com/story/meta-code-llama/

目前，2023 ECI Awards（艾奇獎）正在征賽中，同時，我們在與參賽者的日常交流中，也收到了許多關于比賽的詢問。為了提升參賽者的體驗，ECI組委會將之前在征賽過程中，已經(jīng)發(fā)布的關于各類常見問題和關鍵信息等內容，整理了一份參賽答疑必備手冊（請點擊鏈接進行了解：ECI Awards 2023丨精彩紛呈！全面掌握報獎流程與技巧！）我們鼓勵各位參賽者能夠認真準備作品，并祝愿大家在比賽中斬獲佳績！

ECI Media官方媒體矩陣

聯(lián)系我們

本文系作者授權數(shù)英發(fā)表，內容為作者獨立觀點，不代表數(shù)英立場。
轉載請在文章開頭和結尾顯眼處標注：作者、出處和鏈接。不按規(guī)范轉載侵權必究。