熱門資訊> 正文
2023-04-26 18:23
經濟觀察網 記者 周應梅4月25日,網易副總裁、網易數帆總經理汪源接受經濟觀察網在內的媒體採訪時表示,網易杭州研究院2018年起步做預訓練大模型,去年開始投入智能生成代碼、文本理解、智能生成SQL等領域研究,之前大模型相關技術在內部支撐生產和使用,現在超過1000名工程師使用相關技術。
此前網易伏羲實驗室推出了中文預訓練大模型「玉言」,並拿下中文語言理解權威測評基準CLUE分類任務榜單冠軍。公開資料顯示,「玉言」大模型參數達到110億,由浪潮信息提供AI算力支持。「玉言」大模型相關技術已用於網易集團內的文字遊戲、智能 NPC、文本輔助創作、音樂輔助創作、美術設計、互聯網搜索推薦等業務場景。
結合AIGC應用,4月25日,網易數帆在低代碼業務戰略發佈會上推出CodeWave智能開發平臺。網易數帆強調,智能開發平臺接入網易數帆自研智能大模型,以低代碼為開發工具,開發者只需編寫少量代碼,通過自然語言描述和可視化拖拉拽便能快速開發應用。目前,網易數帆參與共建的AirCoder代碼生成插件工具,提供上下文補全等多種代碼生成模式,目前AI生成代碼量達到15%。
網易數帆雲原生及低代碼產品線總經理陳諤表示,網易數帆的目標是降低開發者或者企業使用平臺開發應用的門檻。通過設計一個全棧式不分前后端的編程語言,讓它的表達能力跟專業的編程語言一樣強。開發門檻要比用Java 、JavaScript低很多,但是相比零代碼或無代碼平臺高。據介紹,未來智能開發平臺將增加AIGC的應用,增加智能設計、智能D2C、智能業務分析BA、智能資產運營等功能,並計劃發展100萬開發者,助推低代碼開發。
汪源表示,現在的大模型技術核心起源於2017年,當年谷歌發佈的Transformer學習模型帶來了新的方向。網易杭州研究院、伏羲實驗室、互娛業務部以及從事AI研發的團隊,都是在新技術架構基礎上開展工作。2017年谷歌機器翻譯團隊發佈了Transformer模型,這個模型,基於注意力(Attention)的網絡架構,在機器翻譯及語言理解任務上相較於現有算法有突出優勢,與傳統的RNN(循環神經網絡)和CNN(卷積神經網絡)呈現了較大區別。此后,2021年谷歌大腦團隊又推出了1.6萬參數的Switch Transformer大語言模型。
網易伏羲今年4月推出新一代Transformer推理引擎Easy and Efficient Transformer,提升了Transformed-based超大模型的推理效率。該功能也用於網易雲音樂AI作詞、AI作曲,將歌詞創作時間縮短到3~4秒。