聯(lián)發(fā)科推出全球首個(gè)繁體中文AI大語(yǔ)言模型BLOOM-zh現(xiàn)已開(kāi)放使用
IT之家 4 月 30 日消息，聯(lián)發(fā)科 4 月 28 日官宣，旗下 AI 研究小組日前發(fā)布了全球首個(gè)繁體中文 AI 大型語(yǔ)言模型（LLM）。
這一多語(yǔ)言模型名為 BLOOM-zh，號(hào)稱在大多數(shù)繁體中文基準(zhǔn)測(cè)試中優(yōu)于其前身，同時(shí)保持其英語(yǔ)能力。
聯(lián)發(fā)科表示，BLOOM-zh 起源于 BigScience 于 2022 年推出的開(kāi)源 BLOOM 模型，團(tuán)隊(duì)對(duì) BLOOM 進(jìn)行了額外的繁體中文和英文 74 億個(gè) token 的擴(kuò)展預(yù)訓(xùn)練，涵蓋了新聞、書(shū)籍、百科全書(shū)、教材、口語(yǔ)等多個(gè)領(lǐng)域。為了展示 BLOOM-zh 的特性，現(xiàn)有的和新創(chuàng)建的基準(zhǔn)場(chǎng)景都用于評(píng)估性能。
此外，聯(lián)發(fā)科的 AI 研究小組在 ICLR 國(guó)際表征學(xué)習(xí)大會(huì)上發(fā)表了一篇論文，詳細(xì)介紹了其使用 Fisher-Legendre（FishLeg）優(yōu)化的新算法，可以比以前更快、更可靠地訓(xùn)練 AI 模型。該研究是與英國(guó)劍橋大學(xué)的神經(jīng)動(dòng)力學(xué)和控制組合作進(jìn)行的。聯(lián)發(fā)科 AI 研究小組將在 5 月 1 日的 ICLR 會(huì)議上展示這項(xiàng)成果。
最新推薦
閱讀排行榜
欄目索引
相關(guān)內(nèi)容