關於 搜狗 公司 ，我們在網路上蒐集到這些相關的討論、資訊與評價

與騰訊完成合併，搜狗首次披露合併細節！
#騰訊 #搜狗

四兩撥千斤！ 創新工場首席科學家AI大牛周明博士率瀾舟團隊刷新CLUE新紀錄，輕量化模型孟子一鳴驚人！

本週，中文語言理解權威評測基準CLUE榜單，被「低調」刷新。

不同的是，不是大公司、不是超大模型……

一個新面孔，一個輕量化模型，首戰即登頂，四兩撥千斤。

CLUE榜單近年來由巨頭——騰訊、搜狗、華為、阿里達摩院輪番霸榜的格局，被首次打破。

瀾舟科技-創新工場推出的孟子模型，以十億參數完成了此前百億、千億參數模型刷新的紀錄。

這也是瀾舟科技首次對外曝光，背後團隊負責人，正是創新工場首席科學家、全球AI大牛周明博士。以下文章解釋了這個模型的原理，文章來自《量子位》微信公眾號，經授權轉載。

▎輕量化模型孟子？

孟子，基於瀾舟團隊自研技術研發的大規模預訓練語言模型。

包括創新工場、上海交通大學、北京理工大學等單位參與聯合研發。

可處理多語言、多模態數據，同時支持多種文本理解和文本生成任務，能快速滿足不同領域、不同應用場景的需求。

孟子模型基於Transformer架構，僅包含十億參數量，基於數百G級別涵蓋互聯網網頁、社區、新聞、電子商務、金融等領域的高質量語料訓練。

但誰也沒想到，小模型卻有大智慧，一經登場，打破格局。

CLUE，中文語言理解領域最具權威性的測評基準，涵蓋文本相似度、分類、自然語言推理、閱讀理解等共10項語義分析和理解類子任務。

該榜單競爭激烈，幾乎是業內所有自然語言理解玩家必爭之地。

騰訊、搜狗、華為、阿里達摩院等更是輪番霸榜刷新紀錄。

而且隨著大參數模型愈演愈烈，CLUE還漸有巨頭壟斷之勢。

因為百億、千億甚至萬億參數的大模型，已然不再是創業或其他玩家可與之爭鋒。

萬萬沒想到，瀾舟科技-創新工場團隊出手，四兩撥千斤。

因為孟子，走的是基於輕量級、高效訓練的研究路線，致力於構建十億級別的小模型，充分發揮已有參數下的模型潛力，有利於快速、低成本地落地現實業務場景。

孟子預訓練模型性能比肩甚至超越千億大模型，在包含文本分類、閱讀理解等各類任務上表現出色。

相對已有的中文語言模型，孟子模型實現了多項突破性進展：
 1） 堅持「小而精」的輕量化訓練策略。實現在同等模型規模下，遠超公開模型的性能。作為精巧的小模型，對標「巨無霸」，小模型性能超越千億規模模型。
 2）使用知識圖譜增強模型，讓 AI 真正獲得知識。孟子模型具備頂尖的語言理解能力，在權威CLUE中文理解評測的總排行榜，以及分類排行榜和閱讀理解排行榜均位列第一，刷新三項榜單世界紀錄。總排行榜分數突破84分，逼近人類基準分數（85.61）。
 3）靈活的領域和場景適應能力，方便快速定制和應用。基於T5-style的端到端生成的訓練範式，同步適配BERT-style的判定式架構，既能理解也能生成。便於適配行業應用，覆蓋廣泛業務場景。

當然，隨著孟子一鳴驚人，也必然能讓輕量化模型研究來到聚光燈下。

▎原理方法和應用？

在輕量化模型算法研究方面，基於自研的基於語言學知識、知識圖譜和領域數據增強等技術，從模型架構（包括基礎層Embedding表示和交互層Attention機制）到預訓練策略進行了全方位改進。

具體有四方面：
 1) 模型結構方面，將語義角色、詞性標註等語言學特徵融合到Embedding表示中，基於句法約束引入註意力機制中，從而提升模型對語言學知識的建模能力。
 2) 訓練策略上，引入基於實體知識和Discourse的Mask機制，強化模型對語言成分和語篇關係的表徵。
 3) 為進一步提高訓練效率，使用了大模型蒸餾和初始化小模型策略。
 4) 為更好地將孟子模型適應垂直領域如金融、營銷，使用了領域數據繼續訓練並構造相應的提示模版（Prompt），取得了明顯的性能提升。

基於以上算法策略，實現從語料中高效學習涵蓋詞級、句子級和語篇級知識，大幅提升語言模型提煉語言結構和語義信息能力，以及良好的領域遷移能力，適應廣泛的產品應用場景。

另外，在Finetune的進展方面，如何將預訓練模型用於各項任務？

瀾舟團隊也有總結，從數據增強、知識蒸餾、遷移訓練、訓練優化等方面展開了一些探索，進一步提升語言模型的性能：

 1) 數據增強：使用領域相關數據；
 2) 知識蒸餾：基於Teacher-Student自蒸餾提升訓練效率；
 3) 遷移訓練：結合課程學習的思想，由易到難訓練下游模型；
 4) 訓練優化：使用多種訓練目標，多角度提升模型能力；

而且孟子還已經展開了垂直化領域應用。

基於領域適應技術，孟子模型已深度垂直化賦能相應行業。典型的例子為適用於金融領域的孟子模型，領域適應策略主要包含兩大方面：

 1) 通過大規模的泛金融領域語料，將通用孟子模型遷移到金融領域。金融版孟子模型已經應用於多個金融行業的合作企業，在金融知識圖譜搭建、脫水研報、公告抽取等多個任務上獲得了出色的表現。
 2) 通過大規模的營銷領域語料，將孟子模型遷移到數字營銷領域，完成了營銷文案生成、新聞摘要等多項任務，將用於行業頭部的數字營銷公司和多個世界五百強企業的合作之中。

瀾舟方面還透露，孟子模型已在多個領域成功落地實踐，衍生出多項行業領先的產品，涵蓋文本生成、行業搜索、機器翻譯等諸多領域。

並且毫無疑問的是，因為輕量級模型具有的模型參數較少、快速推斷的特點，更易於線上部署和推廣到移動設備中，自然不會局限於現有應用和場景，接下來還會有更廣泛的研究和應用場景中。

▎瀾舟團隊？

最後，也簡單介紹本次一鳴驚人的新面孔瀾舟科技。

瀾舟科技是創新工場孵化的一家認知智能公司。公司創始人——周明博士。

AI領域內，周明已不用過多介紹，他是公認的世界級AI科學家，自然語言處理領域的代表性人物。

周明博士在2020年加盟創新工場，擔任創新工場首席科學家。
而瀾舟科技則針對商業場景的數字化轉型，基於大數據、知識圖譜和行業模型，提供新一代的信息檢索、知識推理和商業洞見技術和相關產品。

據稱目前已與國內外幾十所著名高校和十餘個相關領域的頭部企業建立了穩定的合作關係。

值得注意的是，瀾舟科技除了大牛坐鎮，其實也是行業趨勢的體現。

引用創新工場董事長兼CEO李開復最新分享來說：

AI的發展可以按照兩個時間點劃分。

第一個時間點是2015年，以CNN為核心的計算機視覺技術讓機器超越了人類，帶來了人臉識別、智能質檢、無人零售、智慧城市、無人駕駛等商機。

而第二個時間點出現在2019年，以大模型為代表的自然語言方向取得突破性進展，讓NLP從數據、信息走向知識和洞見成為可能，將會在翻譯、語音識別、法律、金融、新聞、廣告、醫療、娛樂等大賽道帶來機遇。

「如果說CNN造就了今天計算機視覺領域的突破和眾多應用，預訓練大模型+微調也將帶來自然語言的百花齊放的發展，用數據智能驅動各類業務的升級。瀾舟科技在周明老師的帶領下取得了今天的成果，在新機遇面前躬身入局，一起發掘NLP領域的黃金發展期」，李開復說到。

中國政策成為投資市場最難預測的變數。昨天同意騰訊收購搜狗，等合併生效後，搜狗併入騰訊搜狗下市。搜狗母公司搜狐ADR大漲。

總統首場電視辯論！ / Beyond Meat，Nio大升 / 美光業績 / Fitbit與ARM收購 / 搜狗私有化及新浪下市

成為 RF 鐵粉團的一分子！只需港幣 $40 一個月，即享獨家影片及專屬貼圖優惠！
https://www.youtube.com/channel/UCETuQf4lzTrfevoHdSGo8Ew/join

www.RagaFinance.com

RagaFinance Facebook:

https://www.facebook.com/ragafin/

《Calvin直播室》眾籌計劃 ?

http://patreon.com/calvinchoy

◎◎◎訂閱 ◎◎◎

▶
Ragazine : https://www.youtube.com/channel/UC5DWcqCjBne2-wRnrjxkuHQ?sub_confirmation=1

▶
Raga Finance: https://www.youtube.com/channel/UCETuQf4lzTrfevoHdSGo8Ew?sub_confirmation=1

#RagaFinance #美國總統大選 #搜狗
------------------------------------------------------------------------------------------------------------------------------------------
免責聲明：《Raga Finance》竭力提供準確資訊，惟不保證絕對無誤，資訊如有錯漏而令閣下蒙受損失（不論公司是否與侵權行為、訂立契約或其他方面有關），本公司概不負責。

同時，《Raga Finance》所提供之投資分析技巧與建議，只可作為參考之用，並不構成要約、招攬、邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦，讀者務請運用個人獨立思考能力自行作出投資決定，如因相關建議招致損失，概與《Raga Finance》主持、嘉賓、編輯及記者無關。

同時，《Raga Finance》所有節目或資訊，相關內容屬作者個人意見，並不代表《Raga Finance》立場。

Raga Finance

網址: www.ragafinance.com

●2018年德國紅點設計獎
●支援繁體中文介面、WiFi上網
●中、英、日、韓、法、西、德等54種語言即時互譯
●中英、中日、中韓、中法、中俄離線翻譯
●3.1英吋IPS全觸控式螢幕
●擁有錄音備忘功能，並將語音轉化成文字
●設置匯率換算、世界時間等貼心旅行必備功能

代理商：思維寶藍科技有限公司
========

｜開箱實測．#Sogou翻譯寶Pro｜
🗣：「我覺得比較特別的功能是拍照翻譯，假設你去餐廳看不懂menu，你就可以直接拍照，它會幫你把menu中文化，這點我覺得很特別。」
📄
．重點小TIPS．
01:02｜主畫面功能介紹
02:18｜中日互譯實測
02:47｜中英互譯實測
03:21｜拍照翻譯
04:11｜旅遊英文
04:33｜備忘錄功能
05:02｜即時匯率換算
05:07｜緊急電話查詢
05:42｜多國離線語言包
07:36｜規格
📄
#Sogou搜狗 #翻譯寶Pro #雙向即時口譯機
#ThinkingGroupTW
-
❓|Where to Buy|
．PChome 24h｜http://bit.ly/2VDdjYH
．Yahoo!奇摩購物中心｜http://bit.ly/2IAAdwj
．MOMO購物網｜http://bit.ly/2RopIP6
．博客來線上購物｜http://bit.ly/2DhUhju
．官方實體門市｜http://bit.ly/2XNjCNU
-




訂閱：https://goo.gl/hBkJLR
追蹤 IG: johnnydong
快加入 Line@ https://line.me/R/ti/p/%40hoj5725a
合作洽詢 johnnydong@gmail.com
日本旅遊 https://lihi.cc/kaOcv

＝＝＝＝＝＝＝＝＝＝＝＝＝
＊elos改電動 ➜ ➜ https://goo.gl/wDa9GM
＊背包夾 ➜ ➜ https://goo.gl/UH7rc2
＋＋＋＋＋＋＋＋＋＋＋
2019年清光光清單➜➜ https://lihi.vip/wr76Q
＝＝＝＝＝＝＝＝＝＝＝＝
好物分享團社團 https://www.facebook.com/groups/405221850220985/
二手清光光蝦皮 https://shopee.tw/shop/5540977/
我的商店街：http://www.pcstore.com.tw/eoutlet/
＝＝＝＝＝＝＝

我的每天VLOG https://goo.gl/dm1T4n
elos電動化後教學及小技巧 http://pse.ee/5QN3G
電動滑板影片 https://goo.gl/wPA3vi
日本旅遊 https://lihi.cc/kaOcv

＝＝＝＝＝＝＝
｜電動滑板｜elos改板後注意事項
https://www.youtube.com/watch?v=jEIFb9SvXho&t=1s
｜elos電動滑板｜遙控器配對
https://www.youtube.com/watch?v=ugWU_26YuEw
｜elos改裝注意事項｜elos登機如何拆電池？
https://www.youtube.com/watch?v=R2m2Fw9BiCk
i3+ i4D 遙控器配對
https://youtu.be/5qmpCJapzqE?t=17m40s
新款三速省電遙控器
https://www.youtube.com/watch?v=nZ_cb3RJXxk&t=183s
[新手必看] 電動滑板好玩！但有些事你要知道！！(選購使用心得)
https://youtu.be/A6YcsF_YRl8
電動滑板 Q&A 13個常見問題(e-skateboard FAQ)
https://youtu.be/8Xvy4Kry-lc
＝＝＝＝＝＝＝



我的攝影器材以簡單方便為主
Sony A7iii 16-35mm f4.0／55mm f1.8 ／sigma f1.4 24mm
Canon EOS M6 11-22mm
DJI OSMO Pocket
Canon G7X MKII
GoPro Hero7 Black
Gopro Hero6 Black
Gopro Hero5 session
iPhone X

M6用小腳架 SIRUI 3T-35R https://lihi.cc/8UCxV

外接麥克風：
RODE VideoMic Pro+
RODE Wireless Go
RODE VideoMicro
Zoom F1
Shure MV88

剪輯軟體 ： FCPX

想看更多有的沒的請訂閱
或來粉絲團走走

FB https://www.facebook.com/mycart/
Blog https://johnnypa.blog/

訊息與我聯絡 http://m.me/mycart

音樂來源：
https://soundcloud.com/stream
https://player.epidemicsound.com/

協助加上字幕
http://www.youtube.com/timedtext_cs_panel?tab=2&c=UCOnx3Q0ssEIdFG7_ckJRMQg