清華大學(xué)好句子
雷鋒網(wǎng)AI科技評(píng)論按:隨著強(qiáng)化學(xué)習(xí)在機(jī)器人和游戲 AI 等領(lǐng)域的成功,該方法也引起了越來越多的關(guān)注。在近期雷鋒網(wǎng)GAIR大講堂上,來自清華大學(xué)計(jì)算機(jī)系的博士生馮珺,為大家介紹了如何利用強(qiáng)化學(xué)習(xí)技術(shù),更好地解決自然語言處理中的兩個(gè)經(jīng)典任務(wù):關(guān)系抽取和文本分類。 本文根據(jù)視頻直播分享整理而成,內(nèi)容若有疏漏,以原視頻嘉賓所講為準(zhǔn)。
視頻回放地址:http://www.mooc.ai/open/course/318
在關(guān)系抽取任務(wù)中,嘗試?yán)脧?qiáng)化學(xué)習(xí),解決遠(yuǎn)程監(jiān)督方法自動(dòng)生成的訓(xùn)練數(shù)據(jù)中的噪音問題。在文本分類任務(wù)中,利用強(qiáng)化學(xué)習(xí)得到更好的句子的結(jié)構(gòu)化表示,并利用該表示得到了更好的文本分類效果。本次分享的兩個(gè)工作均發(fā)表于 AAAI2024。
馮珺,清華大學(xué)計(jì)算機(jī)系博士五年級(jí),師從朱小燕和黃民烈教授,主要研究方向?yàn)橹R(shí)圖譜,強(qiáng)化學(xué)習(xí)。目前已在 AAAI,COLING,WSDM 等國際會(huì)議上發(fā)表多篇文章。
分享內(nèi)容:
大家好,我是來自清華大學(xué)的馮珺,分享的主題是當(dāng)強(qiáng)化學(xué)習(xí)遇見自然語言處理,分享內(nèi)容主要是以下三方面:
強(qiáng)化學(xué)習(xí)基本概念簡要介紹基于強(qiáng)化學(xué)習(xí)的關(guān)系抽取方法,解決遠(yuǎn)程監(jiān)督方法自動(dòng)生成的訓(xùn)練數(shù)據(jù)中的噪音問題基于強(qiáng)化學(xué)習(xí)的句子結(jié)構(gòu)化表示學(xué)習(xí)方法
強(qiáng)化學(xué)習(xí)的基本概念
狀態(tài),是agent從環(huán)境中得到的動(dòng)作;agent,是基于它得到的當(dāng)前狀態(tài)后做出相應(yīng)的動(dòng)作。reward ,是環(huán)境給agent 的一個(gè)反饋,收到這個(gè)reward就知道做的這個(gè)動(dòng)作是好還是不好。agent 的目標(biāo)就是選動(dòng)作,將全部reward最大化。
agent會(huì)和環(huán)境做很多的交互,環(huán)境每次做的動(dòng)作可能會(huì)有一個(gè)長期的影響,而不僅僅是影響當(dāng)前的reward。reward 也有可能延遲。在這里簡單介紹一下policy的概念。policy是決定一個(gè)agent的動(dòng)作的一個(gè)函數(shù)。
如果讀者對(duì)上述概念還不清楚可以觀看視頻中的迷宮例子:http://www.mooc.ai/open/course/318
我們組做的兩個(gè)工作是關(guān)系抽取和文本分類。
首先是第一個(gè)工作:利用增強(qiáng)學(xué)習(xí)從噪聲數(shù)據(jù)中進(jìn)行關(guān)系抽取 (Reinforcement Learning for Relation Classification from Noisy Data)
任務(wù)背景
關(guān)系分類任務(wù)需要做的是,判斷實(shí)體之間是什么關(guān)系,句子中包含的實(shí)體對(duì)兒是已知的。關(guān)系分類任務(wù)是強(qiáng)監(jiān)督學(xué)習(xí),需要人工對(duì)每一句話都做標(biāo)注,因此之前的數(shù)據(jù)集比較小。
之前也有人提出Distant Supervision 方法,希望能利用已有資源對(duì)句子自動(dòng)打上標(biāo)簽,使得得到更大的數(shù)據(jù)集。但這種方法是基于已有知識(shí)圖譜中的實(shí)體關(guān)系來對(duì)一句話的實(shí)體關(guān)系進(jìn)行預(yù)測(cè),它的標(biāo)注未必正確。
這篇文章就是用強(qiáng)化學(xué)習(xí)來解決這個(gè)問題。之前也有一些方法是基于multi-instance learning 的方法來做的。
這樣做的局現(xiàn)性是不能很好處理句級(jí)預(yù)測(cè)。
基于以上不足,我們?cè)O(shè)定了新模型。包括兩個(gè)部分: Instance Selector 和 Relation Calssifier。
這個(gè)模型有兩個(gè)挑戰(zhàn),第一是不知道每句話的標(biāo)注是否正確‘;第二個(gè)挑戰(zhàn)是怎么將兩個(gè)部分合到一塊 ,讓它們互相影響。
Instance Selector 和 Relation Calssifier 的結(jié)構(gòu)圖
在Instance Selector中的“狀態(tài)”就表示為,當(dāng)前的句子是哪一句,之前選了哪些句子,以及當(dāng)前句子包含的實(shí)體對(duì)兒。
Relation Classifier 是直接用了一個(gè)CNN的結(jié)構(gòu)得到句子的表示。
模型訓(xùn)練步驟
實(shí)驗(yàn)部分關(guān)于數(shù)據(jù)集和baseline來源
總結(jié)
我們提到一個(gè)新的模型,在有噪聲的情況下也能句子級(jí)別的關(guān)系分類,而不僅僅是bags級(jí)別的關(guān)系預(yù)測(cè)。
第二個(gè)任務(wù)
任務(wù)背景
如果做一個(gè)句子分類,首先要給句子做一個(gè)表示 ,經(jīng)過sentence representation得到句子表示,把“表示”輸入分類器中,最終就會(huì)得到這個(gè)句子屬于哪一類。
傳統(tǒng)的sentence representation 有以下幾個(gè)經(jīng)典模型:
bag-of-wordsCNNRNN加入注意力機(jī)制的方法
以上幾種方法有一個(gè)共同的不足之處,完全沒有考慮句子的結(jié)構(gòu)信息。所有就有第五種 tree-structured LSTM。
不過這種方法也有一定的不足,雖然用到了結(jié)構(gòu)信息,但是用到的是需要預(yù)處理才能得到的語法樹結(jié)構(gòu)。并且在不同的任務(wù)中可能都是同樣的結(jié)構(gòu),因?yàn)檎Z法都是一樣的。
所以我們希望能夠?qū)W到和任務(wù)相關(guān)的結(jié)構(gòu),并且基于學(xué)到的結(jié)構(gòu)給句子做表示,從而希望能得到更好的分類結(jié)構(gòu)。但面臨的挑戰(zhàn)是我們并不知道什么樣的結(jié)構(gòu)對(duì)于這個(gè)任務(wù)是好的,我們并沒有一個(gè)結(jié)構(gòu)標(biāo)注能夠指導(dǎo)我們?nèi)W(xué)這個(gè)結(jié)構(gòu)。但我們可以根據(jù)新的結(jié)構(gòu)做出的分類結(jié)果好不好從而判斷這個(gè)結(jié)構(gòu)好不好。
這個(gè)任務(wù)同樣可以建模為強(qiáng)化學(xué)習(xí)問題,用強(qiáng)化學(xué)習(xí)的思想來解。同樣的,在這個(gè)任務(wù)中的reward也是有延遲的,因?yàn)樾枰颜麄€(gè)結(jié)構(gòu)都學(xué)到后,才能得到句子的表示,才能用句子的表示做分類,中間的過程是不知道這個(gè)結(jié)構(gòu)是好的還是不好的。
實(shí)驗(yàn)部分的數(shù)據(jù)集來源
實(shí)驗(yàn)的分類結(jié)果;最后兩行是我們的方法。
總結(jié)
在這個(gè)工作中,我們學(xué)習(xí)了跟任務(wù)相關(guān)的句子結(jié)構(gòu),基于句子機(jī)構(gòu)得到了不同的句子表示,并且得到個(gè)更好的文本分類方法。我們提出兩種不同的表示方法,ID-LSTM和HS-LSTM。這兩個(gè)表示也得到了很好的分類結(jié)果,得到了非常有意思的和任務(wù)相關(guān)的表示 。
雷鋒網(wǎng)提供視頻直播回放,如果對(duì)文中有不清楚的地方,可點(diǎn)擊觀看視頻 :http://www.mooc.ai/open/course/318。
中南大學(xué)和清華大學(xué),哪個(gè)比較好
你還不如死了算了,活在世上浪費(fèi)糧食
清華大學(xué)和北京大學(xué)哪個(gè)好
其實(shí)各有優(yōu)勢(shì),北大文、理都排全國第一,清華工科第一。但是因?yàn)槿缃竦目萍家I(lǐng)世界發(fā)展,使得易拿經(jīng)費(fèi)的工科清華發(fā)展進(jìn)步很快。在學(xué)習(xí)上,北大學(xué)生保持學(xué)霸的狀態(tài)下更加喜歡蔡元培先生的主張,并且對(duì)隔壁的書呆子做法比較不屑,了。而清華作為當(dāng)年的旅美學(xué)校發(fā)展而來,自然對(duì)于出國是情有獨(dú)鐘的,并且留在國外的也絕對(duì)冠絕全國。在對(duì)全國高精尖人才的培養(yǎng)上,兩者各有風(fēng)格,也往往比較好的互補(bǔ)。只要能去上,有能力去讀,那都是夠牛逼的。出人頭地的方式很多種,但是這兩個(gè)學(xué)校的概率和比例要高出很多。
有哪些好句子
【第1句】:某天,你無端想起一個(gè)人,她曾讓你對(duì)明天有所期許,但是卻完全沒有出現(xiàn)在你的明天里。
【第2句】:我淋過最大的一場雨,是那天你在烈日下的不回頭?!镜?句】:如果你真的非常喜歡過一個(gè)人,就會(huì)知道,要真心祝福她跟別人永遠(yuǎn)幸??鞓?,根本是不可能的事。
【第4句】:少年時(shí)代的歲月,即使擁有相同的過去,記憶最深的細(xì)節(jié)也會(huì)出現(xiàn)趣味性差異,那就是7屬于每個(gè)人的,不會(huì)重復(fù)的時(shí)光。
【第5句】:“人生總是那么痛苦嗎?還是只有小時(shí)候是這樣?”
“總是如此?!?/p>
【第6句】:一直以為我跟他不一樣,原來寂寞的時(shí)候,所有的人都一樣。
【第7句】:其實(shí)愛情是有時(shí)間性的認(rèn)識(shí)太早或太晚都是不行的,如果我在另一個(gè)時(shí)間或空間認(rèn)識(shí)她,這個(gè)結(jié)局也許會(huì)不一樣?!镜?句】:我想成為一個(gè)溫柔的人,因?yàn)樵粶厝岬娜四菢訉?duì)待,深深了解那種被溫柔相待的感覺。
【第9句】:我也喜歡,當(dāng)年喜歡著你的我。那時(shí)候的我,簡直無時(shí)無刻都在發(fā)光呢。
有哪些好句子
和你分享一下我珍藏的七月手寫版、詩意與美感富集的好句子,希望您有時(shí)間能夠靜下心來細(xì)細(xì)品味。
【第1句】:我有一碗酒,可以慰風(fēng)塵。
【第2句】:愿你的眼中總有光芒,活成你想要的樣子。
【第3句】:我渴望一生被人收藏好,妥善安放,細(xì)心保存。免我驚,免我苦,免我四處流浪,免我無枝可依。
【第4句】:行走在路上,與所有人微笑,卻只想與你相遇。
【第5句】:時(shí)間也需要沒用的東西,如果一切事物都必須有其意義,會(huì)讓人喘不過氣來。
【第6句】:穿山越海,哼你的歌,踏浪飄帆,忘記你,更忘記我。
【第7句】:有人信你,有人陪你,有人等你。
【第8句】:苦非苦,樂非樂,只是一時(shí)執(zhí)念罷了。執(zhí)于一念,將受困于一念,一念放下,會(huì)自在于心間。
【第9句】:容我做個(gè)長夢(mèng),醒來黃歷堆成山,張張都是萬事大吉。
【第10句】:你最可愛,我說時(shí)來不及思索,但思索之后,還是這樣說。
【第11句】:可遇不可求的事,后海有樹的院子,夏代有工的玉,此時(shí)此刻的云,二十來歲的你。
【第12句】:我沒有生來勇敢,天賦過人,面對(duì)人山人海,只剩一些誠懇。
【第13句】:我選擇一條不那么好走的路,是因?yàn)橄胫飞蠒?huì)遇到你。
【第14句】:有些時(shí)候,失去才是平常,而得到只是幸運(yùn)。
【第15句】:你知道我想說什么嗎?你只知道我說了什么。
【第16句】:我的心事蒸發(fā)成云在下雨,卻舍不得淋濕你?!镜?7句】:走過多少辜負(fù),雨打芭蕉哭成狗,總有一個(gè)終點(diǎn),滿處花開是人間。
【第18句】:我們都需要一個(gè),愿意陪你的人,不需要那么多承諾,給一個(gè)適時(shí)的擁抱,噓聲后安靜地與你走完一生的人。
【第19句】:與君初相識(shí),猶如故人歸。
【第20句】:余生很長,你一定要來。
圖片來源于網(wǎng)絡(luò)。
清華大學(xué)附近怎么逛比較好
我被冰清這個(gè)老娘們兒限制不能發(fā)言了,可能它怕我了,讓我來介紹一下,它在美國原來是賣有機(jī)食品起步的,聚了人氣后改賣轉(zhuǎn)基因,大家都知道美國是嚴(yán)謹(jǐn)轉(zhuǎn)基因當(dāng)主食的,一個(gè)已經(jīng)是美國人的它天天嚷著讓國人吃轉(zhuǎn)基因,無非是轉(zhuǎn)基因集團(tuán)給它的豐厚報(bào)酬,而且它仇視中國人。知道它底細(xì)的人都知道。與方肘子及他的老婆懷疑探索者、司馬夾頭等沆瀣一氣,為利益出賣良知,是標(biāo)準(zhǔn)的漢奸賣國賊。
清華大學(xué)好還是復(fù)旦大學(xué)好?為什么
清華大學(xué)好,還是復(fù)旦大學(xué)好?哪一個(gè)瘋?cè)嗽禾映龅募一镌诖税l(fā)問?此外此人還提問了武大、浙大、南大等校,這是貶低清華抬高他校還是挖苦他校呢?用心險(xiǎn)惡!
認(rèn)為復(fù)旦可以與清華齊名者,只能是以復(fù)旦的局部優(yōu)勢(shì),以偏概全地看待問題!
清華好,不是一切都好,不是所有獲獎(jiǎng)都是第一,不是所有學(xué)科都是A+!
如果以某校的A檔、B檔學(xué)科,與清華的C檔學(xué)科作比較,全國有多少9【第85句】:211超過清華?單獨(dú)地比眉毛、鼻子、嘴巴,有些丑女未必沒有勝處,她們是美女嗎?
不說比學(xué)校的某一方面,籠統(tǒng)地比學(xué)校,不比綜合實(shí)力比什么?清華北大屬于第一檔,華五屬于第二檔,這是不爭的事實(shí),不容否認(rèn)!
至于有些上海人不喜歡清畢,喜歡復(fù)旦,也許是清華的某專業(yè)比不上復(fù)旦,并非是學(xué)校的整體實(shí)力清華在復(fù)旦之下!難道清華在上海的招生分?jǐn)?shù)線比復(fù)旦還要低嗎?怎能自圓其說?
還有些上海人看全國,都是農(nóng)村,能說明什么呢?上海好幾所高校都不錯(cuò),但在外地招生人數(shù)很少,分?jǐn)?shù)線自然高!
如果把清復(fù)看作同一檔次,那么其它學(xué)校就有理由看成和復(fù)旦同一檔次,至少華五各校與清華同一檔次了,怪不得此搞笑的提問者一下子用好幾個(gè)學(xué)校與清華相比呢!原來他們有同樣的思維!
清華大學(xué)的本科生比研究生好嗎
肯定好啊,研究生都是本科生淘汰下去的學(xué)渣,怎么可能和本科生比。
清華大學(xué)好還是浙江大學(xué)好
無論是從國內(nèi)的名氣還是從世界上排名來看,肯定都是清華大學(xué)比較好一些。按照2024年QS世界大學(xué)排名來看,清華大學(xué)排名全球17名,而浙江大學(xué)排名僅是87名,二者相差還是比較大的。并且在國內(nèi)大部分人對(duì)清華大學(xué)的認(rèn)可度還是高于浙江大學(xué)的,當(dāng)然也存在部分人認(rèn)為浙江大學(xué)比較好。
從我個(gè)人的看法來說,學(xué)校沒有絕對(duì)的好,也沒有絕對(duì)不行的學(xué)校,主要還是要看專業(yè)。并且一個(gè)學(xué)校的發(fā)展靠的是教育資金的投入,清華大學(xué)的經(jīng)費(fèi)還是高于浙江大學(xué)的,當(dāng)然浙江大學(xué)也是很不錯(cuò)的一所重點(diǎn)大學(xué)。
就拿第四輪學(xué)科評(píng)估來說吧,清華大學(xué)共有21個(gè)學(xué)科評(píng)為A+檔,8個(gè)學(xué)科評(píng)為A檔,8個(gè)學(xué)科評(píng)為A-檔。浙江大學(xué)11個(gè)學(xué)科評(píng)為A+檔,11個(gè)學(xué)科評(píng)為A檔,17個(gè)學(xué)科評(píng)為A-檔。整體來看還是清華大學(xué)高層次的學(xué)科要多一些!
歡迎關(guān)注:考研在大學(xué)
您的關(guān)注、點(diǎn)贊就是對(duì)我最大的鼓勵(lì)和支持!
你收藏過哪些經(jīng)典的好句子
【第1句】:欲望以提升熱忱,毅力以磨平高山。
【第2句】:拿望遠(yuǎn)鏡看別人,拿放大鏡看自己。
【第3句】:把你的臉迎向陽光,那就不會(huì)有陰影。
【第4句】:明天的希望,讓我們忘了今天的痛苦。
【第5句】:人的價(jià)值,在遭受誘惑的一瞬間被決定 。
【第6句】:世上最累人的事,莫過於虛偽的過日子 。
【第7句】:留著一個(gè)號(hào)碼,不過是為了守候—個(gè)人。
【第8句】:生活不是電影,不會(huì)有那么多的不期而遇。
【第9句】:愚者用肉體監(jiān)視心靈,智者用心靈監(jiān)視肉體。
【第10句】:再美好也經(jīng)不住遺忘 ,再悲傷也抵不過時(shí)間。