Datawhale優(yōu)秀助教團(tuán)隊(duì)
共 7432字,需瀏覽 15分鐘
·
2024-07-30 23:33
Datawhale團(tuán)隊(duì)
團(tuán)隊(duì):Datawhale優(yōu)秀助教
「運(yùn)營(yíng)助教」
「專業(yè)助教」
學(xué)習(xí)的引導(dǎo)者,和學(xué)習(xí)者的榜樣
01
廈門大學(xué) 霍瀟瀟
02
賓夕法尼亞大學(xué) 韓非江
Datawhale AI夏令營(yíng)給我?guī)?lái)了寶貴的成長(zhǎng)經(jīng)歷。從第一期大模型賽道的學(xué)習(xí)者,到第二期機(jī)器翻譯賽道的專業(yè)助教,再到第三期參與部分教程的創(chuàng)作,我逐步從學(xué)習(xí)者轉(zhuǎn)變?yōu)樨暙I(xiàn)者,希望為開(kāi)源學(xué)習(xí)社區(qū)貢獻(xiàn)自己的力量。作為助教,我需要在學(xué)習(xí)者的基礎(chǔ)上進(jìn)行更深入的思考和實(shí)踐,以解答其他學(xué)習(xí)者的疑惑。這種深入的思考給我?guī)?lái)了比單純作為學(xué)習(xí)者更多的收獲。具體而言,我將夏令營(yíng)帶給我的收獲分為三類:
1. 多樣的下游任務(wù)促進(jìn)了我對(duì)同一種理論的深入思考。作為一個(gè)AI方向的研究者,我選擇了和我目前研究方向接近的賽題(NLP、LLM)。通過(guò)在不同下游任務(wù)中驗(yàn)證之前學(xué)習(xí)過(guò)的理論、模型、技巧,我積累了一些直觀的經(jīng)驗(yàn)(例如同一種模型有不同的適用場(chǎng)景;深度學(xué)習(xí)并不總是比傳統(tǒng)機(jī)器學(xué)習(xí)好;Transformer訓(xùn)練很難還容易訓(xùn)不好;大模型高額開(kāi)銷一般實(shí)驗(yàn)室做不起;大模型不適合做回歸任務(wù)......)。此外我也鍛煉并積累了許多工程經(jīng)驗(yàn),例如處理數(shù)據(jù)、微調(diào)大模型,解決模型不收斂問(wèn)題等。這些實(shí)踐經(jīng)驗(yàn)的積累比單純通過(guò)書本學(xué)習(xí)知識(shí)更為珍貴。(不要驚訝,我只參加了兩期夏令營(yíng),真的干貨滿滿?。?/p>
2. 成為助教讓我有更多動(dòng)力學(xué)習(xí)新知識(shí)。其實(shí)我之前研究領(lǐng)域的并不是NLP,因此也沒(méi)有動(dòng)力深入學(xué)習(xí)Transformer這些經(jīng)典模型。不過(guò)作為機(jī)器翻譯賽題的助教,為了回答其他學(xué)習(xí)者的可能的疑惑,我在開(kāi)營(yíng)前一周我就被“反向激勵(lì)”深入學(xué)習(xí)了Transformer/Mamba/KAN/RWKV。如果不是擔(dān)任助教,我可能暫時(shí)不會(huì)有如此強(qiáng)烈的動(dòng)力去學(xué)習(xí)這些知識(shí)。非常感謝Datawhale能無(wú)形中推動(dòng)我將原本用于刷視頻的時(shí)間轉(zhuǎn)化為提升自己的寶貴機(jī)會(huì)。
3. 跨領(lǐng)域的實(shí)踐讓我有了新的科研idea。我發(fā)現(xiàn)在其他賽道中使用的某個(gè)主流方法的實(shí)驗(yàn)結(jié)果非常差,而我目前研究的方向使用此方法也有類似的問(wèn)題(之前大家都使用這種方法)。因此我就針對(duì)這個(gè)問(wèn)題提出了一種新的方法來(lái)優(yōu)化,并成功解決了這個(gè)問(wèn)題(又能水一篇了嘿嘿^_^)。Datawhale AI夏令營(yíng)每期都會(huì)有多個(gè)賽道,如果時(shí)間和精力允許,我建議大家可以多參加幾個(gè),不同領(lǐng)域的實(shí)踐經(jīng)歷可能會(huì)激發(fā)新的思考和創(chuàng)新!
最后,我認(rèn)為無(wú)論是專業(yè)助教還是運(yùn)營(yíng)助教,都需要同時(shí)了解技術(shù)和運(yùn)營(yíng)。為了激發(fā)群內(nèi)參與者的活躍度,我們需要站在學(xué)習(xí)者的角度思考AI夏令營(yíng)的價(jià)值,并讓學(xué)習(xí)者相信認(rèn)真參與夏令營(yíng)能獲得足夠的收獲,包括有形的(如證書)和無(wú)形的(如知識(shí)、能力)。大多數(shù)同學(xué)可能是通過(guò)公眾號(hào)或朋友圈的宣傳而來(lái)報(bào)名的,他們希望通過(guò)夏令營(yíng)入門某個(gè)領(lǐng)域,提升自己的能力,或獲得證書和實(shí)習(xí)證明來(lái)豐富自己的背景。如果僅僅讓所有人按照完全相同的指南完成一系列任務(wù),可能會(huì)讓一些人感到失望(入門失敗了、對(duì)能力沒(méi)有提升……)。
為此,我們可以考慮在報(bào)名初期通過(guò)調(diào)查問(wèn)卷的方式統(tǒng)計(jì)參與者的預(yù)期目標(biāo),針對(duì)不同目標(biāo)的群體提供差異化的服務(wù),以激發(fā)他們的學(xué)習(xí)熱情。例如,對(duì)于想要入門的同學(xué),我們可以明確提供適合初學(xué)者的博客和網(wǎng)課資源鏈接;對(duì)于想提升能力的同學(xué),我們可以在后期組織上分交流會(huì),讓他們參與并分享,并評(píng)選出優(yōu)秀學(xué)習(xí)者;對(duì)于想獲得證書的同學(xué),我們可以讓他們直接與助教聯(lián)系并提出請(qǐng)求,重點(diǎn)關(guān)注他們的筆記和表現(xiàn)(當(dāng)他們做出最初的承諾后可能會(huì)表現(xiàn)得更加積極,從而帶動(dòng)整個(gè)群內(nèi)的學(xué)習(xí)氛圍)。
03
甘肅政法大學(xué) 陳輔元
04
桂林電子科技大學(xué)黃煜
首先,非常感謝Datawhale這次的夏令營(yíng)讓我有機(jī)會(huì)當(dāng)上專業(yè)助教,其實(shí)我也是第一接觸機(jī)器學(xué)習(xí)的比賽,作為一個(gè)小白,我確實(shí)沒(méi)辦法很多專業(yè)的的知識(shí)面上幫助到各位學(xué)習(xí)者,我只能盡我所能為大家的學(xué)習(xí)提供幫助和便利,調(diào)動(dòng)大家的積極性,在這里我非常感謝我的搭檔陳杰豪和李雨芹,他們強(qiáng)大的運(yùn)營(yíng)能力和高水平的專業(yè)知識(shí)讓我自愧不如,我只能努力向他們學(xué)習(xí),他們也教會(huì)了我很多運(yùn)營(yíng)和專業(yè)知識(shí),真的非常幸運(yùn)能和他們合作。還有賽道負(fù)責(zé)人孔婭妮,我犯了很多新手的錯(cuò)誤都是婭妮姐幫我糾正的,她還幫我們解決了很多問(wèn)題,真的非常感謝她。還有我們的學(xué)習(xí)者,是他們積極學(xué)習(xí)的氛圍感染了我,讓我真正入門了機(jī)器學(xué)習(xí),在這段時(shí)間我們一起學(xué)習(xí)、討論,也讓我領(lǐng)悟到夏令營(yíng)學(xué)習(xí)魅力所在,就是讓大家聚在一起,共同進(jìn)步。還要真心感謝Datawhale提供的這個(gè)平臺(tái),能讓我們這里相遇,一起學(xué)習(xí),一起進(jìn)步。最后,感謝大家,感謝所有努力進(jìn)步、熱愛(ài)學(xué)習(xí)的你。感謝!
05
桂林電子科技大學(xué) 蔣馨怡
06
北京工商大學(xué) 張宏博
07
河南師范大學(xué) 劉曉
08
青島濱海學(xué)院 張亞萍
09
太原理工大學(xué) 韓佳璐
10
吉林大學(xué) 陳麗群
AI夏令營(yíng)第二期 機(jī)器學(xué)習(xí)方向
掃碼或點(diǎn)擊閱讀原文可申請(qǐng)加入我們
