美國博士申請到人工智能行業就業之路訪談 | 原創,AI翻譯

Home 2025.09

來源:chatgpt.com

A: 李志偉,軟體工程師,專注於人工智慧與金融交叉領域。

B: 金海峰,軟體工程師,從事人工智慧基礎設施開發。

以下對話經過人工智慧進行文法校正與輕度潤飾。


目錄

  1. 攻讀博士的動機與申請流程
    • 主要目標是獲得美國工作機會
    • 透過助教或研究助理職位獲得博士資金支援
    • 相比碩士學位,獲得資助後成本更低
    • 需要大量聯絡教授以獲取錄取機會
  2. 博士學習與指導教授選擇策略
    • 更換指導教授需多花一年時間
    • 平衡教授產出能力與支持程度
    • 選擇時利用現任學生的內部資訊
  3. 研究、編程與職業目標
    • 編程能力對研究與業界工作至關重要
    • 博士畢業不一定需要發表論文
    • 開源專案能有效展示專業能力
  4. 美國就業市場與全球機會
    • 美國提供接觸頂尖技術專案的機會
    • 公司內部調動比應屆畢業申請更容易
    • 目前初階職位市場競爭激烈
  5. TOEFL、GRE與語言準備
    • TOEFL與GRE各考三次
    • GRE詞彙難度顯著高於TOEFL
    • 測試分數對多數大學申請已足夠
  6. 開源開發與AutoKeras
    • 開源專案應優先考量可用性而非創新性
    • 提早啟動專案增加成功機率
    • 有時需要重大重構以提升專案清晰度

攻讀博士的動機與申請流程

A: 我正在車上用兩部手機,使用澳門SIM卡。聽得清楚嗎?

B: 現在聽得很清楚,影片也很流暢。

A: 很好。如果網路不穩我們就關閉鏡頭。另外可以調高音量嗎?我這邊已經開到最大。我用第二部手機錄音以便轉錄。

B: 音量調高了。需要時關鏡頭沒問題。

A: 完美,謝謝!順便說,你看起來和我們多年前見面時一樣年輕。

B: 謝謝,那大概是六年前的2019年。

A: 不錯。可以打開我的網站 lzwjava.github.io 並分享螢幕嗎?

B: 好的,我傳到電腦上。需要授權分享螢幕——顯示主持者已禁用與會者螢幕共享。

A: 我調整Zoom設定允許所有人共享。再試試。

B: 現在可以了。正在共享。清楚嗎?需要放大嗎?

A: 很清晰。

A: 我剛才問了什麼…因為是朋友間對話,不用太正式。如果問題太簡單、重複過多,或能輕易透過Google/ChatGPT查到,我們可以跳過。我還沒比對你的相關知識,可能會遺漏資訊。從AI角度來看,提示工程的上下文可能不適合這個場景。所以你想分享什麼都可以,多說些也沒問題。好嗎?

B: 當然。

A: 好。首先,什麼動機促使你在美國攻讀博士?

B: 常被問到這個。首要動機是進入美國就業市場,為矽谷頂尖科技公司工作。這是我的首要目標。碩士學位也能達到目的,但博士通常有助教或獎學金,經濟負擔更輕——對家庭壓力較小。所以我選擇讀博而非碩士。我的目標和許多赴美讀碩的學生類似:在美國找到高薪工作。

A: 了解。我想延伸問:你的博士讀了幾年?總花費多少?

B: 我花了六年完成博士學位。標準是五年。我花了六年是因為約一年後更換了指導教授,所以需要重新開始五年。總共六年。

A: 首先是五到六年的學費,其次是生活費。

B: 如果獲得助教或研究助理職位,學費會全免。不需要支付任何費用,而且每月有薪資。我在鄉村地區工作,距離休士頓一小時車程的College Station,就讀德州農工大學。每月領2000美元,免學費。這足夠支付生活開銷,甚至能存點錢。許多人會做暑期實習賺更多。主要開銷在入學前:申請費、機票、首月租金和押金。這些需要預先支付。

A: 這部分花費大約10萬人民幣?夠嗎?

B: 我想想。10萬?夠的。我沒找中介機構,自己準備申請和寄送資料,省了不少錢。我花了約4萬人民幣。

A: 4萬。好的。如果找中介幫忙準備申請,多花5萬,就接近10萬了對吧?

B: 沒錯。我有個請求:可以打開iPhone的備忘錄錄音嗎?我手機在錄,但我這邊聲音可能不太好。你可以錄音,結束後傳送m4a檔案嗎?你用手機的話,可以打開並錄音嗎?

B: 好的,我看看怎麼用iPhone錄音。

A: 用語音備忘錄,按紅色按鈕就行。

B: 找到了。正在錄音。

A: 謝謝!有時我不小心停止錄音,丟失內容訪問就糟了。

B: 沒問題,我這邊也錄了,雖然只有我的聲音。

A: 沒關係,我的問題不重要。

A: 好,我了解學費和花費了。中介和DIY——你是自己處理的。第二個問題:你之前在北京林業大學,後來去了北郵(BUPT),參加ACM ICPC。分享一下你的決定。你在中國區域獲得銀牌?上下文是你在ICPC獲得銅牌。我記得你去北郵時是獎牌得主嗎?在去北京林業大學之前就已經很出色了嗎?你一直想出國?還是大學時的優秀成就促使這個決定?或者赴美前運氣好?我覺得你避開了很多麻煩,很聰明。攻讀博士前的經歷如何影響你?

B: 首先,去北京林業大學前我對出國一無所知。入學後,看到很多同學準備GRE,計劃出國讀碩。我覺得有趣但沒決定,直到ICPC獲得銅牌。我需要找下一個職業目標。我已經實現了剛入大學時的計劃——拿到獎牌。研究後發現出國留學是很好的選擇,主要是作為找到好軟體工程工作的途徑。所以我決定透過留學找好工作。

A: 銅牌是大三獲得的?

B: 大三。

A: 這裡第三點。我記得你去了北京通信大學讀碩,然後回北京林業大學302房間,我們第一次見面在那裡。

B: 對,你那時記得我應該還沒有銅牌。

A: 記得那天嗎?你回北林處理事情,參觀302研討室。你回來那次。那個夏天你剛畢業,我也去了北京林業大學。那個廟,哦,不錯。

B: 真厲害,你記得好清楚。

A: 我只是記錄下來。你不只一次回來;可能處理GPA什麼的。有時回來兩三次。讀碩後你還偶爾回本科大學處理GPA?不,我的GPA。推薦信?我不確定。

B: 抱歉,問題是什麼?根據我的記憶,你去北京通信大學讀國家項目後,還有時回北京林業大學。

B: 對,是的。

A: 為什麼回去?

B: 為了玩,你知道嗎?有編程比賽和社團招新。主要是為了玩——和博士申請無關。就是玩。

A: 碩士讀了兩年還是三年?

B: 碩士應該是三年,但我在第二年末去了德州農工大學。碩士和博士重疊了一年。我在兩年內修完所有課程和學分,所以第三年不需要在北郵校園。

A: 所以你是2016或2017年左右去的美国?

B: 2015年。

A: 2015年,真早。你2020或2021年左右畢業?

B: 對,2021年。

A: 了解。我去過美國兩次。一次是早些時候,三月左右,去了矽谷。第二次2017年,去了幾個地方如矽谷、西雅圖、紐約和尼亞加拉瀑布。沒見到你,雖然試過。

B: 對,我記得你在拉斯維加斯時發生了大规模枪击案,對吧?

A: 沒錯。剛下飛機,機場電視…我去了附近酒店。那時槍手還沒找到,但我好奇去了枪击案附近100-200米。警察讓我回去,因為他們忙著抓槍手。人們在哭。有個中國籃球隊員在那。桌子亂了,人們哭著打電話。酒店裡到處是槍聲。很震驚。你不知道槍手在哪;可能就在隔壁房間。很多警察。瘋狂。晚上我在酒店開著燈。終於到酒店後開著燈。槍手?不,不好玩。很難睡,很害怕。那時你在德州農工大學。

B: 對,對。

博士學習與指導教授選擇策略

A: 可以公開分享嗎?如果換導師不是很好的事,可以避開這問題。能分享換導師的原因嗎?我覺得如果你想回顧決定,換導師花了一兩年時間。如果沒其他選擇,但如果更仔細選導師,就不需要換。所以我覺得換導師的原因對赴美的人很重要,對吧?

B: 對,很重要;絕對值得學習。主要原因是當時選導師的標準不聰明。在北郵時,看到很多教授逼學生很緊,學生做研究和畢業很難。我從不想找那樣的教授,所以我的標準是找好人——這是首要標準。我和幾個教授談過,選了最友善的那位,她是我第一個導師。

問題是那位教授一年左右後不想維持實驗室了。我不確定為什麼。她對我說的是希望我追求真正興趣的,但我覺得真實原因是她覺得維持研究實驗室太工作量。她超級友善但也不…當一個人超級友善從不推學生,他們可能也不努力。她覺得太工作量,讓所有人換導師。所以我換了另一個導師。我學到:需要平衡。不只找最友善的教授;看他們是否有效率。理想是找對學生好又努力有效率的人。如果不能,試著平衡兩者,不只優化一個。

A: 好,我覺得這也很難事先知道,對吧?

B: 對。只能從他們的發表記錄和面試試著判斷。如果你認識實驗室的人,可以直接問。

A: 這關於幾件事:整體觀察多友善、多逼人、生產力。所以那位教授很友善、有才華,但可能生活輕鬆,所以工作沒進行,她感到壓力大,決定關閉實驗室,對吧?

B: 對,這是我的理解。她沒親自說;是我的理解。

A: 這個調整發生在你加入德州農工大學兩年後,對吧?

B: 一年後。所以這是…

A: 這些調整發生得早。

B: 對。

A: 有什麼差別?加入一年後找新導師,更容易找嗎?還是依然難找?

B: 第二個在大學裡容易得多。你有更多資訊找合適導師——所有潛在導師的個性。你可以選對的,也可能知道他們選學生的要求。所以很可能選對導師並知道如何通過面試加入實驗室。

A: 好。我想回顧核心和節奏。今天多久?在你公司,還是中午休息?你能談一小時或半小時或10分鐘嗎?我…

B: 我還有約半小時完全空閒。今天是勞動節,假日。

A: 好,是假日。你還有半小時。好,我們快一點。同樣流程:我有筆記要做。後面有推薦,可能兩三個,然後GPA,然後TOEFL分數,然後GPA,然後認可。然後你聯絡導師教授,然後申請獲錄取信,接受,然後可以用那個辦移民或F簽證,辦所有事,然後你可以去,對吧?專業是什麼?會議可能因某些原因結束…我會設新的。好,當然。如果結束,我會設新的。現在還能談。

B: 我可以簡要講如何準備申請,如何獲取。我沒用任何中介。主要自己寫所有東西,用了淘寶上的英文修改或寫作幫助服務。他們幫我修改信件。我也買了些廣泛使用的服務…我相信他們有些受歡迎的調查可用。基本上,我自己寫所有東西,請人幫忙修改,比全中介服務便宜。簽證,我只填了所有表格並寄出文件。那些簡單。如果想省錢,有方法,但我覺得不需要用那些;沒什麼大不了的。主要開銷是申請費,無法避免。

A: 一所大學的申請費約100或200,對吧?約100或200。

B: 對,我相信約50到150。

A: 50到150,好。

B: 我填了所有表格並寄出文件,但依然沒收到很多大學回音。所以我開始聯絡教授。回覆率很低。博士申請必須這樣做。當你完成文書工作並寄出,需要聯絡教授。我的回覆率是:發10封電郵,收到一回覆。其中接受率10%。所以所有發出的電郵,1%接受率——那位教授對與我工作有興趣。必須發很多電郵,除非有關係。對我來說難主要是因為沒選對申請大學列表。我只申請了很好的大學,所以聯絡教授很難。如果正確估計能獲錄取的大學,不需要發那麼多電郵。

A: 你是說你該選德州農工大學等級的大學。你也選了很多如斯坦福、MIT。你高估了自己;以為努力就能去頂尖,但從教授角度,你普通、一般。他們看到很多好人才,所以選擇標準高。

B: 我高估了自己,因為我問建議的人像你——當我試著申請博士時,問了很多我認識職業或申請很出色的人。他們都超級有才。當我給他們看我的列表,他們沒說我高估自己,因為他們準備列表時覺得剛好。他們從不覺得自己不夠好,所以無法評估列表是否適合我。當你尋求建議,總是問比你强的人,這引入了偏向更好大學的偏差。所以我高估了自己。不要100%接受任何人建議;看自己的情況做正確決定。

A: 好,了解。所以我想快轉:以上博士或首先博士申請。如果你現在做,如果你現在…你覺得可能我的情況不同:北京林業大學輟學,現在拿副學士學位,像在中國消失10年。但如果你現在在北郵碩士項目 again,有你的背景,你會修正什麼?三點或很短五點你會做得更好?你會怎麼做?

B: 你可能負擔得起北郵項目。

A: 如果你現在,回到10年前。

B: 我如何更好準備博士?

A: 對,你會如何選擇路線?我們說幾件事:一,更聰明選導師。二,選中階或德州農工或以下等級,更廣範圍,不只頂尖。那是不必要的努力,對吧?你會加什麼其他點?

B: 沒太多。最好情況是直接認識已在博士項目的人。從他們獲取任何教授的資訊;那會超級有幫助。我盲目申請沒有任何指導或內部資訊,所以超級難。我必須申請很多大學。如果你知道哪個實驗室招聘和實驗室情況,不需要申請很多;可以專注幾個機會最高的。那會幫助集中努力。取決於你的情況;我那時不認識任何博士項目的人,但現在資訊更容易獲取。任何現在申請的人可以試著獲取更多資訊。

A: 好,了解。

A: 嗨,嗨,嗨。

B: 對,那是持續討論。

研究、編程與職業目標

A: 第二部分:既然你享受編程,關於這個人的音頻。你什麼時候想過關鍵轉換模式?你得到三個。既然你享受編程多過寫論文,你如何平衡?我覺得你在公開資訊提過不喜歡論文,但後來你做了AutoKeras。做AutoKeras幾年,你實際上寫了很好的論文。所以你最終寫了很好論文,但你用了…所以故事是那樣。你如何看待論文和編程?你的興趣在博士旅程中如何轉換?

B: 編程或軟體工程一直重要。它會幫助你在研究、求職或後續職業。寫論文,你需要做對的主題和有對的研究方式,受同儕和導師影響——你所在的環境。我不覺得我在研究上做得很好,主要是因為我沒有激情成為研究主題的超級明星。我沒有像許多其他博士申請者或學生那樣的夢想。我的目標一直是在美國找到高薪工作。論文會幫助,但只是整體評估的一方面。我不在乎發表超級棒論文;我更在乎如何進入大公司。我不覺得任何博士學生需要太擔心論文發表。只要你是好學生,能完成基礎課程,知道如何編程,理解邏輯、推理、如何寫作,你能滿足畢業要求。你不必超級熱情或超級擅長寫研究論文來畢業。

A: 你也做開源專案;那可以讓你逐漸寫作,不需要非常高的論文標準,對吧?

B: 對德州農工,我不覺得有硬性發表要求。任何導師認為能畢業的人都能畢業。當然,他們需要通過答辯,但通常委員會同意導師。基本上,是導師的決定;沒有硬性要求。

A: 你的博士論文是關於AutoKeras。

B: 大致上,但AutoKeras絕對是最重要部分。

美國就業市場與全球機會

A: 好。我的IELTS分數是6,對吧?2022年,我的IELTS分數是6。現在三年過去,我工作、學習、用英文。這是我的情況。我在北京林業大學讀一年後輟學。現在從廣東外語外貿大學通過九門課,主修計算機科學。我還需要七門課——四門是計算機科學,如線性代數或基礎電子學。我还有七門課未通過。我在中國消失約10年,作為合約工程師為星展銀行、滙豐銀行工作,金融項目。我也有自己的新創公司,做了一些iOS/Android工程。你覺得我必須完成副學士學位嗎?我有副學士學位,不是學士。我有兩種方式。你會如何建議?我想送目的和你去不是美國,而是香港、新加坡、英國工作。我想在海外工作享受網路自由。我想帶家人出去。你建議什麼方式?

B: 如果你走我的路——申請海外碩士或博士項目然後找工作——任何碩士或博士項目需要學士學位。你可以再確認。這條路越來越難;太多人申請,越來越競爭。對美國前50或100大學,很多學生來自中國大學,填滿錄取。

另一種方式是在工作中調動。例如,如果你在中國為亞馬遜或谷歌工作,有機會可以調到其他國家。這可能更容易,因為你已經證明能創造價值。你在公司內更暴露於機會。更合適因為碩士/博士項目太看重背景;你可能沒有優勢與他人競爭。最重要的是,當你畢業碩士項目,現在應屆畢業生在美國找超級難。

A: 我不知道,因為我不在美國。我聽說有些難度,但不…你說超級難。

B: 我幾年沒申請應屆畢業工作,所以不真正知道現在就業市場。據我所聽,超級難。入門級工作是中高階。那些用AI的很真實,受歡迎。延遲,程式工程師受歡迎。還有初學者,人們現在更明智像AI。如果你做AI研究或AI工程師或非常硬核,人們變成…美國剩下的公司相當挑剔因為他們失敗;他們10年前開始。所以雇主明智接受非常高標準。

B: 對,也因為經濟。每個公司試圖降低成本,包括員工薪酬和人數招聘。

A: 我也觀察到,像一些銀行,他們在中國增加一些職位但削減新加坡/香港職位因為高薪。最近,很多企業關門因為COVID和肥胖模式現在不行。好。另一個:很多次你會考TOEFL和GRE。你考過IELTS嗎?我也。

TOEFL、GRE與語言準備

A: 你考了TOEFL和GRE嗎?各考了幾次,分數多少?

B: 我只考了TOEFL和GRE,各三次。TOEFL第一次92,最好107。GRE第一次315,最好326。

A: 每次考試花多少錢?對最初分數失望嗎?

B: TOEFL每次約1500人民幣。對TOEFL92不太失望;對很多申請足夠,但我想要更高分。

A: 每次嘗試間隔多久?

B: 我每年考一次,持續三年,從大學第三年到碩士期間。

A: 還有,你去美國,能聽懂所有英文課?口說和聽力,日常使用,你實際上如何學英文?

B: 沒幫助。大學對美國日常生活幫助不大。某種程度上幫我通過助教考試——在我能獲助教工作前的口說測試。否則,你可以當研究助理。對於修課,理解講座,我不覺得TOEFL幫助那麼大。它設計來幫助,但相比實際大學講座太簡單。

A: 基本上,你是…我的IELTS像6,分數左右。根據你現在對我的水平理解,與你溝通,我能達到100分嗎?

B: 能,我覺得100不難達到。你絕對可以。

A: 謝謝。博士第一年如何?非常難,對吧?英文,新環境,有點難?

B: 對。我幾乎丟了助教工作因為犯了錯。我去面試請人代課,但我的方式不恰當。教授覺得我沒做好。我經歷麻煩繼續工作,但最終沒事。一個教訓:必須對任何指派工作格外負責。人們很在乎;如果沒做好會有後果。

A: 好,了解。難度:你覺得GRE難度是 double 或一半?

B: 不同方面。TOEFL主要評估英文。GRE詞彙絕對比TOEFL難 double。數學部分更容易;好中國學生不會覺得難。但詞彙、推理、寫作絕對比TOEFL難 double。

A: 好,所以基本上TOEFL、GRE是英文和數學,對吧?

B: 對。英文部分主要是推理、閱讀理解,衡量邏輯理解。

A: 關於動機:我覺得你經歷這麼多麻煩讀博士,沒問題。我想說:我認識周遭的人,朋友,主持我的新創Fun Live。他分享iOS知識。他約20年前畢業,那時學習。

他有同學也是北京師範大學畢業。同學去美國,西雅圖,在微軟北京辦公室工作10或五、八年,然後調到西雅圖。他得了病,癌症或什麼,死在那裡。他去美國只一兩年就死了。有些新聞關於人們去美國並抑郁。但很多人,大多數,生活很好。

我的問題是:現在我認識工程師,我可能擅長代理。所以資訊,我覺得你和我的可訪問性差別不大。我的Apple Store美國賬戶,開源,所有app我安裝約500個app。為什麼我走你的路?你覺得你的美國選擇長期來看。如果你活在1970或1980年代,我覺得你去美國的努力超級值得因為有更多錢。你可以做新創,做好事,有更多自由。你活在美國,有很多便宜中國產品。

我住在廣州,作為滙豐合約工,基于本地標準高薪工作。為什麼我旅行?如果我花接下來三年專注這首要事,除了工作,所有休閒時間做這個,考慮最好道路。為什麼我們都去美國?這東西開源,GPT雲端好。你去那裡,但也像在中國,騰訊,很多人年薪百萬以下。所以,我的問題:你曾想過從不後悔?不後悔。我覺得你生活很好,恭喜!你快樂去美國,對吧?對普通中國年輕人,值得去美國嗎?

B: 如果你的目標是接觸最好技術,絕對推薦去美國。除非你在中國最好團隊之一,如DeepSeek或做豆瓣或中國最好產品,那絕對不需要。但據我理解,進這些團隊超級競爭。即使與他們交談,我覺得他們招聘標準非常高。去美國是好方法讓你在較不競爭環境。你可以接觸更好專案。

在中國,很多好人才競爭少數好專案。好專案對競爭人才比例在美國高得多。有很多好專案:Gemini、OpenAI、xAI。好公司,但矽谷人才數量不如中國多。只是競爭職位的人數——比例在矽谷高得多,意味你能接觸更好專案。另一方面:很多人移居美國在乎錢。我不覺得在中國 vs 美國工作有大差別因為美國服務和商品更貴。即使賺三倍更多,只能買類似服務、食物、商品。

實際差別在工作時數。在美國,你可以工作更少時數負擔相同生活品質。你絕對用時數交換那服務。這對職業重要因為長期來看,任何人需要轉換職業。例如,我畢業專精自動化機器學習,但現在轉向機器學習系統,更近硬體編譯器。軟體工程是我的核心技能。這種轉換未來會再發生。我們總需要轉換,為此需要更多自由時間準備。在美國,你有更多空閒時間,這至關重要。

A: Pivot,怎麼拼?抱歉。

B: P-i-v-o-t。Pivot轉換。

A: 好,了解。未來,你想做ML系統。我也看到有人說美國是輕鬆生活,他們回中國像王興,美團創始人,和TDEngine,時間序列數據庫創始人。他回去了;他20年前在美國摩托羅拉,回北京,開始幾個新創,現在做開源TD engine,可能財富值千萬或更多。他能旅行美國或全球討論生意。所以,你長期計劃是什麼?只是來中國度假?或考慮以後回中國長住。

B: 兩種都可能。主要決定因素是中國整體生態系統。如果有更多新創公司,公司技術做得好,那絕對可能搬回。現在有幾個好的:華為、大疆、泰勒,還有媽媽像TikTok。幾個好的。如果整體生態系統變得和美國一樣好,我會考慮為職業目的搬回。

A: 你做ML系統,對吧?所以做編譯器,做ML深度輔助,好?

B: 對。

A: 對我的背景,像10年,三四年企業,三年自由職業。我也享受全端像五六年,兩年機器學習。我做GPU,從Coursera拿到兩個證書。在我的背景,你為什麼覺得ML系統最適合你?我也找我的下一個最近。我對用雲端持有人很多做編程和學習非常興奮,像一個月,一百萬代碼,幾個電腦app。所有開幾個雲端持有人實例或OpenAI的Codex看能產出多少代碼。這是我作為工程師最興奮的。

在我的背景,如果我做AI研究去DeepSeek或TikTok,非常現實,可能需要更多時間。如果我從AI軟體和代理開始,做有些編譯器知識分析程式,提供上下文。最近,我也做些工作用Spring過濾器記錄所有需求HTTP要求並寫測試案例——像五分鐘我能生成100測試案例。有點改進。有些提示工程,JSON截斷為上下文限制。你現在對我有什麼建議?如果我做AI模型研究,我只有4070 GPU。可能我能有兩個GPU?你有多少GPU訓練?你有10非常 fancy,100 GPU為更大模型訓練?

B: 我不自己做訓練。我主要做系統;研究員做訓練。我沒有GPU訪問;我主要用它們測試,不需要很多GPU。

A: 測試想法只需一個GPU好,也在雲端。你用互聯網,或也Google雲端為一。

B: 我都用。

A: 都,然後。工作環境,需要測試太。

B: 對。

開源開發與AutoKeras

A: 所以對我,像食物,食物像工程,主要10年全端,只一年一點機器學習,消失。你建議我接下來五年做什麼?

B: 進入AI絕對足夠。AI技術堆疊任何東西——應用、硬體——做AI相關重要因為就業市場清晰趨勢:公司解雇其他領域的人並招聘AI。絕對做AI相關。但進入這領域難;開始職業 here 難。我建議從應用開始因為需要缺陷 Ortiz 在硬體編譯器框架或建模或數學。只需理解應用、客戶需求、大語言模型知識。那會足夠好,然後成為專家。然後你可以在角色間轉換選擇最合適的。應用,例如代理,是好東西開始。

A: 對,還有分析雲端代碼,他們怎麼做。兩年目標:他們怎麼做?但還是需要有些明智理由用它們。多少火警加一次?他們能做什麼?如何省 token?如何背景網站該默認哪些場景,哪些模型有長上下文閾值他們設定。現在如何閾值 token,擊中長上下文。

B: 對,最好如果你能建立真實世界應用有真實用戶。那會好證明為你的專業知識。

A: 好。AutoKeras,我看到幾個好東西你說:用開源庫,維護,做了很好庫開源。它一個優勢,非常受益工程師。我看到幾個你分享。關於AutoKeras非常大教訓是什麼?對一般觀眾,工程師跟隨你,你是一個,它非常 bit,你是你那類型 order,對吧?

B: 對。

A: 什麼打擊許可證?什麼三個 O5,非常大教訓為你做那幾年?你深入學習幾個東西。但抱歉老實說,我覺得TensorFlow普遍輸給PyTorch。AutoKeras基於TensorFlow也受生態系統影響。你如何看待?你如何學習或覺得你能做得更好如果回到五年前。

B: 幾件事我學到:如何建立成功開源專案。第一,需要早開始;成為第一個或第二個建立專案。如果有人已經建立它…第二,創新不如可用性重要。不要試圖…我是PhD學生,試圖發表研究論文,但那減慢我建立愉悅專案。總是優先可用性 over 創新點。你也需要準備改變,重構,當更清楚用戶需求時重寫。從不害怕從頭寫。

那是我用Keras做的;基於TensorFlow 2.0從頭寫。對於TensorFlow失去市場給PyTorch,我不覺得AutoKeras影響很大因為人們不在乎AutoML太多了。那是為什麼專案沒成長更大。不是因為癌症。我不覺得任何我會做得更好。主要事:減少研究方面,預組織可用性。這專案幫我證明我是好PhD學生 among 同儕。堅實證明;不多PhD學生有那。給我大優勢為求職申請。但它沒給我其他東西幫助進一步職業。無論我需要現在推進職業不同過去。

A: 我想分享:F5公司的首席工程師Yin Wang。聽過F5嗎?F5是全球安全公司,以解決方案如Global 360聞名。他們收購了專精靜態分析的公司,賣給F5。他們的焦點是編譯器和堆疊分析為代碼確保客戶安全在部門如航空航天或軍事。F5是上市公司。這位工程師現在在他們的東京辦公室工作作為首席工程師。他關於AutoML的觀點是它旨在簡化機器學習透過減少手動註解在框架如PyTorch或TensorFlow的需要。與其手寫操作為矩陣、向量、或張量,AutoML試圖自動化那過程。然而,它常不 work 如預期因為配置AutoML本身需要很多努力。所以一個人依然必須做許多工作手動。

他先前也在英特爾工作並指出這解決方案不理想。基本上,AutoML難以實現承諾。PyTorch,另一方面,行為像機器學習的編譯器,定義函數為操作和計算梯度如梯度下降。所以當PyTorch服務為ML操作的編譯器,工具如AutoKeras或其他自動化系統常不足因為全自動化具挑戰性,手動微調變必要,對吧?

B: 取決於應用。在更簡單情況,AutoML會 work。可能他說的是更高級案例。AutoML不會 work 為所有東西,但絕對有些簡單案例不在顏色。

A: 但AutoML不能在Transformer work,GPT Transformers如此複雜,不能做那。

B: Transformer相當簡單;沒有很多超參數相比其他架構。原因我們沒做那主要是財務。給AutoML系統更多計算找更好解決方案:省成本為雇人,讓人專注重要事。但現在瓶頸不是人。

六到七年前,成本跟隨行動是人——機器學習工程師貴,所以優化生產力為計算運行自動。現在成本瓶頸改變從人到計算——用盡所有計算訓練一個傳教士模型。成本瓶頸是計算;花所有錢在電腦上,人成本變可忽略。可能誇大,所以他們會花更多人,手動工作省電腦。這電腦和人之間轉換讓很多人不想應用AutoML到transformer。

A: 好,了解。它像Firebase事:非常容易,雲端計算容易,不需要寫後端數據庫,伺服器。你託管所有省機器人,但他們有限制。用提取更多更高限制,也表達引入便利但限制。

B: 成本更多計算為便利。

A: 我看到OpenAI,那些人 under 一百萬USD薪水高,但相比模型訓練成本,可忽略,只一或二 percent。

B: 好。

A: 好。我見過,了解,你教我這麼多。我感激。

B: 沒問題。讓我強調:最重要收穫是謹慎進行。高要求為背景和學位為博士或碩士申請可能不適合你很好。如果你想走這路而非公司內部調動去美國,學位這裡絕對更難路為你。

A: 非常謝謝。我也有朋友:去香港工作幾年,在貝萊德工作,做可視化,然後香港系列,然後去美國。

B: 這絕對更好路為你。可能避免修所有那些課不幫助 much 在未來。

A: 謝謝資訊。最後問題——你想從這專案得到什麼?我會做轉錄。如果你願意,可以分享你的部落格或想法,可能關於“智能頻寬”或活在美國10年後生活變化。

B: 現在沒想法。我晚點讓你 know。

A: 好,然後我們可以結束通話。我想保持部落格更新——如果有任何你不想包含,我會在分享前移除。你可以先檢查。

B: 聽起來好。我也會傳送我的部分錄音用語音備忘錄。

A: 完美,謝謝。

B: 今天談話愉快。再次謝謝。再見!

A: 再見!


Back Donate