人工智能思考 | 原創,AI翻譯
-
Satya Nadella提到過傑文斯悖論。這值得學習。
-
王垠:人工智能中沒有「智能」,神經網絡中沒有「神經」,機器學習中沒有「學習」,深度學習中也沒有「深度」。真正在這個領域起作用的是「微積分」。所以我更願意稱這個領域為「可微分計算」,而構建模型的過程則稱為「可微分編程」。
-
王垠:機器學習確實有用,甚至可以說是美麗的理論,因為它不過是改頭換面的微積分!它是牛頓、萊布尼茨那古老而偉大的理論,以更簡單、優雅且強大的形式呈現。機器學習基本上就是利用微積分來推導和擬合某些函數,而深度學習則是擬合更複雜的函數。
-
目前,大型語言模型無法像YAML或Python那樣按文件語言過濾。然而,現實世界中很大一部分信息是以這種方式組織的。這意味著我們可以用文件來訓練大型語言模型。
-
對於訓練大型語言模型,我們可以開發一個能夠找到精確匹配的系統。也許我們可以將KMP(Knuth-Morris-Pratt)搜索算法與Transformer架構結合,以增強搜索能力。
-
沒有技術秘密。開源將揭示所有被嚴密守護的秘密。
-
AI將影響許多工具,包括間接相關的。人們說他們不再需要Figma來繪製原型,他們會直接寫代碼。我認為Postman也會類似;人們會直接使用Python或其他腳本來調用或測試API。
-
在AI時代,我們不使用Postman或Figma的一個原因是它們的功能無法通過文本生成。它們也缺乏像命令+K這樣的快捷鍵來觸發組件替換。
-
用戶界面在AI時代正成為障礙。為什麼要升級Postman使其AI化來測試應用程序,當我們可以直接使用Python的requests庫或其他編程語言來測試代碼,後者將由AI驅動?
-
為什麼要升級Figma使其AI化來創建UI,當基於代碼的UI生成,由AI增強,提供了更直接且可能更強大的方法?
-
大型語言模型將首先改變與文本相關的應用,如Google、搜索引擎、文本編輯器和寫作工具、Quizlet、Zendesk、DeepL、Medium、WordPress、Trello、Asana、Gmail、GitHub、Goodreads、Duolingo和Feedly。
-
相反,大型語言模型不太可能徹底改變像Git、Linux、ffmpeg、手機、硬件、瀏覽器、操作系統或語音和視頻通話這樣的技術。這些技術以代碼為中心,它們的代碼不易由AI生成,不像Postman這樣的API測試工具。
-
代碼量更大的技術難以被AI革命化,如OpenOffice、MySQL、Mozilla Firefox、Chromium、VLC Media Player、Qt Framework、LLVM/Clang和GNOME。如果AI能幫助製作這些技術,它們就不會被取代。AI應該幫助創造更好的技術,而要做到這一點,AI將需要更多的計算能力來生成同等規模的代碼。
-
大型語言模型帶來變革的方式有兩種:首先,通過改變平台或軟件內的內容或數據,例如TikTok等應用中的內容翻譯;其次,直接取代某些軟件或平台,如Postman或Google搜索,包括Google翻譯。
-
AI音頻工具帶來變革的方式有兩種:首先,通過改變平台或軟件內的內容或數據,例如為Audible生成有聲書;其次,直接取代某些軟件或平台,例如唱歌應用,因為AI現在可以執行人類相同的任務,使人們更容易將唱歌作為愛好。
-
有幾種方法可以衡量AI如何影響當前的軟件或平台。一種方法是衡量AI可以部分或完全生成或改進多少數據或內容。另一種方法是衡量AI可以部分或完全編寫或改進多少代碼。這意味著我們利用AI生成的內容來改進現有平台。此外,AI可以幫助發明新的軟件和平台。
-
產品有三種類型:生成式AI產品、使用生成式AI產品API的產品,以及其他產品。
-
一個產品想法是利用AI從社交平台(如Reddit、GitHub Trending、Twitter Trending、Quora Trending和知乎熱榜)積累實時信息、新聞或更新。用戶可以使用提示自定義信息流,甚至添加特定的社交賬戶。
-
有五種重要的數據類型:文本、圖像、音頻、視頻和代碼。
-
其他重要的數據類型包括數值、地理空間、生物識別、傳感器、交易、元數據、時間序列、結構化、非結構化、半結構化、健康、環境、日誌、網絡和行為數據。
-
Google在網站索引方面仍然更勝一籌,尤其是當你想從特定網站下載軟件或文檔時。它就像一個域名搜索。你不是用它來查找信息,而是導航到其他網站執行任務。大型語言模型可能沒有最新的下載鏈接。
-
Google就像一個域名搜索;如果你想訪問Maven倉庫網站查看最新版本,你可以使用它。
-
Google在圖片搜索方面仍然有用,而大型語言模型擅長文本生成。然而,人們通常更喜歡真實圖片來驗證硬件細節、尺寸、物體形狀或一個人的外貌。
-
AI聊天機器人受歡迎是因為文本比圖像更難處理。人們更喜歡真實圖片而非AI生成的圖片,因為圖像一目了然。然而,AI圖像生成有未開發的潛力——用戶可以要求AI展示不同角度、放大面部或放大電路板細節。由於人們主要處理文本而非圖像,AI圖像工具還有很大的成長空間。
-
AI擅長解釋概念和促進理解。此外,用戶可以就任何具體細節提出問題。這可能是AI工具最重要的用途。
-
我用AI學習了大型語言模型。當它幫助我理解K、Q和V的那一刻,感覺很棒。
-
自從大型語言模型發布以來,我更喜歡使用Ubuntu的原因是macOS中豐富多彩的應用對我吸引力不大。我更喜歡編寫自己的程序,並通過終端和文本完成所有事情。
-
可以通過AI能否很好地更新pom.xml或requirements.txt文件到最新版本、更新庫並執行檢查來評估AI。這個過程可能涉及大量工作,有時會很複雜。
-
在AI時代,性能更好、更健壯的編程語言更重要,也會更受歡迎,而語法則較不重要。這是因為大型語言模型將幫助生成代碼,只要程序運行良好,就不會太麻煩。
-
人們傾向於閱讀AI聊天機器人的所有內容,因為它易於學習,可以就任何方面提問,格式一致,而且質量通常是互聯網上最好的之一。