【人工智能】AI智能体工作流 | Agentic Reasoning | 吴恩达Andrew Ng | 红杉AI Ascent 2024分享 | Agent 4大设计模式
2024 ж. 2 Сәу.
14 205 Рет қаралды
红杉资本AI峰会的第三期，今天分享的是吴恩达教授在这次峰会上，对智能体工作流的分享。在这次演讲中，他谈到了AI agentic workflow，也就是智能体工作流的迭代模式，以及基于人工评估基准测试的效果分析，还谈到了自己对于AI智能体设计模式的四种分类，包括反思、工具使用、规划、多智能体协作。与此同时，吴恩达还分享了它对AI智能体的未来发展潜力的展望。
原视频链接： • What's next for AI age...
#人工智能 #agent #aiagents #andrewng
回头看前几天自己在强化学习那个视频下的评论，一些观点和吴师傅是类似的，大概是深受领进门师傅的影响。 🫠
agent越来越重要了，这一期非常好。
Fast token generation is important. Generating more tokens even from a lower quality LLM can give good Results.
Part 1): 任何一條神經網路也是一個多變數廻歸分析，也是統計學迴歸分析的一環。我在40年前攻讀數理統計就涉及這些人工智能及多變量（含時間變量）的廻歸分析（向量/ 矩陣/ 線性代數/ 機率/ 取様….）, 以便對一些事件做出精准智能的預測。 所謂自我學習或機器學習也只是用後面收集或模擬出的更新的資料去修正原先迥歸分析的杈重或係數參數而已。 而深度學習也只是處理巨量變數時，為了避免僅用單層機器學習進行巨量變數而需要解大矩陣導致對巨量平行計算的需求，進而變換設計成每層適量變數，建立多層次的機器學習修正。 40 年前人工智慧就是數理統計的一大課題。馬斯克說得一點都沒錯-目前的人工智慧全部建立在數理統計的基礎上。從那時開始就不斷有各行各業的數據分析專業人士來我們數理統計這參與並學習迥歸分析。他們回去後就不斷建立了屬於他們行業內的多條神經網絡（行業內的迥歸模型）。 在那時從事這類研究工作的數理統計的博士生全部被限制在晚上12 時過後才能使用國家級的超級計算機，否則我們兩三𠆤人一上線全部就大當機。我們那時也發展出一套類似挖礦機的方式，利用所有大量閒置的𠆤人電腦來提供其微小的算力，進而整合這些龐大的所謂分散型算力，但受限那時網路的不發達，很難把規模擴大。 近幾十年隨計算機能力不斷提升，目前市面AI 所謂大模型，主要是著力於面對”服務大衆需要”的所謂生成式/ 語言等等的智能協作服務。就是把百行百業各個領域等等數以千萬千億計資料進行迥歸模型的建立及修正（所謂自我深度學習）而形成龐大的神經網絡。 因此也不用太誇大眼下的AI , 這些早在40 年以前都已建構了理論基礎，而智能恊作早在各專業領域都已發展的非常完善，只是因過去算力不足只能在各自專業領域進行中小規模（變量數較少）的神經網絡建構。例如氣象預報就是早期最明顯的利用氣象專用超高速大電腦發展為成熟預測能力（AI)的例子，股票買賣決策也是智能恊作(AI/CIC)的典型。 ”把簡單數學上使用即存的規模資料或電腦模擬資料進行所謂的㢠歸分析/模型建構並藉此模型做可行的智能預判或恊作，包裝成醫學上複雜尚未完全掌握的神經網路的機制及作用原理”，不但瓢竊了數理統計在AI 發展的絕對地位，實在也是在誤導整𠆤AI 的發展。也會造成眼下一般人的過度期待和焦慮。應將AI 改稱作” CIC:Computer Intelligent Collaboration , 電腦智能恊作， 更為恰當。 何謂知識？ 由經驗總結後（ 抽象具體化） ，就形成知識（用數字分析的表達方式就是去建構知識模型）。 形成知識後就可複製/ 傳承/ 預測/ 擴展。因此目前的AI 發展，就是在循人類文明發展至為重要的其中的一𠆤過程-只是採用了數位化的方式，將經驗知識化了。 目前的AI 只是以數理統計為手段及方法論，以資訊及計算機工程為工具，進行數位型的經驗知識化的過程。 人類有許多其他不同型態非常複雜的智慧，這種僅止於知識數位化的智慧， 其實離人類多型態的智慧還有非常巨大的距離。 另外， 眼下AI 服務於大衆的大模型的各種數學理論及所謂的機器學習（參數修正）及深度學習（參數及變數的多層次增加及修正）。 早在40 年前相應的數學理論都已完備（但落實到實際應用上，如何解1 億 by 1 億的聯立方程組( 行列式計算）， 這需要極其龐大的平行計算能力，在那時期是完全不可能的） 。 其實AI 最重要最關鍵的是各行各業各領域的專家組，而不是這些AI 編程的公司（ 他們只是依需求用已完善的數學統計理論加以電腦編程後，利用巨大算力去幫忙找出合適的模型並不斷予以完善）。 只有各行各業各領域的專家組才知道在茫茫大海中的資料及訊息中，那些因素才是其所涉領域的関鍵變數，那些變數資料才是可做為他們收集分析建立模型的。例如氣象學/經濟學/股票買賣智能決策/ 醫學/ 藥學/ 農業生產/ 基因工程/ 化學工程/自動駕駛/飛彈防空系統/圖像識別及處理/ 建築結構力學/小樣品模擬模型（核爆/飛機失事）………..等等。 此外服務大衆的語言學也是極度複雜的一門學課，其可能的變量變因會高達幾千萬𠆤， 再加上多層級過濾學習修正的模式，因此其涉及的變數算力就以億計， 所以才稱做大模型。 要取那些因素進行那一層分析，主要都是語言學家在主導。 而這些眼下的AI 應用的公司， 只是利用已發展完備的數學統計理論在不同領域專家組的指導下，去有效的進行數拈收集整理分析並進而建立一個特定領域的模型，作為該特定領域的電腦智能恊作工具。
Part 3) 另外希能進一步說明為何這一輪由算力提供方來主導的AI 發展，將會走得很偏，而且會很快撞牆？ 除在Part 2) 談及眼前這些所謂台面頂流AI 專家或團隊，粘粘自喜於眼前所謂模型誤失率16% ， 殊不知在很多專業領域，16% 的誤失率，那可能帶來災難（ 金錢損失， 人員傷亡， 大自然破壞） ！ 例如，自動駕駛，氣象預報，股票期貨買賣決策等等。即便生成式模型，其誤失也可能帶給人們直接或間接的損失或傷害。 若不是由領域產業專家參與並主導的建模，要突破10% 誤失率，是極其困難的。 我說𠆤故事（不是在炫耀自己的賭技），大家也就明白領域產業專家的重要性。 我2000 年在香港公司上班， 每兩周回深圳家一趟， 每雙周末回深圳前，我會帶2 萬港幣去澳門葡京玩輪盤，每回我嬴到10 萬就走人，由珠海回深圳， 我次次去次次嬴，從沒輸過。 這就是有專業領域人員恊助的建模，誤失率很低，回報很高（投入少收益高）。 機率論是認為發生機率的事件是背後有些不明的隱變數，如果把這些隱變數儘可能的説明白，讓機率性的發生現象就會變得越來越小。 簡單的說，一個銅板正反面，前十次都開正面，第十一次開正還是反，數學家據於機率論的真蒂，告訴你一定開正面。因為從前十次已看出存在開出正面的未知隱變量。但一般人仍會認為正反各一半機率，甚至有人會錯誤認為連開那麽多次正面，這次肯定會開反面。 我玩輪盤下注前，一定會找現場的賭友看一下他們記錄卡上先前及近期是否有某𠆤特定數字常開出，若沒有，我會忍住不下注。一旦出現連續常開數字，我就立刻下注押這常開數字，以及輪盤面靠這數字左右各兩組數字，共5𠆤數字， 基本中率非常高， 可達到20% 押中率， 20% x35（賠率）/ 5( 押注數）, 我每玩五次總投入是25 中一次賠35。 賺10 。 基本上2-4 小時達標10 萬港幣走人。 1）其實在現場賭友記錄卡上先前中球的數字就是領域產業專家去掌握數據的過程。 2） 我會解讀機率論，因此也是玩輪盤的專家。 因此我玩輪盤，就是具專業知識參與的領域產業專家， 另外我的投注策略，就是我建的模。 而眼前台面以算力為主導的AI專家，因為他們手上握有大量的算力籌碼，因此他們是次次都36 𠆤號碼全押， 所以次次都中， 但是每次總輸一𠆤籌碼。 這種暴力的押法， 就是沒有引入產業專家的結果。大量浪費算力在無味的押注上。基本上不是大力出奇蹟， 而是大力出爛成績。 另外眼前生成式大模型，最大的資料來源是取自提供搜索引擎服務的大型公司的資料庫。 而這些資料庫的data base 早已經過各行各業領域產業專家幾十年投入，進行維護梳理，並進行了多維度的數位標記。 因此目前生成式大模型真正的主要貢獻者是，各行各業領域產業專家幾十年的投入，進行維護梳理，並進行了多維度的數位標記。 所以缺乏產業領域專家主導，而由算力提供方來主導的AI 發展，可預見的是將會走得很偏，而且會很快撞牆! AI 的良性發展， 不是靠蠻力的大力出的爛成績。（把算力浪費在一些関聯性不高的變數上，不當不專業的取定變數） 而是要靠產業專家的巧力進而形成的大力出的好成績（奇蹟）。 AI的健康發展是以各領域專業專家組為主導，數理統計為核心，編程及算力只是工具，否則用提供算力及工具的這些人來leading AI 發展，會形成外行領導内行，並為AI 發展種下低效偏差甚至高風險的發展。 譬如新藥開發/氣象預報/各種不同語言等等都是以領域專家為核心，否則就亂套了。 更可行的作法， 各國加緊立法，用國家特准许可的方式，來認證並核准各領域不同應用AI 的開發許可及成效認證，譬如目前自動駕駛這領域，不能僅憑廠家自行認證，必需由國家相關單位認證，納入國家法規制約。其實其他領域也應該如此，即便服務大眾的生成式大模型也要納入規範管理，絕對不能任由AI 公司自行任意發佈，一個小電器產品都需有関認證，才能上市銷售，目前AI 大模型實在是太無序了，AI 公司任意上市推出由市場決定其優劣，客戶當白老鼠，完全沒有任何管理約束機制。 任何AI 應用開發的公司，必須有相關該應用領域專業專家為主導，及數理統計的人員的參與，如果沒有通過這些人員資質審核要求的公司或團隊，一律不得從事AI 開發及應用工作。否則視為違法。如同醫師證照，沒證照的醫師坐診，診所如何能執業？！ 建立政府職能的審核監管制度，才能防止並追蹤AI 的錯誤使用/ 違規使用/違法使用， 也進而能排除人們對AI 發展造成危害人類的擔憂。 另外這也和在Part 2) AI 產業發展形成呼應。 AI 發展的3 大組成； 各產業領域的專家，建模數理理論，算力編程的提供及組織。 此外，最讓人擔心的應該是產業領域專家組主導的AI 開發， 他們開發AI的效率及精度都是最高的，而且他們非常淸楚如何使用及駕馭它，也因此容易造成有心人藉此做出違法犯罪甚至傷害人類的事。 而算力提供者主導的AI 開發，往往效率及精度都比較差，頂多只是多浪費點資源，失誤率高點，但傷害性不強。 大家思考一下，我們該擔心AI 算力提供者弄出來的作戰機器人，還是該擔心軍方專業人士主導開發的作戰機器人？！ 特別是在敏感的專業領域，如核暴/氣象/大気動力/海洋動力/基因工程等等，我記得40 多年前，這些參與CIC(AI)建模的產業專家組人員，基本都被政府列管登記在冊。 因此整𠆤AI 產業的發展， 政府必須義無反顧的出面建立審核/ 監管機制，這樣才能確保有序/ 健康的發展。 而眼前無序的亂象也得以解決。
感觉担忧危害人類问题可以通过暴露黑箱中的逻辑和普及来袪魅。非从业者的人们只是“觉得”ai无法理解，和懒得去理解，然而实际上只是复杂的运算而已。 感觉像是古人恐惧崇拜神明或雷电一样。对未知、陌生的恐惧
感觉大飞的视频都很有内容，含金量很高，讲解的言简意赅。不知道大飞打不打算在小红书上面发布视频，感觉那边有时候更方便分享给别人😊
谢谢支持，暂时不打算在其他平台发布视频
谢谢！ agent可以直接叫agent。翻译为智能体可能不太恰当。 现在的模型太依赖原始训练数据，导致容易出错。agent模式很容易白忙活，有时有用，但不敢说坚实的一步。 快速 token 生成应该也一样，都是折中的方案。 真正的突破在基础模型。 不好意思，爱挑毛病。
没事，国内各种翻译都有，也没个统一，以后还是说英文吧
up主太强了，如何做到这样清晰，易懂的理解并且转化成自己的语言，不知道要花多久准备？
我这二十年的功力...哈哈...
他其实是用AI自己总结的😂
刚看完原视频，大飞效率高啊
感谢支持❤️
吴恩达平时对 AI 发展 的一些观点不敢苟同
您好，主要看他的资料学习的，哪些观点需要拓展我去看看，避免我的信息源过于单一
可以推荐一些高质量信息源（博主、媒体、论文、AI圈）吗
我也觉得应该更快的生成token，10000 tokens/s，都太慢了
想快用qwen 0.5b
@@h_hw_w9469 用了，也没到很快的速度。