黑客松打造Multi-LLM系統
非工程師的黑客松挑戰:12小時做出Multi-LLM Collaboration System
非工程師的黑客松挑戰:12小時做出Multi-LLM Collaboration System
你將學到什麼
為什麼要做多模型協作系統
單一AI只有一個腦袋,大量使用AI的人常在不同LLM間跳來跳去,資料碎片化又耗時。
系統整合七大AI Provider
OpenAI、Claude、Gemini、Mistral、Groq、DeepSeek、OpenEvidence全部串接進系統。
由Gemini擔任統一協調者
負責安排討論回合、檢測共識達成度,並整合各家AI的觀點。
開發工具鏈
GPT-5拆解需求、Google AI Studio Build出網頁框架、AWS Q Developer負責API串接與UI。
我幹了一件莫名其妙的事:跑去參加lablab駭客松的活動!關鍵是,我根本不是工程師!但因為看起來好像很好玩,而且也很多人報名,所以我就報名了,結果沒想到竟然通過審核了!好吧,那只能硬著頭皮上了。那我原本要做的專案不是這個,但因為跟 邱煜庭 小黑老師聊天,那個中午太無聊,Wait!其實就週六的事🤣所以就開始Vibe Coding起來,後來又有學員在問,所以就乾脆做出MVP。
Multi-LLM Collaboration System
一開始只是好玩,弄了一個影分身,但越想越覺得好像可以大升級一番,越玩越忘記自己本來要做的專案根本不是這個🤣,然後就收到通知...提交專案時間只剩12小時.................
既然如此,那就提交這個吧!然後很重要的是,這是開源的!開源的!開源的!早知道駭客松要開源,我就不報名了😂
為什麼我會深入去做這個專案?
因為單一的AI 再強,它還是只有一個腦袋。大量使用AI的人應該很多都跟我一樣,付費了一堆的AI工具,然後在不同LLM之間跳來跳去使用,因為合規問題找Gemini最好,創意發想&市場動態找GPT最好,穩中求勝找Claude最好........然後就是專案的內容分散在各個LLM之間,還得另外開表單記錄一下這個專案的討論紀錄分別是哪幾個對話連結。
那在現實生活中的場景是:你要跑去找顧問、找律師、請研究員,等了好幾週,最後得到一堆相互衝突的建議。
我不喜歡這種「碎片化 + 耗時低效」的決策方式。
所以,在看到只剩12小時的通知之後,乾脆把這個Hackathon變成我的軍師從單打獨鬥,直接打造成一個軍師團。
功能不是靠堆砌,而是系統化思考
前天有學員問要怎麼Vibe Coding?做些小玩具我很行,但打造一個可運作的系統,這我還真的沒正式搞過。
介紹之前先講一下,介紹頁的說明是跟隨瀏覽器語言,所以你不用刻意去挑選語言,但進入系統之後,我預設是英文,畢竟還在參賽中咩~
① 七大AI Provider 整合
OpenAI、Claude、Gemini、Mistral、Groq、DeepSeek,反正我有API的都掛上去了,然後突然想到OpenEvidence對醫療人員也好重要呀,所以這個也加進來了。
② 8 種專業模版
這個是後來加上去的功能,就在我發現12小時通知信,但我只剩下兩小時的時候...........
我覺得一定有人不知道怎麼下指令,既然如此,那就先弄個八個簡單的模板,結束後再來升級為更完整的模板就好,這樣使用者不需要從零開始,直接套用投資分析、技術審查、教育研究…...而且我還讓最中規中矩的Gemini負責建議每一個被調用的LLM模型適合擔任什麼專業角色或職務,就像你進了一間虛擬會議室,AI 團隊已經坐好等你主持。(當然,你不想用那些建議職務的話,也可以自己改)
③ 自動生成任務規格表
在選擇模型及角色設定完成之後,會自動生成對應該角色及該模型的最優策略,你可以修改,但我覺得我做的真的好到不需要修改,你甚至會想複製去自己做成GPTs。
任務規劃完成之後,才可以開始執行任務,執行任務之前都可以修改任務內容,但你應該是不會改啦,因為他就真的規劃的很好咩~
執行任務之後就會要等API調用並依照上文來生成出結果,為了讓記憶不中斷,我還把對話記憶給弄大了,這樣才不會討論到後來走鐘惹~
④ 檔案 & 網址上傳
就...像我自己,如果只是讓LLM們自己討論好像缺了啥,開會總是需要一些數據或是資料對吧?所以就再加上了可以上傳檔案的功能,txt .pdf .doc .md .png丟上去就能讓AI 團隊去讀取,甚至你也可以輸入好多個網址,直接讓它們做競品分析。我這神經病!
⑤ 協調者統一由Gemini擔任
它相當於是AI專案經理,自動安排討論回合、檢測共識達成度、整合觀點...等。
⑥ 一致化的輸出
因為我自己用的時候一直在複製貼上到doc裡面,我懶,所以用了JSON schema 驗證、格式化處理,不管是哪個模型回應,都能乾乾淨淨的匯出 TXT or DOC or JS。ㄛ...西八我忘了加上MD下載..........
⑦ 歷史紀錄
所有對話與討論都採用local storage來保存,你可以刪除,也可以透過關鍵字搜尋,畢竟人都有尿急的時候,萬一尿完回來忘了繼續討論,那至少你可以跑廁所之前先存檔,回來之後還能繼續對話。
⑧ Human in the Loop
跟Google學的,這句話一直在腦海裡揮之不去,AI軍師團在那邊討論,你總會有想插嘴的時刻,所以我還加了每一回合結束,可以人工介入提問的功能。
為什麼這個專案我很滿意
因為這是一個範式轉換 (Paradigm Shift)的呈現,AI不再只是一個給你答案的工具,AI的使用可以開始像一支跨領域的團隊:GPT-5 給數據和趨勢,Claude 負責法規與合規,Gemini 處理市場和輿情,Mistral 比較國際案例,DeepSeek 擅長程式細節跟扮演話嘮,OpenEvidence 補上實證研究。如果你還需要更真實一點,讓會議中有個白目,那Grok其實蠻適合扮演這角色的。
總之,這樣做的話,得到的結果不會是一堆彼此矛盾的建議,而是一份已經整合過的全景方案。
喔對,這些會議總結會單獨呈現出來,你也可以下載或存起來。
喔喔!你也可以在一個LLM裡選擇好幾個模型來對打,API只會叫你輸入一次!如果你想看AI吵架,那...記得...叫他見血封喉!
為什麼你要幫我點一個 ❤️?
因為...我寫了這麼多就是要衝票啊!而且我覺得如果你玩過了,你也會發現當AI不再只是單點工具時,當AI自己變成「團隊」來幫我們彙整更聰明的決策提案時,一人公司真的超可行的!
所以,如果你也覺得這個專案該被更多人看到,幫我到網站內點一個 ❤️,讓評審知道酒Ann不孤單!(好啦~不用衝票的話,我其實也不想分享這一篇,因為這種好東西自己用最爽啊)
那這一切怎麼生出來的呢?
從頭到尾,都是Vibe Coding!
① GPT-5
幫我拆解需求、梳理結構,因為他很適合解釋跟框架設計,主要負責核心輸出,負責跨領域的生成。最終決定用React作為前端框架,Vite來做為建構工具&開發伺服器,然後搭配TypeScript來做型別。(以上這是GPT說的,我不確定這些跟我理解的意義是否相符喔🤣)
② Gemini
因為Gemini實在太中啃了,太適合當協調者,因此由Gemini來負責控制全局,判斷何時討論應該進入共識階段,並進行對話中止。
③ Google AI Studio Build
網頁框架當然交給它,又快又準又狠,只要不要亂下指令,例如什麼賽博龐克風格😫,基本上都可以架出一個MVP雛形出來。
④ AWS Q Developer
負責 API 串接和升級prototype的網頁設計及css,讓我能在五天的期限內做出我自己願意提交的版本。
⑤ VS code裡的Copilot
這我真的比較少用,雖然也是可以給即時建議&Debug,但Q太好用了,玩到壞掉都可以重建。
花了多久時間呢?我零零星星大概是花了五小時,其中有兩小時左右是在等它們討論完,我才能檢查我要的功能有沒有出現🥹 這就是為什麼我後來會加上人工中斷對話的功能,我的青春殘值在等他們開會結束中悄然流逝啊~~~
然後我要提交前才發現簡報跟文件都有一定的規範,重新整理+錄影說明竟然花了我4.5小時,特別是錄影我大概重錄了十次,不是有消防車就是有救護車,我都要崩潰了!後來沒耐心了,直接用GAS的語音合成來播放XDDDDD
連結在一樓,進去之後幫我按一下玫瑰色那邊,然後再頁面投票按鈕顆❤️❤️❤️愛心❤️❤️❤️喔!
ㄛ...按愛心投票需要加入會員........那就........你們自己決定要不要給愛心好了,畢竟多了兩個步驟,我自己都會覺得麻煩:Q
PS. 玩過之後,可以留言【哇靠】了!😂😂😂
本文原發表於 2025/08/25 的 Facebook 貼文,原文照登,僅調整網頁排版;文中提及的產品、價格與活動以當時為準。
延伸學習
HE101|Harness Engineering Foundation(3 小時)
三小時的地圖課,不是操作課。把 Model 與 AI System 分開,拆解一套 AI Harness 的八個組成(Goal、Context、Knowledge、Rules、Tools、Workflow、Evaluation、Iteration),再帶你逆向拆解四個你已經在用的系統,最後畫出自己的第一張 Harness Blueprint。5 章 27 課,附學員講義 PDF 與術語速查表。
NT$ 2,599
ChatGPT 很強,但真正讓你下班的是 Google
六小時完整實錄。從「AI 很厲害,為什麼你還是每天加班」這個問題出發,把 Google Workspace 當成真正的工作平台重新設計一次流程 ── Sheets 的資料結構、Drive 與 Docs 的文件流、Gmail 與 Calendar 的通知系統,再用 Apps Script 讓它自己跑起來,最後收斂成一張屬於你自己的 AI 工作能力地圖。
NT$ 4,599

