訪談Groq CEO Jonathan Ross重要觀點

隨著人工智慧(AI)日漸成為未來科技發展的關鍵力量，矽谷的創新步伐也從未止步。在這場AI革命中，一家新興公司Groq(讀作"Grok")正以其突破性的AI加速器晶片，引領著高效能運算的新紀元。

此影片專訪了Groq的創辦人暨CEO Jonathan Ross，探討他離開谷歌後創立Groq的創業歷程，以及Groq晶片在AI加速運算方面的獨特優勢。Ross更進一步分享了他對AI未來發展及其潛在影響的獨到見解。

摘要自下列 Youtube 影片

Groq的創業故事

Ross曾是谷歌大腦團隊的一員，參與發明了谷歌的第一款AI專用晶片TPU(Tensor Processing Unit)。然而，作為公司內部的一個小項目，TPU的發展受到了諸多限制。

Ross解釋道:“在大公司內部推動創新有諸多掣肘，需要說服許多人，是一個AND條件。但創業則是一個OR條件，只要有一個投資者看好，就可以大展身手。”

正是這股嚮往更大自由的渴望，促使Ross在2017年離開谷歌，創立了Groq。起初，Ross只是想"做些不一樣的事情"並未特定目標，直到一位投資者問他:“如果你再做一次AI晶片，會如何設計?“這個問題點燃了Ross的靈感，也奠定了Groq的發展方向。

Ross表示，Groq之所以能在短時間內推出領先業界的AI加速器，關鍵在於他們先行打造出高效能編譯器，再將軟硬體設計緊密結合，這也是Groq獲得先發優勢的主因。

傳統AI加速器晶片在處理大型AI模型時，往往需要頻繁存取外部記憶體，效能因此大打折扣。相較之下，Groq採用了大規模並行運算的全新設計，使整個AI模型能一次完整載入晶片內部記憶體，讓數據傳輸更為順暢，大幅徹底地提升了推理速度。

根據Ross的說明，Groq晶片的推理速度可達Nvidia GPU的5至10倍，高達每秒700多tokens。這種極高的運算效率不僅能滿足實時的人機互動需求，更有望推動全新的AI應用場景，如"Infinite Wikipedia”(無窮維基百科)。

儘管Groq晶片需要更多個體運作，但卻能獲得更佳的整體效率和能耗比。Ross打了一個有趣的比喻:“就像工廠的流水線，雖然需要大量空間，但每一輛車的製造成本會更低。”

對於企業用戶，Ross建議可以先使用Groq的雲端服務，在驗證商業價值後，再考慮採購內部硬體部署。未來，Groq也將開放模型上傳服務，讓客戶能在Groq硬體上運行自有模型。

除了突破性的硬體產品，Ross對AI的未來發展也有獨到的見解。他認為，AI將為人類帶來更多細膩度與細微差別，有望淡化目前社交媒體等製造的"戲劇化"效應，讓人類討論中蘊含更多洞見與多元視角。

“AI就像是為人類心智帶來的望遠鏡，讓我們看到Intelligence的浩瀚無垠。“Ross期待人類能embrace這份美好，而不是將之視為威脅。

講到AI潛在風險，Ross則強調Groq的使命是"保留人類在AI時代的決策權”。Groq未來將審慎篩選在其平台上運行的模型，並確保模型的功能在於協助人類做出理性抉擇，而非主動做出決定。

身為AI晶片領域的佼佼者，Ross認為，未來5至10年計算能力仍將是瓶頸所在。他將"運算"比作新時代的"石油”，並稱讚OpenAI創辦人Sam Altman"Compute is the new currency”(運算是新的貨幣)的睿見。

總的來說，Ross對AI懷有極高的期許，但也意識到潛在風險，呼籲業界應審慎發展AI技術，保障人類在未來仍能作為主導，而AI只是輔助工具。Groq正是秉持這樣的理念，致力打造能賦能人類的AI加速器產品。

隨著AI浪潮的威力日漸猛烈，Groq這家初生之犢是否能夠維持領先地位，現在還難下定論。但Ross和Groq團隊卻展現出矽谷創新的獨有氣魄，勇於在顛覆創新的道路上大步邁進。