免費離線 ChatGPT 軟體

嗯 ... 阿舍的這個標題是真的有點在騙流量喔! 其實那個可以離線使用的 AI 對談機器是一隻草泥馬來的，因為這套軟體名字叫「LLama」而中文就是「大羊駝」來的，但實際說來，「LLaMA」是一種 AI 模型的縮寫，是 Meta 公司最近開放原始碼出來的一種 AI 模型，所需要的運算資源，只要 PC 等級就可以達到接近 GPT-3.5 的能力，因此，安裝在電腦或筆電就可以用小型的運算資源，就可以在自己的電腦上跑出 ChatGPT 了 ... 真的嗎 ? ... 聽說，還有人安裝在手機和 Raspberry Pi 上跑，只是慢、慢、慢、慢了一點。🫢

LLaMA 生出 Alpaca

其實，Meta 公開的那個東西，我們一般人是弄不太起來的，因為，那個只是一個 AI 模型，主要用途是讓 AI 相關領域的研究人員可以用很少的運算資源就可以進行 AI 的訓練，所以，直接去下載安裝後的東西，阿舍根本就不會用，還好，史丹佛大學用這個「大羊駝 (LLaMA)」生出一個叫「羊駝 (Alpaca)」的版本，是透過 GTP 完成訓練的，所以，只要直接問羊駝就可以和 ChatGPT 一樣，得到答案，但是，阿舍還是弄不起來啊 ...

達賴 (dalai) 降臨

但是，這個世界的變化越來越快，高手和高高手的腳也越來越快，阿舍就睡個覺醒來，就有一個以史丹佛大學的羊駝(Alpaca) 為版本的東西叫來，但這次的名字和動物沒有關係了，這個軟體叫做「達賴 (dalai)」，這個高手做的最棒的是，阿舍只要下二個指令就可以在 Macbook Pro 上完成安裝和下載模型，然後，一個指令就可以啟動 Web 界面來操作了。 

真的可離線，真的有用

這個「大羊駝 (LLaMA)」(還是該叫「羊駝 (Alpaca)」或是 「達賴 (dalai)」??🙄)，可以和 Chat GPT 一樣輸入指令，但是界面比較陽春，然後，阿舍試了一下，懂的東西比較少，像是問個 Smart Contract 的程式碼，它就說他不知道 ... 😥，不過，知識類的，就還好，可是真的要用，就感覺和 ChatGPT 在使用上，差的有點距離，果然是真的給研究人員用的，像阿舍這樣的開發人員，大概就那個 dalai 有開出來的 API 比較使用吧! 透過，這些 API 就可取到輸入的字串所解析出來的 Token 和一些參數值，也就是說，如果想要方便去取字串的 Token 並預測的話，用這個東西應該可以省一些呼叫 GPT API 的錢吧 ! ....

結語 :  繁體中文能不能 ?

繁體中文支不支援呢 ? 阿舍有用中文問了問題，打開 Debug 來看，其實是有解出 Token 的，只是編碼的關係，在 Debug 訊息上，就出現亂碼了，但是，它還是有懂的啦! 因為，它還是有用英文回答了阿舍的問題，而且，內容也沒有錯 ... 可是啊! 要注意，由於這個東西有 Meta 釋出來時的非商用限制，然後，用 GPT 訓練成 羊駝 (Alpaca) 時，有受到 OpenAI 要求不可以用 GPT 訓練出來的東西做成和 GPT 競爭產品的限制，因此，就真的適合拿來自己玩玩或做研究使用了 .... 😐

(續) 免費離線聊天的 GPT4All 好不好用 ?

推薦閱讀

• 問題沒解決嗎? 更多的 Ubuntu 教學在 這裡
• Prompt Injection: 提示詞注入安全漏洞
• 二款 Mac 無痛安裝的 Stable Diffusion 軟體
• 用 AI 寫部落格文章好不好 ?
• 沒有免費的 Midjourney 和 Colab 又不想花錢怎麼辦 ?
• 不學 Prompt 技巧也能善用 ChatGPT 的簡單方法
• 企業 AI 應用：不只是聊天機器人
• Automatic 比 Automatic1111 更好用 ? 都是 Stable Diffusion WebUI
• Stable Diffusion 的 /describe 圖生文功能
• AI 畫出讓人可怖的美圖 ！

有疑問？ 問題還是沒解決嗎? 歡迎下方留言提問和討論 😁