專門製作《Minecraft》創作影片的 YouTuber sammyuri 近日完成一項龐大項目，在《Minecraft》遊戲內製作類似 ChatGPT 的生成式 AI，並命名為 CraftGPT。
這項紅石裝置創舉體積達到 1,020×260×1,656 方塊，約 4.39 億個方塊。sammyuri 表示，整個製作過程耗費數個月時間，期間需要大量規劃和心力投入。
紅石裝置創造小型語言模型
CraftGPT 是一個小型語言模型，擁有 508 萬 7,280 個參數，並在 Python 環境中以 TinyChat 基礎英語對話資料集進行訓練。模型具有 240 嵌入維度、1,920 個 token 詞彙量，由 6 層組成，上下文窗口大小為 64 個 token，足以應付非常簡短的對話。sammyuri 強調，整個項目沒有使用指令方塊或非官方程式，理論上在純淨版環境中也能運作。
對話功能與驚人的運算限制
sammyuri 在影片中展示 CraftGPT 的對話功能。玩家可在巨大的鍵盤上奔跑輸入文字，與 AI 進行對話。當輸入「HELLO, HOW ARE YOU TODAY?」時，CraftGPT 會回應「I AM FEELING QUITE HAPPY TODAY, THANK YOU FOR ASKING.」。由於裝置體積非常龐大，sammyuri 必須借助 MOD 模組 Distant Horizons 來錄製影片。
運算速度成為 CraftGPT 最大的限制。sammyuri 表示，即使在 MCHPRS 伺服器環境中，將遊戲 Tick rate 提高約 4 萬倍，CraftGPT 仍需約 2 小時才能回覆一個問題。換言之，如果不加速，生成一句對話可能需要 10 年以上。sammyuri 也提醒測試者保持合理期望，模型容易偏離主題、產生文法錯誤回應，甚至輸出毫無意義的內容。
來源：YouTube
