专门制作《Minecraft》创作视频的YouTuber sammyuri近日完成一项庞大项目,在《Minecraft》游戏内制作类似ChatGPT的生成式AI,并命名为CraftGPT。

这项红石设备创举体积达到1,020×260×1,656方块,约4.39亿个方块。sammyuri表示,整个制作过程耗费数个月时间,期间需要大量规划和心力投入。

CraftGPT是一个小型语言模型,拥有508万7,280个参数,并在Python环境中以TinyChat基础英语对话数据集进行训练。模型具有240嵌入维度、1,920个token词汇量,由6层组成,上下文窗口大小为64个token,足以应对非常简短的对话。sammyuri强调,整个项目没有使用指令方块或非官方程式,理论上在纯净版环境中也能运行。

sammyuri在视频中展示CraftGPT的对话功能。玩家可在巨大的键盘上奔跑输入文本,与AI进行对话。当输入“HELLO, HOW ARE YOU TODAY?”时,CraftGPT会回应“I AM FEELING QUITE HAPPY TODAY, THANK YOU FOR ASKING.”。由于设备体积非常庞大,sammyuri必须借助MOD模块Distant Horizons来录制视频。

运算速度成为CraftGPT最大的限制。sammyuri表示,即使在MCHPRS服务器环境中,将游戏Tick rate提高约4万倍,CraftGPT仍需约2小时才能回复一个问题。换言之,如果不加速,生成一句对话可能需要10年以上。sammyuri也提醒测试者保持合理期望,模型容易偏离主题、产生文法错误回应,甚至输出毫无意义的内容。

来源:YouTube