开发者让2015款Kindle Paperwhite运行本地AI聊天机器人
GitHub项目Inkwell为越狱的2015款Kindle Paperwhite提供Alpine Linux用户空间，其中的Quill通过llama.cpp在设备上运行SmolLM2模型。
据Hackaday报道，GitHub上的一个名为Inkwell的项目已在一台越狱的2015款Kindle Paperwhite上运行成功，该设备同时运行Alpine Linux用户空间和一个名为Quill的本地AI聊天机器人。项目开发者是Pragyaan Gaur。
据项目信息，Inkwell包含终端、一款国际象棋游戏和DOOM。Quill则通过llama.cpp调用SmolLM2模型，全部计算在Kindle自身的处理器上完成。
运行速度方面，Quill的快速模式输出约为每秒1.7个词，可选的智能模式会降至约每秒0.7个词。项目说明称，使用Quill时没有任何数据离开设备。
在电子书阅读器上运行AI
SmolLM2与llama.cpp均为轻量级开源方案，Inkwell将其与针对旧款Kindle定制的Alpine Linux环境结合，使2015年发布的设备能够本地完成对话生成。
快速问答
Inkwell支持哪些设备？
据现有信息，Inkwell是为一台越狱的2015款Kindle Paperwhite构建的Alpine Linux用户空间。
Quill需要联网吗？
不需要。项目说明称，Quill运行期间没有任何数据离开设备。
Quill的生成速度是多少？
快速模式约为每秒1.7个词，可选的智能模式约为每秒0.7个词。