깃허브 프로젝트 '잉크웰', 2015년 킨들 페이퍼화이트서 구동
탈옥한 2015년 킨들 페이퍼화이트에서 알파인 리눅스와 온디바이스 챗봇 '퀼'을 돌리는 깃허브 프로젝트가 공개됐다.
깃허브에 공개된 '잉크웰' 프로젝트가 탈옥한 2015년형 킨들 페이퍼화이트에서 알파인 리눅스 기반 사용자 환경을 구동하는 모습을 보였다. 이 프로젝트는 개발자 프라갸안 가우르가 올린 것으로, 하드웨어 해커 커뮤니티 Hackaday가 처음 소개했다.
잉크웰에는 터미널과 체스 게임, 그리고 DOOM이 포함돼 있다. 전자책 단말기에서 일반적인 리더 기능을 넘어선 프로그램들을 실행할 수 있다는 점이 확인된 셈이다.
핵심은 온디바이스 챗봇 '퀼'이다. 퀼은 킨들 자체 프로세서에서 llama.cpp를 통해 SmolLM2 모델을 구동한다. 퀼이 작동하는 동안 기기 밖으로 나가는 데이터는 없다.
속도는 빠르지 않다. 퀼의 빠른 모드는 초당 약 1.7단어를 출력하며, 선택 사항인 스마트 모드를 켜면 초당 약 0.7단어로 느려진다.
이번 사례는 2015년 출시된 킨들 페이퍼화이트처럼 성능이 제한된 기기에서도 소형 언어 모델을 로컬로 돌릴 수 있음을 보여준다.
한눈에 보기
잉크웰은 어떤 기기에서 구동되나?
탈옥한 2015년형 킨들 페이퍼화이트에서 구동된다.
퀼 챗봇의 속도는 어느 정도인가?
빠른 모드에서 초당 약 1.7단어, 스마트 모드에서는 초당 약 0.7단어를 출력한다.
퀼은 데이터를 외부로 전송하나?
아니다. 퀼이 작동하는 동안 기기 밖으로 나가는 데이터는 없다.