아마존, 파이토치 코드 그대로 트레이니움서 실행하는 토치뉴런 공개

아마존이 파이토치(PyTorch) 코드를 수정 없이 자사 AI 칩 트레이니움(Trainium)에서 바로 실행할 수 있는 도구 '토치뉴런(TorchNeuron)'을 20일 파이토치 컨퍼런스 북미에서 오픈소스로 공개한다고 19일(현지시간) 공식 블로그를 통해 밝혔다. 디지털투데이가 이 소식을 전했다.

아마존에 따르면 개발자는 토치뉴런을 쓰면 설정 한 곳만 바꿔 기존 파이토치 코드를 새 칩으로 옮길 수 있다. 기존에 쓰던 테스트, 디버깅, 확장 도구도 그대로 유지된다.

토치뉴런은 트레이니움2와 트레이니움3 칩을 지원한다. 아마존은 토치뉴런을 오픈소스로 배포해 개발자들이 자사 칩을 더 쉽게 선택할 수 있도록 한다는 계획이다.

이미 쓰는 곳도 나와

허깅페이스는 자사 AI 개발 도구에서 트레이니움을 기본 지원한다. 음성 AI 기업 카르테시아는 파이토치 코드를 거의 바꾸지 않고 트레이니움에서 추론 워크로드를 돌리고 있다.

조현병 등 신경정신질환 치료제를 연구하는 리버 뇌과학연구소는 신약 개발에 토치뉴런을 활용하고 있다.

아마존은 그동안 파이토치로 개발한 코드를 다른 칩으로 옮기려면 수개월에 걸쳐 코드를 다시 쓰고 검증해야 했다고 설명했다. 회사는 또 파이토치가 특정 칩에 묶이지 않도록 파이토치 커뮤니티와 코드 개선 작업도 함께 진행하고 있다.