2024.12.10
서비스나우가 내부적으로 사용해온 AI 모델 훈련용 라이브러리'패스트LLM(Fast-LLM)'을 오픈소스로 10일 공개했다.
서비스나우는 공식 블로그를 통해 “LLM을 훈련하는 것은 하드웨어, 데이터셋, 인력 등 막대한 자원이 요구되고 있다”라며 “더 많은 기관과 연구자들이 자체 모델 훈련을 시도하면서, AI 연구 및 개발 커뮤니티는 운영 비용 및 환경 비용을 낮추면서 책임감 있는 모델 훈련을 돕는 프로그램이 필요한 상태”라며 패스트LLM 개발 배경을 소개했다.
서비스나우에 따르면, 패스트LLM은 커널 효율성 및 메모리 사용을 최적화하면 훈련 시간과 비용을 최소화할 수 있다. 3D 병렬 처리(데이터, 텐서, 파이프라인)를 사용해 다중 GPU 및 노드에서 분산 훈련을 지원하면서 높은 확장성을 가진다. 여기에 사전 빌드된 도커 이미지로 신속한 배포가 가능하며, 간단한 YAML 구성 파일로 편리하게 설정할 수 있는 등 간편하게 사용할 수 있다.
원문보기 : https://www.cio.com/article/3622096/ai-%ED%9B%88%EB%A0%A8-%ED%9A%A8%EC%9C%A8-20-%ED%96%A5%EC%83%81%C2%B7%C2%B7%C2%B7-%EC%84%9C%EB%B9%84%EC%8A%A4%EB%82%98%EC%9A%B0-%ED%8C%A8%EC%8A%A4%ED%8A%B8llm-%EC%98%A4%ED%94%88.html
[원문출처]
※ 본 내용은 CIO(www.cio.com/kr)의 저작권 동의에 의해 공유되고 있습니다.
Copyright ⓒCIO 무단전재 및 재배포 금지
자세한 기사는 링크를 참조하시기 바라며 한국저작권위원회는 공정한 오픈소스SW 사용을 위하여 상담, 컨설팅, 라이선스 교육, 오픈소스SW 라이선스 검사서비스 등을 무료로 제공하고 있습니다.
