IBM이 22일(한국시간) 미국 라스베이거스에서 열린 테크익스체인지 행사에서 인공지능(AI) 모델 제품군인 그래니트 3.0을 발표했다.
IBM의 3세대 그래니트 플래그십 대규모 언어 모델(LLM)은 학술 및 산업 벤치마크에서 비슷한 크기의 다른 모델들을 능가하거나 동등한 성능을 보이며, 뛰어난 성능과 안전성을 입증했다.
새로운 그래니트 3.0 8B 및 2B 언어 모델은 기업 AI에 최적화된 ‘주력’ 모델로 설계되어, 검색 증강 기능(RAG), 분류, 요약, 엔터티 추출 및 도구 사용과 같은 다양한 작업에서 뛰어난 성능을 발휘할 것으로 보인다. 이 모델들은 소형이면서도 유연해 기업 데이터를 기반으로 세밀하게 조정할 수 있으며, 다양한 비즈니스 환경에 손쉽게 통합되도록 설계되었다.
대부분의 LLM은 공개 데이터를 기반으로 훈련되며, 기업의 데이터를 활용하는 경우는 아직 많지 않다. IBM은 지난 5월 레드햇과 함께 선보인 인스트럭트랩을 통해 소형 그래니트 모델과 기업 데이터를 결합하면 더 큰 모델의 성능을 훨씬 낮은 비용으로 구현할 수 있다고 설명했다. 또 IBM은 왓슨x.ai에서 제공되는 모든 그래니트 모델에 대해 지적 재산권 보장 프로그램을 제공한다.
아울러 IBM은 그래니트 가디언 모델도 새롭게 선보인다. 이 모델은 애플리케이션 개발자가 사용자 명령어와 거대 언어 모델(LLM)의 답변에서 발생할 수 있는 다양한 위험 요소를 감지해 안전 장치를 구현할 수 있도록 지원한다.
이 모델은 사회적 편견, 증오, 유해성, 욕설, 폭력, 보안 우회 등의 위험 요소를 감지할 뿐만 아니라, 정보의 신뢰성, 맥락의 적합성, 답변의 관련성과 같이 RAG작업에 특화된 고유한 검증 기능도 갖추고 있다. 19개 이상의 안전성 및 RAG 벤치마크에 대한 광범위한 테스트에서 그래니트 가디언 3.0 8B 모델은 메타의 라마 가드 모델보다 유해성 감지 분야에서 평균적으로 높은 정확도를 기록했다.
그래니트 가디언 모델은 그래니트 언어 모델에서 파생되었지만, 타사의 어떤 AI 모델과도 함께 안전 장치를 구현하는 데 사용할 수 있다.
한편, IBM은 기업들이 자체 AI 어시스턴트를 쉽게 개발할 수 있도록 돕는 차세대 왓슨x 코드 어시스턴트도 올해 4분기에 출시할 예정이라고 발표했다.