생성형 AI 앱들의 성능 지표들로 그라운딩(Groundedness), 관련성(Relevance), 일관성(Coherence), 유창성(Fluency), 유사성(Similarity)과 같은 답변의 품질 요소를 매우 중요하게 이야기합니다. 그러나 프로덕션 서비스를 위해서는 기존 앱과 동일하게 AI...
이 글은 저자가 마이크로소프트 머신 러닝 블로그에 기고한 Fine-tune/Evaluate/Quantize SLM/LLM using the torchtune on Azure ML을 한국어로 번역 및 편집하였습니다.Azure ML에서 torchtune을 활용해 소형 및 대형 언어 모델(SLM/LLM)을 효과적으로 파인...
생성형 AI 앱들의 성능 지표들로 그라운딩(Groundedness), 관련성(Relevance), 일관성(Coherence), 유창성(Fluency), 유사성(Similarity)과 같은 답변의 품질 요소를 매우 중요하게 이야기합니다. 그러나 프로덕션 서비스를 위해서는 기존 앱과 동일하게 AI 답변의 응답 속도(Latency) 및 처리율(Throughtput)이...