Latest

Azure VMware Solution 가용성 디자인 고려사항

본 글은 Azure VMware Solution Availability Design Considerations 의 많은 내용을 참고하였습니다.

Azure ML에서 torchtune을 사용하여 SLM/LLM 파인 튜닝/평가/양자화 하기

이 글은 저자가 마이크로소프트 머신 러닝 블로그에 기고한 Fine-tune/Evaluate/Quantize SLM/LLM using the torchtune on Azure ML을 한국어로 번역 및 편집하였습니다.Azure ML에서 torchtune을 활용해 소형 및 대형 언어 모델(SLM/LLM)을 효과적으로 파인...

Azure Web App에 Streamlit 배포하기

이 포스팅은 theringe 님의 Deploy Streamlit on Azure Web App 글을 참고하여 한국 개발자들도 이해하기 쉽도록 작성하였습니다.

Copilot in Azure: Azure Architect 한 분을 24시간 착! 붙여 드릴게요~ Azure portal 에서 만나요~

타사 클라우드만을 사용해 봐서 (locked in) 아직 Azure 에 대해 서먹서먹하고 어떻게 활용하는지 portal 에서 부터 너무 달라서 어려움이 있으신가요? 온프렘 환경에 익숙하셔서 아직 클라우드 환경은 어려우신가요? 자, 오늘은 Azure...

생성형 AI 앱 성능 관리 방법: Azure Load Testing으로 부하 테스트 하기(1/2)

생성형 AI 앱들의 성능 지표들로 그라운딩(Groundedness), 관련성(Relevance), 일관성(Coherence), 유창성(Fluency), 유사성(Similarity)과 같은 답변의 품질 요소를 매우 중요하게 이야기합니다. 그러나 프로덕션 서비스를 위해서는 기존 앱과 동일하게 AI 답변의 응답 속도(Latency) 및 처리율(Throughtput)이...