README.md

Phi-3 요리책: Microsoft의 Phi-3 모델과 함께하는 실습 예제

Phi는 Microsoft가 개발한 공개 AI 모델 군입니다. Phi 모델은 동일한 크기와 더 큰 크기의 모델을 다양한 언어, 추론, 코딩 및 수학 벤치마크에서 능가하는 가장 유능하고 비용 효율적인 소형 언어 모델(SLM)입니다. Phi-3 패밀리는 다양한 응용 시나리오를 위해 다른 매개변수 양을 기반으로 훈련된 미니, 소형, 중형 및 비전 버전을 포함합니다. Microsoft의 Phi 패밀리에 대한 자세한 정보는 Welcome to the Phi Family 페이지를 방문하세요.

목차

• 소개

  • 환경 설정하기(✅)
  • Phi 패밀리에 오신 것을 환영합니다(✅)
  • 핵심 기술 이해하기(✅)
  • Phi 모델의 AI 안전성(✅)
  • Phi-3 하드웨어 지원(✅)
  • Phi-3 모델 및 플랫폼별 가용성(✅)
  • Guidance-ai와 Phi 사용하기(✅)

• 빠른 시작

  • GitHub 모델 카탈로그에서 Phi-3 사용하기(✅)
  • Hugging face에서 Phi-3 사용하기(✅)
  • OpenAI SDK로 Phi-3 사용하기(✅)
  • Http 요청으로 Phi-3 사용하기(✅)
  • Azure AI Studio에서 Phi-3 사용하기(✅)
  • Azure MaaS 또는 MaaP로 Phi-3 모델 추론 사용하기(✅)
  • Azure AI Studio에서 서버리스 API로 Phi-3 모델 배포하기(✅)
  • Ollama에서 Phi-3 사용하기(✅)
  • LM Studio에서 Phi-3 사용하기(✅)
  • AI Toolkit VSCode에서 Phi-3 사용하기(✅)
  • Phi-3와 LiteLLM 사용하기(✅)

• Inference Phi-3

  • Inference Phi-3 in iOS(✅)
  • Inference Phi-3 in Jetson(✅)
  • Inference Phi-3 in AI PC(✅)
  • Inference Phi-3 with Apple MLX Framework(✅)
  • Inference Phi-3 in Local Server(✅)
  • Inference Phi-3 in Remote Server using AI Toolkit(✅)
  • Inference Phi-3 with Rust(✅)
  • Inference Phi-3-Vision in Local(✅)
  • Inference Phi-3 with Kaito AKS, Azure Containers(official support)(✅)
  • Inference Your Fine-tuning ONNX Runtime Model(✅)

• Phi-3 미세 조정

  • 샘플 데이터 세트 다운로드 및 생성(✅)
  • 미세 조정 시나리오(✅)
  • 미세 조정 vs RAG(✅)
  • Phi-3를 산업 전문가로 만들기(✅)
  • VS Code용 AI Toolkit으로 Phi-3 미세 조정(✅)
  • Azure Machine Learning Service로 Phi-3 미세 조정(✅)
  • Lora로 Phi-3 미세 조정(✅)
  • QLora로 Phi-3 미세 조정(✅)
  • Azure AI Studio로 Phi-3 미세 조정(✅)
  • Azure ML CLI/SDK로 Phi-3 미세 조정(✅)
  • Microsoft Olive로 미세 조정(✅)
  • Weights and Bias로 Phi-3-vision 미세 조정(✅)
  • Apple MLX Framework로 Phi-3 미세 조정(✅)
  • Phi-3-vision 미세 조정 (공식 지원)(✅)
  • Kaito AKS, Azure Containers로 Phi-3 미세 조정 (공식 지원)(✅)
  • Phi-3 및 3.5 Vision 미세 조정(✅)

• Phi-3 평가

  • 책임 있는 AI 소개(✅)
  • Promptflow 소개(✅)
  • 평가를 위한 Azure AI Studio 소개(✅)

• Phi-3-mini용 E2E 샘플

• 종합 샘플 소개(✅)

  • 산업 데이터 준비하기(✅)
  • Microsoft Olive를 사용하여 프로젝트 설계하기(✅)
  • Phi-3, ONNXRuntime Mobile, ONNXRuntime Generate API를 사용한 안드로이드 로컬 챗봇(✅)
  • Hugging Face Space WebGPU와 Phi-3-mini 데모 - Phi-3-mini는 강력한 개인용 챗봇 경험을 제공합니다. 직접 체험해 보세요(✅)
  • Phi3, ONNX Runtime Web, WebGPU를 사용한 브라우저 내 로컬 챗봇(✅)
  • OpenVino Chat(✅)
  • 멀티 모델 - 상호작용 가능한 Phi-3-mini와 OpenAI Whisper(✅)
  • MLFlow - 래퍼를 만들고 MLFlow와 함께 Phi-3 사용하기(✅)
  • 모델 최적화 - Olive를 사용하여 ONNX Runtime Web에 맞게 Phi-3-min 모델 최적화하는 방법(✅)
  • WinUI3 앱과 Phi-3 mini-4k-instruct-onnx(✅)
  • WinUI3 멀티 모델 AI 노트 앱 샘플(✅)
  • 커스텀 Phi-3 모델을 미세 조정하고 Prompt flow와 통합하기(✅)
  • Azure AI Studio에서 커스텀 Phi-3 모델을 미세 조정하고 Prompt flow와 통합하기(✅)
  • Microsoft의 책임 있는 AI 원칙에 초점을 맞춰 Azure AI Studio에서 미세 조정된 Phi-3 / Phi-3.5 모델 평가하기(✅)
  • Phi-3.5-mini-instruct 언어 예측 샘플 (중국어/영어)(✅)

• Phi-3-vision 종합 샘플

  • Phi-3-vision-이미지 텍스트에서 텍스트로(✅)
  • Phi-3-vision-ONNX(✅)
  • Phi-3-vision CLIP 임베딩(✅)
  • 데모: Phi-3 재활용(✅)
  • Phi-3-vision - Phi3-Vision과 OpenVINO를 사용한 시각적 언어 도우미(✅)
  • Phi-3 Vision Nvidia NIM(✅)
  • Phi-3 Vision OpenVino(✅)
  • Phi-3.5 Vision 다중 프레임 또는 다중 이미지 샘플(✅)

• Phi-3.5-MoE 종합 샘플

  • Phi-3.5 전문가 혼합 모델(MoEs) 소셜 미디어 샘플(✅)
  • NVIDIA NIM Phi-3 MOE, Azure AI Search, LlamaIndex를 사용한 검색 증강 생성(RAG) 파이프라인 구축(✅)

• Phi-3 실습 및 워크숍 샘플

  • C# .NET 실습(✅)
  • Microsoft Phi-3 Family를 사용하여 나만의 Visual Studio Code GitHub Copilot Chat 구축하기(✅)
  • 로컬 RAG 파일과 함께 로컬 WebGPU Phi-3 Mini RAG 챗봇 샘플(✅)
  • Phi-3 ONNX 튜토리얼(✅)

• Phi-3-vision ONNX 튜토리얼(✅)

  • ONNX Runtime generate() API로 Phi-3 모델 실행하기(✅)
  • Phi-3 ONNX 멀티 모델 LLM 채팅 UI, 채팅 데모(✅)
  • C# Hello Phi-3 ONNX 예제 Phi-3(✅)
  • Phi3-Vision을 지원하는 C# API Phi-3 ONNX 예제(✅)
  • CodeSpace에서 C# Phi-3 샘플 실행하기(✅)
  • Promptflow와 Azure AI Search로 Phi-3 사용하기(✅)
  • Windows Copilot Library와 Windows AI-PC API

• Phi-3.5 학습하기

  • Phi-3.5 패밀리의 새로운 기능(✅)
  • Phi-3.5 패밀리의 정량화(✅)
    • llama.cpp를 사용하여 Phi-3.5 정량화하기(✅)
    • onnxruntime의 생성 AI 확장을 사용하여 Phi-3.5 정량화하기(✅)
    • Intel OpenVINO를 사용하여 Phi-3.5 정량화하기(✅)
    • Apple MLX Framework를 사용하여 Phi-3.5 정량화하기(✅)
  • Phi-3.5 애플리케이션 샘플
    • Phi-3.5-Instruct WebGPU RAG 챗봇(✅)
    • GitHub 모델로 Visual Studio Code Chat Copilot 에이전트 만들기(✅)

Phi-3 모델 사용하기

Azure AI Studio에서 Phi-3

Microsoft Phi-3를 사용하는 방법과 다양한 하드웨어 장치에서 E2E 솔루션을 구축하는 방법을 배울 수 있습니다. Phi-3를 직접 경험하려면 Azure AI Studio, Azure AI Model Catalog를 사용하여 모델을 테스트하고 시나리오에 맞게 Phi-3를 맞춤화해보세요. 더 자세한 내용은 Azure AI Studio 시작하기에서 확인할 수 있습니다.

Playground 각 모델에는 Azure AI Playground에서 모델을 테스트할 수 있는 전용 공간이 있습니다.

GitHub 모델에서 Phi-3

Microsoft Phi-3를 사용하는 방법과 다양한 하드웨어 장치에서 E2E 솔루션을 구축하는 방법을 배울 수 있습니다. Phi-3를 직접 경험하려면 GitHub Model Catalog를 사용하여 모델을 테스트하고 시나리오에 맞게 Phi-3를 맞춤화해보세요. 더 자세한 내용은 GitHub Model Catalog 시작하기에서 확인할 수 있습니다.

Playground 각 모델에는 모델을 테스트할 수 있는 전용 공간이 있습니다.

Hugging Face에서 Phi-3

모델은 Hugging Face에서도 찾을 수 있습니다.

Playground Hugging Chat playground

🌐 다국어 지원

Note: 이 번역은 오픈 소스 co-op-translator를 사용하여 자동으로 생성되었으며 오류나 부정확한 내용이 포함될 수 있습니다. 중요한 정보는 원본을 참고하거나 전문 번역가에게 문의하는 것이 좋습니다. 번역을 추가하거나 업데이트하려면 co-op-translator 저장소를 참고하여 간단한 명령어를 사용해 기여할 수 있습니다.

언어	코드	번역된 README 링크	마지막 업데이트
중국어 (간체)	zh	중국어 번역	2024-10-04
중국어 (번체)	tw	중국어 번역	2024-10-04
프랑스어	fr	프랑스어 번역	2024-10-04
일본어	ja	일본어 번역	2024-10-04
Korean	ko	한국어 번역	2024-10-04
Spanish	es	스페인어 번역	2024-10-04

상표

이 프로젝트에는 프로젝트, 제품 또는 서비스에 대한 상표나 로고가 포함될 수 있습니다. Microsoft 상표 또는 로고의 허가된 사용은 Microsoft의 상표 및 브랜드 지침을 따라야 합니다. 수정된 버전의 이 프로젝트에서 Microsoft 상표나 로고를 사용하는 경우 혼동을 일으키거나 Microsoft의 후원을 암시해서는 안 됩니다. 제3자 상표나 로고의 사용은 해당 제3자의 정책을 따라야 합니다.

면책 조항: 이 문서는 기계 기반 AI 번역 서비스를 사용하여 번역되었습니다. 정확성을 위해 노력하고 있지만 자동 번역에는 오류나 부정확성이 있을 수 있습니다. 원어로 작성된 원본 문서를 권위 있는 자료로 간주해야 합니다. 중요한 정보의 경우, 전문 인간 번역을 권장합니다. 이 번역 사용으로 인해 발생하는 오해나 잘못된 해석에 대해 책임지지 않습니다.