임이지의 블로그

여러 가지 미세 튜닝 방법가장 일반적인 언어 모델 미세 튜닝 방법은 지시 미세 조정 및 분류 미세 튜닝입니다.이 장의 주제인 분류 미세 튜닝(Classification finetuning)은 머신 러닝에 대한 배경 지식이 있다면 이미 익숙할 수 있는 절차입니다. 예를 들어, 손글씨 숫자를 분류하기 위해 합성곱 신경망을 훈련하는 것과 유사합니다.분류 미세 튜닝에서는 모델이 출력할 수 있는 특정 개수의 클래스 레이블(예: "스팸" 및 "스팸아님")이 있습니다.분류 미세 튜닝된 모델은 훈련 중에 본 클래스(예: "스팸" 또는 "스팸아님")만 예측할 수 있는 반면, 지시 미세 튜닝된 모델은 일반적으로 많은 작업을 수행할 수 있습니다.분류 미세 튜닝된 모델을 매우 특수화된 모델로 생각할 수 있습니다. 실제로는 다..

Developer/IT 도서 2026. 1. 3. 14:10

긴 시퀀스 모델링의 문제점어텐션 메커니즘이 개발된 배경은 기존 모델의 한계를 극복하기 위함입니다.RNN 기반 인코더-디코더의 구조: 기존 인코더-디코더 기반 모델은 RNN(Recurrent Neural Network) 층을 사용하여 구현되었습니다. 이 구조에서는 입력 문장(예: 독일어)이 순서대로 들어오면, 마지막 토큰을 처리한 결과인 은닉 상태(Hidden State) 또는 문맥 벡터만을 디코더에게 전달합니다.정보 압축 문제 (길이 압축): 텍스트가 길어질수록 (예: 100개 토큰), 그 모든 의미를 단 하나의 은닉 상태로 압축하여 디코더가 이를 잘 해석하고 번역을 수행하기는 어렵습니다.단어 의존성 문제: 또한, 텍스트에 나오는 순서대로 단어별로 번역하는 방식은 언어마다 어순이 다르고 단어 맵핑이 1:..

Developer/IT 도서 2026. 1. 3. 14:07

텍스트 생성 모델 평가하기주요 내용: LM이 생성한 텍스트의 품질 평가 방법을 알아보고, LM을 사전 훈련하는 방법을 준비합니다. 사전 훈련(Pre-training)은 기본적인 언어 이해를 위한 첫 단계 훈련을 의미하며, 이후 미세 튜닝을 통해 구체적인 목적에 활용됩니다.텍스트 생성 과정 복습: 이전에 구현한 GPT 모델을 사용하며, 입력 텍스트를 토크나이저를 사용해 토큰 ID로 변환합니다. 이 토큰 ID를 GPT 모델에 전달하면, 모델은 각 토큰마다 어휘 사전 크기(예: 5257개)만큼의 벡터(로짓)를 출력합니다. 이 로짓 중 가장 큰 값을 가진 토큰 ID를 선택하고, 다시 텍스트로 변환하여 다음 토큰을 생성합니다.텍스트 품질 평가 (손실 계산): 모델이 생성한 텍스트의 품질은 크로스 엔트로피 손실(C..

Developer/IT 도서 2026. 1. 3. 13:41

단어 임베딩 이해하기단어 임베딩(Word Embedding)은 LLM(대규모 언어 모델) 성공의 기초가 된 아이디어로, 단어나 텍스트를 벡터로 표현하려는 시도에서 시작되었습니다.임의의 데이터를 벡터로 표현하는 것을 광범위하게 임베딩(Embedding)이라고 부르며, 단어 벡터, 은닉 벡터, 잠재 벡터 등과 혼용되기도 합니다.토큰이나 단어를 벡터로 바꾼 것을 단어 임베딩이라고 부릅니다.텍스트 인베딩은 하나의 토큰, 문장, 단락 또는 문서 전체를 벡터로 바꿀 수 있지만, 이 책에서는 주로 토큰을 벡터로 바꾸는 데 중점을 둡니다.단어 임베딩을 만드는 전문 알고리즘(예: Word2Vec)이 있지만, 대부분의 LLM은 모델 훈련 과정에서 단어 임베딩을 자체적으로 학습합니다.임베딩 벡터는 보통 100차원, 200차..

Developer/IT 도서 2026. 1. 3. 13:25

책 소개 2023년 ChatGPT의 등장은 전 세계적으로 큰 주목을 받았다. 2024년에는 OpenAI의 GPT뿐만 아니라 다양한 생성형 AI들이 등장하면서 AI 활용 사례가 빠르게 늘어나고 있다. 이제는 본격적인 AI 시대가 도래했다고 해도 과언이 아닐 것이다.  이 책은 Stable Diffusion 이후 급변하는 AI 생태계를 소개하며, AI 비전공자도 쉽게 이해할 수 있도록 작성되었다. AI 도입을 위한 실제 사례, 주요 기업의 활용법, 그리고 다양한 AI 모델의 역할을 쉽게 풀어낸다. 주요 내용CHAPTER 1: AI, 어디까지 발전했나 ChatGPT의 등장 이후 GPT 3.5에서 GPT 4.0까지 고성능 모델이 진화한 과정이 소개된다. 특히 생성형 AI 이미지 모델인 달리(DALL·E)의 1...

Developer/IT 도서 2024. 9. 8. 15:38

Whisper는 OpenAI에서 개발한 자동 음성 인식 엔진으로, 다양한 음성 데이터를 텍스트로 변환할 수 있는 강력한 도구입니다. Whisper를 사용하기 위해 아래와 같이 환경을 구축할 수 있습니다. 환경구성 Python 3.7 이상 설치 Python 공식 웹사이트(https://www.python.org/downloads/)에서 적절한 Python 버전(3.7 이상)을 다운로드하고 설치합니다. Python 3.8.10 버전을 사용하는 것을 추천합니다. PyTorch 설치 PyTorch는 딥 러닝 라이브러리로 Whisper를 실행하기 위해 필요합니다. PyTorch의 설치는 공식 웹사이트(https://pytorch.org/get-started/locally/)를 참고하여 본인의 시스템 환경에 맞는 ..

AI/개발도구 2023. 11. 9. 12:09

포켓몬빵 스티커 모으기가 유행인 요즘? 인공지능을 이용하여서 포켓몬 닮은꼴 웹 사이트를 만들어 보기로 한다. 일단 인터넷 검색을 통하여 어떤 포켓몬이 어떤 연예인과 닮았는지 파악을 하고 데이터를 수집하기로 한다. 웹 상에서 단순하게 만들기 위해서 구글에서 제공하는 Teachable Machine 를 이용하기로 한다. 먼저 데이터 전처리 작업 유사 모델을 결정하기 위해 포켓몬스터 닮은꼴 연예인 블로그로 데이터 전처리 작업을 진행 하였다. 조코딩의 동물상 테스트 유튜브를 보고 클론코딩을 하였으며 개발환경은 아래와 같다. 개발환경 구름 IDE - HTML / CSS TeachableMachine - Tensorflow Lite 모델 학습 및 개발 Netlify - 웹 서비스 개발일지 2022-03-23 1차 ..

AI/개발도구 2022. 7. 26. 18:43

기본 미션 Chapter 07 Ch.07(07-1) 확인 문제 풀고, 풀이 과정 정리하기 7.1.1 어떤 신경망의 입력 특성이 100개 이고 밀집층에 있는 뉴런 개수가 10개일 때 필요한 모델 파라미터의 개수는 몇개 인가요? -> 밀집층에 있는 10개의 뉴런이 100개의 입력과 모두 연결되기 때문에 총 100 x 10 의 가중치와 뉴런마다 1개의 절편이 있음으로 + 10 하여 총 100 * 10 + 10 = 1010의 모델 파라미터가 필요하다. 7.1.2 케라스의 Dense 클래스를 사용해 신경망의 출력층을 만들려고 합니다. 이 신경망이 이진 분류 모델이라면 activation 매개변수에 어떤 활성화 함수를 지정해야 하나요? -> 이진 분류일 경우 출력층의 뉴런이 1개이고 선형 방정식의 결과를 확류로 바..

Developer/혼공단 2022. 3. 4. 18:17