임이지의 블로그

여러 가지 미세 튜닝 방법가장 일반적인 언어 모델 미세 튜닝 방법은 지시 미세 조정 및 분류 미세 튜닝입니다.이 장의 주제인 분류 미세 튜닝(Classification finetuning)은 머신 러닝에 대한 배경 지식이 있다면 이미 익숙할 수 있는 절차입니다. 예를 들어, 손글씨 숫자를 분류하기 위해 합성곱 신경망을 훈련하는 것과 유사합니다.분류 미세 튜닝에서는 모델이 출력할 수 있는 특정 개수의 클래스 레이블(예: "스팸" 및 "스팸아님")이 있습니다.분류 미세 튜닝된 모델은 훈련 중에 본 클래스(예: "스팸" 또는 "스팸아님")만 예측할 수 있는 반면, 지시 미세 튜닝된 모델은 일반적으로 많은 작업을 수행할 수 있습니다.분류 미세 튜닝된 모델을 매우 특수화된 모델로 생각할 수 있습니다. 실제로는 다..

Developer/IT 도서 2025. 11. 28. 17:22

긴 시퀀스 모델링의 문제점어텐션 메커니즘이 개발된 배경은 기존 모델의 한계를 극복하기 위함입니다.RNN 기반 인코더-디코더의 구조: 기존 인코더-디코더 기반 모델은 RNN(Recurrent Neural Network) 층을 사용하여 구현되었습니다. 이 구조에서는 입력 문장(예: 독일어)이 순서대로 들어오면, 마지막 토큰을 처리한 결과인 은닉 상태(Hidden State) 또는 문맥 벡터만을 디코더에게 전달합니다.정보 압축 문제 (길이 압축): 텍스트가 길어질수록 (예: 100개 토큰), 그 모든 의미를 단 하나의 은닉 상태로 압축하여 디코더가 이를 잘 해석하고 번역을 수행하기는 어렵습니다.단어 의존성 문제: 또한, 텍스트에 나오는 순서대로 단어별로 번역하는 방식은 언어마다 어순이 다르고 단어 맵핑이 1:..

Developer/IT 도서 2025. 11. 28. 16:33

텍스트 생성 모델 평가하기주요 내용: LM이 생성한 텍스트의 품질 평가 방법을 알아보고, LM을 사전 훈련하는 방법을 준비합니다. 사전 훈련(Pre-training)은 기본적인 언어 이해를 위한 첫 단계 훈련을 의미하며, 이후 미세 튜닝을 통해 구체적인 목적에 활용됩니다.텍스트 생성 과정 복습: 이전에 구현한 GPT 모델을 사용하며, 입력 텍스트를 토크나이저를 사용해 토큰 ID로 변환합니다. 이 토큰 ID를 GPT 모델에 전달하면, 모델은 각 토큰마다 어휘 사전 크기(예: 5257개)만큼의 벡터(로짓)를 출력합니다. 이 로짓 중 가장 큰 값을 가진 토큰 ID를 선택하고, 다시 텍스트로 변환하여 다음 토큰을 생성합니다.텍스트 품질 평가 (손실 계산): 모델이 생성한 텍스트의 품질은 크로스 엔트로피 손실(C..

Developer/IT 도서 2025. 11. 28. 16:04

단어 임베딩 이해하기단어 임베딩(Word Embedding)은 LLM(대규모 언어 모델) 성공의 기초가 된 아이디어로, 단어나 텍스트를 벡터로 표현하려는 시도에서 시작되었습니다.임의의 데이터를 벡터로 표현하는 것을 광범위하게 임베딩(Embedding)이라고 부르며, 단어 벡터, 은닉 벡터, 잠재 벡터 등과 혼용되기도 합니다.토큰이나 단어를 벡터로 바꾼 것을 단어 임베딩이라고 부릅니다.텍스트 인베딩은 하나의 토큰, 문장, 단락 또는 문서 전체를 벡터로 바꿀 수 있지만, 이 책에서는 주로 토큰을 벡터로 바꾸는 데 중점을 둡니다.단어 임베딩을 만드는 전문 알고리즘(예: Word2Vec)이 있지만, 대부분의 LLM은 모델 훈련 과정에서 단어 임베딩을 자체적으로 학습합니다.임베딩 벡터는 보통 100차원, 200차..

Developer/IT 도서 2025. 11. 28. 15:31

LLM 학습의 필요성 및 중요성작동 방식의 이해LLM을 잘 응용하고 활용하기 위해서는 그 작동 방식을 잘 이해하는 것이 중요합니다. 마치 운전을 할 때 차의 구성 요소를 이해하는 사람이 차의 상태를 더 잘 이해할 수 있는 것과 같습니다.발전 방향 파악트랜스포머 기본 모델 구조를 초기에 잘 이해하지 못하면, LLM이 빠른 속도로 발전하는 이후의 내용을 따라가지 못할 수 있습니다. 논문이나 기사의 이면에 가려진 내용을 이해하는 데 큰 도움이 됩니다.객관적인 판단LLM을 지나치게 과대 포장하거나 추상적으로 생각하여 잘못 판단하는, 즉 할루시네이션(Hallucination)에 빠지지 않기 위해서라도 LLM의 실제 작동 방식을 알아둘 필요가 있습니다.호기심 및 우연한 기회단순히 작동 방식이 궁금해서 공부할 수 있..

Developer/IT 도서 2025. 11. 28. 14:41

생성형 AI를 느끼며.. 2022년 ChatGPT의 등장은 정말 충격적이었습니다. 그전까지 AI는 데이터를 분류하거나 문장을 해석하는 데 주로 쓰였는데, 이제는 글을 쓰고, 그림을 그리고, 음악이나 영상까지 만들어내며 완전히 새로운 세상을 열어주었죠. 전문가가 아니어도 누구나 쉽게 시도할 수 있다는 점에서 진입장벽이 크게 낮아진 것을 실감합니다. 저는 2021년부터 AI 공부를 시작했습니다. CNN, GAN 같은 모델들을 직접 구현해보며 기초를 다졌는데, 솔직히 당시에는 코드 짜는 데만도 시간이 꽤 걸렸습니다. 그러다 ChatGPT를 접하고 나서 많은 것이 달라졌습니다. 궁금한 점을 물어보고, 자료를 확인하고, 코드까지 만들어주니 업무 효율이 확 올라갔습니다. 무엇보다 시간을 아낄 수 있다는 점이 가장 ..

Developer/IT 도서 2025. 9. 11. 17:32

🧠 DALL·E 3란?DALL·E 3는 OpenAI에서 개발한 최신 AI 이미지 생성 모델로, 텍스트 설명만으로도 고품질의 이미지를 생성할 수 있습니다. 이전 버전보다 문맥 이해력과 세부 묘사 능력이 향상되어, 원하는 이미지를 보다 정확하게 생성할 수 있습니다.🎯 프로젝트 개요목표: 스타크래프트 유즈맵 '랜덤 타워 디펜스'에 어울리는 로고 제작도구: DALL·E 3 (ChatGPT Plus 또는 Bing Image Creator)스타일: SF, 픽셀 아트, 게임 UI에 적합한 디자인WIRED📝 프롬프트 작성효과적인 이미지 생성을 위해서는 구체적인 프롬프트가 중요합니다. 예를 들어:"스타크래프트 스타일의 픽셀 아트 로고, '랜덤 타워 디펜스' 텍스트 포함, 어두운 배경, 미래지향적 디자인"이러한 프롬..

AI/GPTs 2025. 5. 29. 17:29

5분만에 나만의 다메다메 밈을 만들어보세요! Google Colab을 활용한 무료 딥페이크 제작법🎭 다메다메 밈이란?다메다메 밈은 일본 게임 '용과 같이 5'의 'Baka Mitai' 라는 노래를 활용한 AI 딥페이크 밈입니다. 2020년부터 전 세계적으로 인기를 끌며, 누구나 쉽게 자신의 얼굴로 만들 수 있어 큰 화제가 되었습니다.🚀 준비물구글 계정 (Colab 사용을 위해)정면 얼굴 사진 (JPG/PNG 형식, 정사각형 권장)안정적인 인터넷 연결📋 단계별 제작 가이드1단계: Google Colab 접속https://colab.research.google.com/github/AliaksandrSiarohin/first-order-model/blob/master/demo.ipynb위 링크를 클릭하여..

AI 2025. 5. 29. 16:43