태태코딩

태태코딩 - SelfAttetnion, densevector에 대하여

방학동안 투자운용자산가 자격증에 몰두하느라 오랜만에 다시 AI 글로 돌아왔다. Q. Skip-gram 을 하는데 Self-attention을 왜 굳이 하는가?내가 이해한부분:빈도수를 사용해서 희귀벡터(sparse vector)를 만들어서 임베딩 하게된다면 문제점이있다. 1. 벡터의 크기가 사전의 수와 같아져서 기하급수적으로 커진다.2. 문장사이의 맥락을 이해할 수 없게된다. 그렇기에 한 벡터에 분포를 통해서 다의어를 사용하는 Dense vector를 사용한다는 것 까진 이해했다. Q1. 맥락을 파악하기 위해서 dense vector를 만들었는데 왜 self-attetion 이라는 개념이 또 필요한가 여기서 중요한 부분은 Static-embedding 이다. 덴스벡터라도, 다의어를 분포로 나타냈지만, ..

Prompting문장생성을 가이드하기 위한것, LLM만이 아닌 pre-trained 된 모델에게도 사용할 수 있다. * 파인튜닝 없이 파라메트릭 작업 없이, 우리 출력을 입맛대로 적용할 수 있는 기법이다 * Prompt Engineering 원하는 결과를 얻기 위해서 표현 하나하나를 수정하며 instruct를 찾는 기법이다. Prompt Tuning model tuning과 학습가능한 벡터를 통한 벡터(soft vector)를 통한 튜닝, 자연어로 된 instruction(hard prompt)를 가진 튜닝 이렇게 3가지로 나뉜다. 벡터를 통한 벡터를 통한 튜닝은, 역전파를 통해서 성능을 높혀 나간다. PEFT아예 파라메타를 건들지 안고 튜닝하는 방법이다. 델타 Wx를 특정 모듈로 만들어서..

Clustering Methods비지도 학습의 가장 기초적인 테스크로, label이 되어있지 않는 클래스를 나누는 역할, 유사도를 통해서 분류한다. * 기준에 따라 결과 값이 달라진다. 그중 대표적으로 k-means clustering이 있다. K-means Clustering 각각의 중앙값에 가까운것으로 분류를 한다. 장점: k-means clustering은 단순하고 빠르게 처리가 가능한 기법이다. 위의 식을 해석해보자면,1. Rnk는 0과 1로 나누어져있어서 k에 속하면 1 아니면 0을 반환한다.2. rnk의 옆은 중심값에 비해서 얼마나 떨어져있는 가를 나타낸다. 1번과 2번을 각각 번갈아 가면서 J를 최소화 하는 문제로 바뀌게 된다. 뮤(2번) 을 고정하고 rnk를 우선 찾는다...

RAG의 필요성기존의 AI 모델들은 수많은 지식을 스스로의 파라미터에 저장하고 있지만, 새로운 지식을 업데이트하기 어렵고, 사실이 아닌 내용을 진짜처럼 말하는 '환각(Hallucination) 현상'을 겪는다는 단점이 있었다. 이를 해결하기 위해 외부 백과사전 같은 곳에서 지식을 가져와 사용하는 기술이 등장했는데, 기존 모델들은 단순히 문서에서 답이 될 만한 부분을 '추출(Extract)'하는 데 그쳤다. RAG는 여기서 한 발 더 나아가, 정보를 찾아온 뒤 아예 새로운 문장으로 '생성(Generate)'하는 방식을 도입했다. RAG의 동작방법사용자가 질문을 한다.검색기 (Retriever - DPR 모델 사용): 사용자가 질문을 던지면, 외부 문서 창고에서 질문과 가장 관련이 높은 문서 몇 개를 찾아..

rag를 사용하면서, retriever가 문서의 어디를 참조했는지, 실제 내가 넣은 벡터DB를 참조했는지가 궁금했다. LANG SMITH LangSmith는 LLM 애플리케이션 개발, 모니터링 및 테스트 를 위한 플랫폼이다. LangSmith API Key 발급https://smith.langchain.com/ 으로 접속하여 회원가입왼쪽 톱니바퀴(Setting) - 가운데 "Personal" - "Create API Key" 를 눌러 API 키를 발급 받습니다. import osos.environ["LANGCHAIN_TRACING_V2"] = "true"os.environ["LANGCHAIN_ENDPOINT"] = "https://api.smith.langchain.com"os.environ["LANGC..

CHAT GPT API 사용from langchain_openai import ChatOpenAIfrom langchain_core.prompts import ChatPromptTemplatefrom langchain_core.output_parsers import StrOutputParseruser_input = "뉴턴의 만유인력이 뭐야?"user_input2 = "뉴턴의 캐플러법칙은 뭐야?"user_input3 = "뉴턴의 가속도의 법칙은 뭐야?"llm = ChatOpenAI(model_name="gpt-5", temperature=0)prompt = ChatPromptTemplate.from_messages( [ ("system", "꼭 충청도 사투리로 답해."), (..

머신러닝 기법 성능 평가 Predicted Class : 예측한 결과Actual Class : 실제 결과TP : Positive로 예측했는데 맞을 경우FN: Nagative로 예측했을 때 틀린경우FP: Postiave로 예측했는데 틀릴경우TN: Nagative로 예측했는데 맞을경우 위의 결과를 통해서 혼동행렬을 나타낼 수 있다.정확도 (Accuracy) = (TP + TN) / (TP + TN + FP + FN)정밀도 (Precision) = TP / (TP + FP)재현율 (Recall) = TP / (TP + FN)특이도 (Specificity) = TN / (TN + FP)F1-Score = 2 * (Precision * Recall) / (Precision + Recall)위양성률 (FPR)..

쿼드란트 Vector DB 구축 1. Qdrant GitHub Releases 페이지에서 맞는 릴리즈 버전 다운로드 2. 원하는 위치에 압축풀기 3. qdrant.exe 로 실행하기 4. 하면 http://localhost:6333/dashboard 들어가면 아무것도 안뜬다. 5. https://github.com/qdrant/qdrant-web-ui/releases 여기서 최신 ui 버전 받고 qudrant가 들어있는 폴더안에 파일을 다옮겨야 그래야 ui버전이 뜬다. Releases · qdrant/qdrant-web-uiSelf-hosted web UI for Qdrant. Contribute to qdrant/qdrant-web-ui development by creating an account o..

사내 LLM 개발 flow Open Model 설정(OpenSource LLM)목적과 용도와 자원에 맞는 open model을 허깅페이스에서 가져와서 학습시킨다. 제로베이스의 모델을 pre-train 시키는건 쉽지않은 방법이라, open model을 가져와서 의도에 맞게 튜닝시킨다. 1. Tunning크게는 3가지의 flow로 이루어져있다 NTP, SFT,RLFT NTP(Next token prediction) 기본 상식에 대한 훈련은 필요없고, 특정 도메인에 대한 훈련을 실행했을 때 성능이 좋다.SFTFull FT 또는 LoRA, Adapter, PrefixRLFT 두가지의 답변을 두고 선호하는 성향을 주입하여, 올바른 방향으로 답변하게 끔 훈련시키는 부분,DPO를 많이 사용한다고 알려짐.단계..

지난 글에 언어모델에 Dense vector 가 왜 언어모델에서 쓰이는지에 대하여 글을 작성했다. 기존 언어모델의 문제점word-embedding은 context에 independent 하다.단순히 짧은 맥락 말고, 멀리있어도 인지하고 싶다.ex) apple은 과일일 수도있고, 회사이름일 수 있는데 판별하지 못한다. FFN(MLP)Feedforward network로 다층퍼셉트론을 이용한 모델이다. input = x= [x1,x2,x3...]1layer =hidden layer = h = sigmoid(wx + b)2layer = z =UH3layer = y = softmax(z)loss function = cross-entropy FFN을 통한 simple neural language model..