전체 글 99

VScode에 공짜 로컬 GPT 연결하기(continue)

continue가 뭔데? 씹덕아복붙 필요없는 GPT (ctr +L)공식 문서 이용 하이퀄리티 답변 생성코딩중 오류나오는 즉시 판단(ctr + 위방향키 +R) 초기 코드 생성 (ctr +I)주석대로 코드 생성로컬 gpt라고는 했지만 AI를 조수로 두고 코딩을 같이하는 툴이라고 보면된다.continue에 대한 더 많은 정보는 https://docs.continue.dev/intro미리 할것ollama 설치https://ollama.com/downloadllm GPU 기반으로 실행하게 CUDA 설치( CPU 기반 실행보다 빠름)(윈도우에 CUDA 설치하기 https://teang1995.tistory.com/17)과정vscode 접속extension or 확장 탭 클릭continue 검색 후 다운continu..

사용툴 분석 2024.08.02

langchain LCEL 인터페이스

LCEL 사용예from langchain_openai import ChatOpenAIfrom langchain_core.prompts import PromptTemplatefrom langchain_core.output_parsers import StrOutputParser# ChatOpenAI 모델을 인스턴스화합니다.model = ChatOpenAI()# 주어진 토픽에 대한 농담을 요청하는 프롬프트 템플릿을 생성합니다.prompt = PromptTemplate.from_template("{topic} 에 대하여 3문장으로 설명해줘.")# 프롬프트와 모델을 연결하여 대화 체인을 생성합니다.chain = prompt | model | StrOutputParser()LCEL 종류 및 기능동기 메소드(마지막에..

langchain 공부 2024.08.02

langchain에서 Parser의 역할

선행지식토큰화 : 텍스트를 의미 있는 단위(토큰)로 나누는 과정입니다. 이 단위는 단어, 문장, 문단, 심지어 더 작은 단위일 수도 있습니다. 토큰화는 NLP의 첫 번째 단계로, 원시 텍스트 데이터를 처리 가능한 형태로 변환파싱 : 토큰화된 텍스트를 구조화된 형식으로 변환하는 과정. 이 과정은 구문 분석(Syntax Parsing), 의미 분석(Semantic Parsing), 그리고 구문 트리(Syntax Tree)나 추상 구문 트리(Abstract Syntax Tree, AST)를 생성Parser의 종류와 기능1. StrOutputParser()입력된 텍스트를 변경 없이 그대로 반환합니다. 이는 가장 기본적인 파싱 작업이며, 주로 기본 클래스나 간단한 테스트 목적으로 사용변환전AIMessage(co..

langchain 공부 2024.07.31