Today, I will

1. 배경RAGAS로 한국어 RAG 시스템을 평가하던 중, faithfulness / context_precision / context_recall 점수가 일부 행에서 NaN으로 산출되는 문제가 발생했다. 단순히 컨텍스트 글자 수를 줄이는 등의 시도로는 해결되지 않았고, 원인 조사 결과 서로 독립적인 두 가지 문제가 동시에 작용하고 있던 것으로 확인되었다.공통된 표면 증상은 다음과 같다.BadRequestError: This model's maximum context length is 50000 tokens.your prompt contains at least 50001 input tokens심판(judge) LLM에게 보내는 프롬프트가 토큰 한도를 초과하여 채점 자체가 실패하고, 그 결과가 NaN으로 ..

의료 의료 데이터를 분석하고 진단, 치료 계획 및 약물 개발을 지원하는 데 사용 대량의 의료 데이터를 분석, 진단, 치료와 질병 예방에 유용할 수 있는 패턴과 추세를 식별하는데 사용 환자 건강을 모니터링하고 전염병을 예측해 공중보건을 개선하는 데 활용 개인화된 치료계획을 개발하는 데 사용 교통 자율주행 및 드론과 같은 시스템 구축 교통 경로를 최적화하고 교통 혼잡을 줄이는 데 사용 배달 또는 배송 경로와 일정을 최적화하는 등의 운송 네트워크 구축에 사용 교통 안전을 개선하고 사고로 인한 교통혼잡을 줄이며 효율성을 높이는 데 사용 금융 금융데이터를 분석하고 신용 평가 또는 주가 예측과 같은 의사결정을 지원하는 데 사용 금융 사기 행위를 감지하고 금융 거래의 효율성을 향상시키는 데 사용 시장 동향 및 고객 ..

인공지능과 방법론인공지능은 패턴 인식, 학습, 의사결정과 같이 일반적으로 인간 지능이 필요한 작업을 컴퓨터 시스템이 수행하는 기술을 의미한다.지각 능력을 인공적으로 구현해 인간의 지능과 연결된 인지 문제를 해결하려는 컴퓨터 과학 분야 중 하나다. 다시 말해 기존에 인간만이 실현할 수 있다고 생각한 역할을 컴퓨터가 수행할 수 있도록 구현하여 인위적으로 만든 지능을 뜻한다. 인공지능은 주어진 시스템에서 입력을 조절해 출력을 원하는 대로 조절하는 제어기로부터 측정 가능한 경험적 속성을 학습해 스스로 판단하는 기능까지의 전반을 의미한다. 인공지능은 인간과 비슷한 행동이나 합리적 행동을 통해 특정 문제를 해결하는 데 중점을 둔다. 인공지능 시스템은 주어진 데이터를 학습하고 시간이 지남에 따라 성능을 향상시킬 수..

안녕하세요! 오늘은 업로드한 PDF 파일 내용을 바탕으로 실시간으로 질문에 답변해주는 AI 챗봇을 직접 만들어봅니다! LangChain + Cohere Rerank + OpenAI Embedding의 조합으로 RAG 기반의 스마트한 검색 시스템을 구현해보도록 합니다. 이 글에서 다룰 내용RAG란 무엇인가?PDF 기반 질문-응답 시스템의 구조LangChain으로 벡터 검색 + LLM 연결하기전체 코드 분석과 주석실전 활용 팁 & 트러블슈팅RAG란?RAG는 Retrieval-Augmented Generation의 줄임말로,"검색 기반 생성"을 의미합니다.보통 LLM은 사전학습된 정보만을 기반으로 답변하지만,RAG는 외부 문서를 검색하여 관련 정보를 추출하고,그걸 바탕으로 답변을 생성합니다.📦 RAG의 구..

웹링크와 GPT와 LangChain을 활용해 RAG 기반 대화형 챗봇을 만들어보았습니다.웹링크를 통해 간단해 웹 단면을 크롤링하고 그에 대한 정보에 대해 물어볼 수 있어 유용합니다.맛집정보 웹사이트인 http://www.menupan.com/를 활용해보도록 합니다. 📁 1. 주피터 노트북 준비!pip install beautifulsoup4 from langchain.prompts import PromptTemplatefrom langchain_openai import ChatOpenAIfrom langchain_community.document_loaders import WebBaseLoaderfrom langchain_openai import OpenAIEmbeddingsfrom langchain..

피터래빗이야기 PDF 파일을 기반으로, GPT와 LangChain을 활용해 RAG 기반 대화형 챗봇을 만들어보았습니다. 📁 1. PDF 파일 준비먼저 프로젝트 루트 디렉토리 아래에 `pdf` 폴더를 만들고, 여기에 오만과 편견 PDF 파일을 넣어줍니다:project/ └── pdf/ └── 파일명.pdf🧠 2. GPT 처리 모듈: `gpt_proc.py`# gpt_proc.pyfrom langchain.prompts import PromptTemplatefrom langchain_openai import ChatOpenAIfrom langchain_community.document_loaders import PyPDFLoaderfrom langchain_openai import OpenAIEm..

Jane Austen의 Pride and Prejudice PDF 파일을 기반으로, GPT와 LangChain을 활용해 RAG 기반 대화형 챗봇을 만들어보았습니다.📁 1. PDF 파일 준비project/ └── pdf/ └── Pride_and_Prejudice.pdf 먼저 프로젝트 루트 디렉토리 아래에 `pdf` 폴더를 만들고, 여기에 오만과 편견 PDF 파일을 넣어줍니다:🧠 2. GPT 처리 모듈: `gpt_proc.py`# gpt_proc.pyfrom langchain.prompts import PromptTemplatefrom langchain_openai import ChatOpenAI, OpenAIEmbeddingsfrom langchain.document_loaders im..

1. from llama_index.core.settings import Settings Settings는 RAG 시스템을 돌리기 위한 기본 도구상자 세트(글 쪼개기, AI모델 연결하기, 글자수 조절하기, 에러관리까지 다 설정할 수 있어!) from llama_index.core.settings import Settings 아래와 같이 글로벌한 설정이 가능하다.Settings.# RAG 파이프라인 글로벌 설정Settings.embed_model = OpenAIEmbedding( model="text-embedding-3-small")Settings.llm=OpenAI(model='gpt-3.5-turbo',temperature=0)Settings 안에 있는 속성들의 역할 정리항목 역할chunk_si..

🧠 리눅스 자주 쓰는 명령어 모음NixOS, Ubuntu, WSL 어디서든 쓸 수 있는 실전 명령어 모음리눅스 명령어들은 리눅스 시스템 사용 시 매우 유용하며, Ubuntu, NixOS를 포함한 대부분의 리눅스 배포판에서 사용할 수 있습니다.따라서, 리눅스 터미널에 익숙해지면 다양한 운영체제에서의 작업이 훨씬 빠르고 유연해집니다.아래는 제가 실제로 자주 사용하는 명령어들을 용도별로 정리한 리스트입니다. 다만, Mac의 경우는 기본으로 없거나동작 방식이 다르거나, Homebrew 등으로 설치가 필요한 명령어가 있습니다.macOS에서 기본적으로 없는 명령어 / 설치가 필요한 명령어htop❌ 없음 (설치 필요)brew install htop 필요wget❌ 없음 (설치 필요)기본 없음. brew install..

NixOS에서 한글 입력을 위해 필요한 설정 과정입니다:1. 필요한 패키지 설치 및 설정cd /etc/nixos/sudo nano /etc/nixos/configuration.nix# /etc/nixos/configuration.nix 파일 수정, 수정한 부분은 아래와 같습니다. # Configure keymap in X11 services.xserver.xkb = { layout = "kr"; variant = "kr104"; }; i18n.inputMethod = { enabled = null; # IBus 입력기 프레임워크 활성화\ type = "ibus"; enable = true; ibus.engines = with pkgs.ibus-engines; [ ..