Showing

한국어 자연어 처리(NLP)와 관련된 다양한 작업을 수행하기 위해서는 적합한 모델을 선택하는 것이 중요하다. 한국어 감성 분석, 질문-답변, 텍스트 생성, 기계 번역 등의 NLP 태스크를 수행하기 위해서는 충분한 데이터셋이 필요하다. 아래에 소개된 모델들은 한국어 데이터셋으로 학습된 모델들이다.이 모델들이 사용한 데이터셋의 상세한 정보는 각 모델의 공식 문서나 출처에서 확인할 수 있다.  1. sangrimlee/bert-base-multilingual-cased-nsmc한국어 감성 분석을 위해 "sangrimlee/bert-base-multilingual-cased-nsmc" 모델을 사용할 수 있다.https://huggingface.co/sangrimlee/bert-base-multilingual-c..

M1 Mac용 PyTorch 설치 가이드를 작성해본다.M1 및 M2와 같은 Apple Silicon에서 PyTorch를 MPS 가속(Metal Performance Shaders)을 사용하고자 하였다.Apple Silicon(M1, M2) Mac에서 PyTorch 설치 및 설정하기2022년 7월 이후 PyTorch는 Apple Silicon(M1, M2) Mac에서 Metal Performance Shaders(MPS)를 통한 GPU 가속을 지원한다. 이를 통해 딥러닝 모델을 Apple GPU에서 더욱 빠르게 학습할 수 있다. 아래는 MPS 지원을 위한 PyTorch 설치 과정이다.사전 준비macOS 버전이 Monterey 12.3 이상이어야 MPS 가속을 사용할 수 있다.설치 명령어# 잘못 설치했을 경..

이 글에서는 TensorFlow를 이용해 간단한 선형 회귀 모델을 구현하고 학습시키는 과정을 설명한다.TensorFlow v1.x의 기초적인 활용법과 경사 하강법의 개념을 익히는 예제를 다룬다. 경사 하강법을 사용하여 RMSE 값을 최소화하면서 최적의 기울기와 절편을 찾는 방법을 취한다.TensorFlow v1.x를 사용하여 구현하는 예제로, TensorFlow v2.x 환경에서는 compat.v1 모듈을 통해 v1.x 코드를 사용할 수 있다.전체 코드#import tensorflow as tfimport tensorflow.compat.v1 as tftf.compat.v1.disable_v2_behavior()# x, y의 데이터 값data = [[2, 81], [4, 93], [6, 91], [8, ..

이번 글에서는 경사 하강법을 이용해 선형 회귀 모델을 학습하는 방법과 코드 예제를 작성해보도록 한다. 경사 하강법은 모델의 오차를 줄이기 위해 파라미터(기울기와 절편)를 반복적으로 업데이트하는 최적화 알고리즘이다.  경사 하강법을 사용해 주어진 데이터에 가장 잘 맞는 직선을 찾아가는 예제를 살펴본다.1. 데이터 준비먼저 공부 시간과 점수 간의 관계를 나타내는 간단한 데이터를 준비한다. import numpy as npimport matplotlib.pyplot as plt# 공부시간 X와 성적 Y의 리스트data = [[2, 81], [4, 93], [6, 91], [8, 97]]x = [i[0] for i in data]y = [i[1] for i in data]# 그래프로 나타내보기plt.figure..

동기AI의 발전을 확인하며 인간을 모방하여 판단하고 분석하는 능력, 로봇과 결합시 인간의 신체 능력을 모방하거나(로봇 팔 드로잉, 로봇 쿠킹), 컴퓨터 비전과 융합하여 인간의 시각 기능을 모방할 수 있다는 점에서 나날이 AI의 무궁무진한 가능성에 주의를 기울이게 된다. 하지만 AI가 스스로 인식을 통해 예술성을 발현하는 경지까지 갈 수 있을지에 대한 궁금증이 생겼다. 특히 예술은 자신을 표현하는 수단으로 자아를 드러내는 작업이다. 인간 예술사에서 ‘자화상’은 자신을 인식하고 표현하는 중요한 매체로 여겨졌다. 이에 따라, AI가 스스로를 어떻게 인식하고 표현할지 알아보기 위해 AI에게 자화상을 그려보게 하였다. AI가 과연 어떠한 방식으로 자신을 표현할지 이를 통해 AI가 예술성과 자기 인식을 가지고 있는..

데이터 클러스터링과 차원 축소는 복잡한 데이터를 더 쉽게 이해하고 분석하기 위해 사용하는 중요한 데이터 분석 기법이다. 이 두 가지 기법을 효과적으로 활용하면 데이터 속에 숨겨진 가치를 발견하고 더 나은 의사결정을 할 수 있다.마치 복잡한 레고 블록들을 종류별로 분류하고, 그 크기를 줄여서 한눈에 보기 쉽게 만드는 것과 비슷하다.데이터 클러스터링이란?정의: 비슷한 특징을 가진 데이터들을 묶어서 그룹(클러스터)을 만드는 작업예시:고객 데이터를 분석하여 구매 패턴이 비슷한 고객들을 그룹으로 나누어 각 그룹에 맞는 마케팅 전략을 수립한다.문서들을 내용이 비슷한 것끼리 묶어서 주제를 파악할 수 있다.목적:데이터 속에 숨겨진 구조를 찾아냄데이터를 요약하고 시각화하여 이해를 돕기이상치를 탐지하기차원 축소란?정의: ..

`transforms.Normalize`의 역할과 중요성딥러닝 모델을 학습할 때, 입력 데이터의 전처리는 매우 중요한 단계 중 하나이다. 특히 이미지 데이터를 다룰 때, `Normalize`라는 과정은 데이터의 분포를 조정하여 학습 성능을 크게 향상시킬 수 있다. `torchvision.transforms.Normalize`는 이런 전처리 과정에서 중요한 역할을 한다.`transforms.Normalize`란?`transforms.Normalize`는 이미지 데이터의 각 채널에 대해 평균과 표준편차를 사용해 정규화를 수행하는 함수이다. 이 함수는 입력 이미지의 픽셀 값들을 평균을 기준으로 0에 가까운 값으로 만들고, 표준편차를 사용해 분포를 일정하게 조정해준다. 이렇게 하면 모델이 학습할 때 데이터의 분..

LSE는 Least Squares Estimation(최소 제곱 추정)의 약자이다. LSE는 주어진 데이터에 가장 잘 맞는 선형 모델을 찾는 방법 중 하나로, 데이터 포인트와 모델의 예측 값 사이의 차이(오차)를 최소화하는 방식으로 동작한다. 여기서 최소화하는 것은 오차의 제곱합이다. 1. SSE (Sum of Squared Errors , 오차 제곱합 )SSE는 각 데이터 포인트에서 실제 값과 예측 값 사이의 차이를 제곱한 뒤 모두 더한 값이다. SSE를 최소화하는 것이 LSE의 목표이다. 2. 미분을 통해 최적화w와 b를 구하기 위해, 오차를 최소화하려면 SSE를 미분하고 이를 0으로 만드는 값을 찾아야 한다. 이는 미분이 그래프에서 최소값을 찾는 방법이기 때문이다. 그래서 아래 식에서 보여주듯이, ..

정규 분포의 확률 밀도 함수(PDF, Probability Density Function)는 통계학에서 아주 중요한 개념이다. 정규 분포는 주로 우리가 일상에서 관찰하는 많은 자연현상과 데이터가 '평균 주변에 많이 몰려 있고, 극단적으로 큰 값이나 작은 값은 적다'는 패턴을 따를 때 유용하다. 예를 들어, 사람들의 키, 시험 점수, 제품의 생산 품질 등이 이런 정규 분포를 따를 수 있다.1. 정규 분포란?정규 분포는 통계에서 데이터가 평균을 중심으로 대칭적으로 분포하는 형태를 말한다. 이를 시각적으로 보면 종 모양의 그래프를 떠올리면 된다. 가장 흔히 발생하는 값들이 가운데 집중되어 있고, 평균에서 멀어질수록 발생 빈도가 줄어드는 형태다.정규 분포는 두 가지 중요한 특성인 평균과 표준편차로 정의된다:평균..

오늘은 PyTorch를 사용하여 MNIST 데이터셋을 기반으로 완전 연결 신경망(fully-connected neural network)을 학습하는 방법에 대해 알아본다. MNIST 데이터셋은 손으로 쓴 숫자 이미지로 구성되어 있어 머신러닝 및 딥러닝 학습에 자주 사용되는 데이터셋이다. 우선 PyTorch와 torchvision을 사용하여 MNIST 데이터셋을 로드하고 다양한 방식으로 데이터를 시각화하고 배치 처리하도록 한다. 1. 필요한 라이브러리 설치 및 임포트하기먼저, torchvision 라이브러리를 설치해야 한다. 이를 위해 아래의 명령어를 사용한다. !pip install torchvision 그 후, 필요한 라이브러리를 임포트한다. import torchimport torchvisionMNI..