๊ด€๋ฆฌ ๋ฉ”๋‰ด

๋ชฉ๋ก์ „์ฒด ๊ธ€ (154)

Today, I will

ํ—ˆ๊น…ํŽ˜์ด์Šค ํ•œ๊ตญ์–ด ๋ฐ์ดํ„ฐ์…‹

ํ•œ๊ตญ์–ด ์ž์—ฐ์–ด ์ฒ˜๋ฆฌ(NLP)์™€ ๊ด€๋ จ๋œ ๋‹ค์–‘ํ•œ ์ž‘์—…์„ ์ˆ˜ํ–‰ํ•˜๊ธฐ ์œ„ํ•ด์„œ๋Š” ์ ํ•ฉํ•œ ๋ชจ๋ธ์„ ์„ ํƒํ•˜๋Š” ๊ฒƒ์ด ์ค‘์š”ํ•˜๋‹ค. ํ•œ๊ตญ์–ด ๊ฐ์„ฑ ๋ถ„์„, ์งˆ๋ฌธ-๋‹ต๋ณ€, ํ…์ŠคํŠธ ์ƒ์„ฑ, ๊ธฐ๊ณ„ ๋ฒˆ์—ญ ๋“ฑ์˜ NLP ํƒœ์Šคํฌ๋ฅผ ์ˆ˜ํ–‰ํ•˜๊ธฐ ์œ„ํ•ด์„œ๋Š” ์ถฉ๋ถ„ํ•œ ๋ฐ์ดํ„ฐ์…‹์ด ํ•„์š”ํ•˜๋‹ค. ์•„๋ž˜์— ์†Œ๊ฐœ๋œ ๋ชจ๋ธ๋“ค์€ ํ•œ๊ตญ์–ด ๋ฐ์ดํ„ฐ์…‹์œผ๋กœ ํ•™์Šต๋œ ๋ชจ๋ธ๋“ค์ด๋‹ค.์ด ๋ชจ๋ธ๋“ค์ด ์‚ฌ์šฉํ•œ ๋ฐ์ดํ„ฐ์…‹์˜ ์ƒ์„ธํ•œ ์ •๋ณด๋Š” ๊ฐ ๋ชจ๋ธ์˜ ๊ณต์‹ ๋ฌธ์„œ๋‚˜ ์ถœ์ฒ˜์—์„œ ํ™•์ธํ•  ์ˆ˜ ์žˆ๋‹ค.  1. sangrimlee/bert-base-multilingual-cased-nsmcํ•œ๊ตญ์–ด ๊ฐ์„ฑ ๋ถ„์„์„ ์œ„ํ•ด "sangrimlee/bert-base-multilingual-cased-nsmc" ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋‹ค.https://huggingface.co/sangrimlee/bert-base-multilingual-c..

[์ธ๊ณต์ง€๋Šฅ] ํ…์„œํ”Œ๋กœ๋กœ ์„ ํ˜• ํšŒ๊ท€ ๋ชจ๋ธ ํ•™์Šตํ•˜๊ธฐ: ๊ฒฝ์‚ฌ ํ•˜๊ฐ•๋ฒ•์„ ์ด์šฉํ•œ ์ตœ์ ํ™”

์ด ๊ธ€์—์„œ๋Š” TensorFlow๋ฅผ ์ด์šฉํ•ด ๊ฐ„๋‹จํ•œ ์„ ํ˜• ํšŒ๊ท€ ๋ชจ๋ธ์„ ๊ตฌํ˜„ํ•˜๊ณ  ํ•™์Šต์‹œํ‚ค๋Š” ๊ณผ์ •์„ ์„ค๋ช…ํ•œ๋‹ค.TensorFlow v1.x์˜ ๊ธฐ์ดˆ์ ์ธ ํ™œ์šฉ๋ฒ•๊ณผ ๊ฒฝ์‚ฌ ํ•˜๊ฐ•๋ฒ•์˜ ๊ฐœ๋…์„ ์ตํžˆ๋Š” ์˜ˆ์ œ๋ฅผ ๋‹ค๋ฃฌ๋‹ค. ๊ฒฝ์‚ฌ ํ•˜๊ฐ•๋ฒ•์„ ์‚ฌ์šฉํ•˜์—ฌ RMSE ๊ฐ’์„ ์ตœ์†Œํ™”ํ•˜๋ฉด์„œ ์ตœ์ ์˜ ๊ธฐ์šธ๊ธฐ์™€ ์ ˆํŽธ์„ ์ฐพ๋Š” ๋ฐฉ๋ฒ•์„ ์ทจํ•œ๋‹ค.TensorFlow v1.x๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ๊ตฌํ˜„ํ•˜๋Š” ์˜ˆ์ œ๋กœ, TensorFlow v2.x ํ™˜๊ฒฝ์—์„œ๋Š” compat.v1 ๋ชจ๋“ˆ์„ ํ†ตํ•ด v1.x ์ฝ”๋“œ๋ฅผ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋‹ค.์ „์ฒด ์ฝ”๋“œ#import tensorflow as tfimport tensorflow.compat.v1 as tftf.compat.v1.disable_v2_behavior()# x, y์˜ ๋ฐ์ดํ„ฐ ๊ฐ’data = [[2, 81], [4, 93], [6, 91], [8, ..

[์ธ๊ณต์ง€๋Šฅ] ๊ฒฝ์‚ฌํ•˜๊ฐ•๋ฒ•

์ด๋ฒˆ ๊ธ€์—์„œ๋Š” ๊ฒฝ์‚ฌ ํ•˜๊ฐ•๋ฒ•์„ ์ด์šฉํ•ด ์„ ํ˜• ํšŒ๊ท€ ๋ชจ๋ธ์„ ํ•™์Šตํ•˜๋Š” ๋ฐฉ๋ฒ•๊ณผ ์ฝ”๋“œ ์˜ˆ์ œ๋ฅผ ์ž‘์„ฑํ•ด๋ณด๋„๋ก ํ•œ๋‹ค. ๊ฒฝ์‚ฌ ํ•˜๊ฐ•๋ฒ•์€ ๋ชจ๋ธ์˜ ์˜ค์ฐจ๋ฅผ ์ค„์ด๊ธฐ ์œ„ํ•ด ํŒŒ๋ผ๋ฏธํ„ฐ(๊ธฐ์šธ๊ธฐ์™€ ์ ˆํŽธ)๋ฅผ ๋ฐ˜๋ณต์ ์œผ๋กœ ์—…๋ฐ์ดํŠธํ•˜๋Š” ์ตœ์ ํ™” ์•Œ๊ณ ๋ฆฌ์ฆ˜์ด๋‹ค.  ๊ฒฝ์‚ฌ ํ•˜๊ฐ•๋ฒ•์„ ์‚ฌ์šฉํ•ด ์ฃผ์–ด์ง„ ๋ฐ์ดํ„ฐ์— ๊ฐ€์žฅ ์ž˜ ๋งž๋Š” ์ง์„ ์„ ์ฐพ์•„๊ฐ€๋Š” ์˜ˆ์ œ๋ฅผ ์‚ดํŽด๋ณธ๋‹ค.1. ๋ฐ์ดํ„ฐ ์ค€๋น„๋จผ์ € ๊ณต๋ถ€ ์‹œ๊ฐ„๊ณผ ์ ์ˆ˜ ๊ฐ„์˜ ๊ด€๊ณ„๋ฅผ ๋‚˜ํƒ€๋‚ด๋Š” ๊ฐ„๋‹จํ•œ ๋ฐ์ดํ„ฐ๋ฅผ ์ค€๋น„ํ•œ๋‹ค. import numpy as npimport matplotlib.pyplot as plt# ๊ณต๋ถ€์‹œ๊ฐ„ X์™€ ์„ฑ์  Y์˜ ๋ฆฌ์ŠคํŠธdata = [[2, 81], [4, 93], [6, 91], [8, 97]]x = [i[0] for i in data]y = [i[1] for i in data]# ๊ทธ๋ž˜ํ”„๋กœ ๋‚˜ํƒ€๋‚ด๋ณด๊ธฐplt.figure..

AI๊ฐ€ ์žํ™”์ƒ์„ ๊ทธ๋ฆฐ๋‹ค๋ฉด

๋™๊ธฐAI์˜ ๋ฐœ์ „์„ ํ™•์ธํ•˜๋ฉฐ ์ธ๊ฐ„์„ ๋ชจ๋ฐฉํ•˜์—ฌ ํŒ๋‹จํ•˜๊ณ  ๋ถ„์„ํ•˜๋Š” ๋Šฅ๋ ฅ, ๋กœ๋ด‡๊ณผ ๊ฒฐํ•ฉ์‹œ ์ธ๊ฐ„์˜ ์‹ ์ฒด ๋Šฅ๋ ฅ์„ ๋ชจ๋ฐฉํ•˜๊ฑฐ๋‚˜(๋กœ๋ด‡ ํŒ” ๋“œ๋กœ์ž‰, ๋กœ๋ด‡ ์ฟ ํ‚น), ์ปดํ“จํ„ฐ ๋น„์ „๊ณผ ์œตํ•ฉํ•˜์—ฌ ์ธ๊ฐ„์˜ ์‹œ๊ฐ ๊ธฐ๋Šฅ์„ ๋ชจ๋ฐฉํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ์ ์—์„œ ๋‚˜๋‚ ์ด AI์˜ ๋ฌด๊ถ๋ฌด์ง„ํ•œ ๊ฐ€๋Šฅ์„ฑ์— ์ฃผ์˜๋ฅผ ๊ธฐ์šธ์ด๊ฒŒ ๋œ๋‹ค. ํ•˜์ง€๋งŒ AI๊ฐ€ ์Šค์Šค๋กœ ์ธ์‹์„ ํ†ตํ•ด ์˜ˆ์ˆ ์„ฑ์„ ๋ฐœํ˜„ํ•˜๋Š” ๊ฒฝ์ง€๊นŒ์ง€ ๊ฐˆ ์ˆ˜ ์žˆ์„์ง€์— ๋Œ€ํ•œ ๊ถ๊ธˆ์ฆ์ด ์ƒ๊ฒผ๋‹ค. ํŠนํžˆ ์˜ˆ์ˆ ์€ ์ž์‹ ์„ ํ‘œํ˜„ํ•˜๋Š” ์ˆ˜๋‹จ์œผ๋กœ ์ž์•„๋ฅผ ๋“œ๋Ÿฌ๋‚ด๋Š” ์ž‘์—…์ด๋‹ค. ์ธ๊ฐ„ ์˜ˆ์ˆ ์‚ฌ์—์„œ ‘์žํ™”์ƒ’์€ ์ž์‹ ์„ ์ธ์‹ํ•˜๊ณ  ํ‘œํ˜„ํ•˜๋Š” ์ค‘์š”ํ•œ ๋งค์ฒด๋กœ ์—ฌ๊ฒจ์กŒ๋‹ค. ์ด์— ๋”ฐ๋ผ, AI๊ฐ€ ์Šค์Šค๋กœ๋ฅผ ์–ด๋–ป๊ฒŒ ์ธ์‹ํ•˜๊ณ  ํ‘œํ˜„ํ• ์ง€ ์•Œ์•„๋ณด๊ธฐ ์œ„ํ•ด AI์—๊ฒŒ ์žํ™”์ƒ์„ ๊ทธ๋ ค๋ณด๊ฒŒ ํ•˜์˜€๋‹ค. AI๊ฐ€ ๊ณผ์—ฐ ์–ด๋– ํ•œ ๋ฐฉ์‹์œผ๋กœ ์ž์‹ ์„ ํ‘œํ˜„ํ• ์ง€ ์ด๋ฅผ ํ†ตํ•ด AI๊ฐ€ ์˜ˆ์ˆ ์„ฑ๊ณผ ์ž๊ธฐ ์ธ์‹์„ ๊ฐ€์ง€๊ณ  ์žˆ๋Š”..

[์ธ๊ณต์ง€๋Šฅ, ๋”ฅ๋Ÿฌ๋‹] ๋ฐ์ดํ„ฐ ํด๋Ÿฌ์Šคํ„ฐ๋ง๊ณผ ์ฐจ์› ์ถ•์†Œ

๋ฐ์ดํ„ฐ ํด๋Ÿฌ์Šคํ„ฐ๋ง๊ณผ ์ฐจ์› ์ถ•์†Œ๋Š” ๋ณต์žกํ•œ ๋ฐ์ดํ„ฐ๋ฅผ ๋” ์‰ฝ๊ฒŒ ์ดํ•ดํ•˜๊ณ  ๋ถ„์„ํ•˜๊ธฐ ์œ„ํ•ด ์‚ฌ์šฉํ•˜๋Š” ์ค‘์š”ํ•œ ๋ฐ์ดํ„ฐ ๋ถ„์„ ๊ธฐ๋ฒ•์ด๋‹ค. ์ด ๋‘ ๊ฐ€์ง€ ๊ธฐ๋ฒ•์„ ํšจ๊ณผ์ ์œผ๋กœ ํ™œ์šฉํ•˜๋ฉด ๋ฐ์ดํ„ฐ ์†์— ์ˆจ๊ฒจ์ง„ ๊ฐ€์น˜๋ฅผ ๋ฐœ๊ฒฌํ•˜๊ณ  ๋” ๋‚˜์€ ์˜์‚ฌ๊ฒฐ์ •์„ ํ•  ์ˆ˜ ์žˆ๋‹ค.๋งˆ์น˜ ๋ณต์žกํ•œ ๋ ˆ๊ณ  ๋ธ”๋ก๋“ค์„ ์ข…๋ฅ˜๋ณ„๋กœ ๋ถ„๋ฅ˜ํ•˜๊ณ , ๊ทธ ํฌ๊ธฐ๋ฅผ ์ค„์—ฌ์„œ ํ•œ๋ˆˆ์— ๋ณด๊ธฐ ์‰ฝ๊ฒŒ ๋งŒ๋“œ๋Š” ๊ฒƒ๊ณผ ๋น„์Šทํ•˜๋‹ค.๋ฐ์ดํ„ฐ ํด๋Ÿฌ์Šคํ„ฐ๋ง์ด๋ž€?์ •์˜: ๋น„์Šทํ•œ ํŠน์ง•์„ ๊ฐ€์ง„ ๋ฐ์ดํ„ฐ๋“ค์„ ๋ฌถ์–ด์„œ ๊ทธ๋ฃน(ํด๋Ÿฌ์Šคํ„ฐ)์„ ๋งŒ๋“œ๋Š” ์ž‘์—…์˜ˆ์‹œ:๊ณ ๊ฐ ๋ฐ์ดํ„ฐ๋ฅผ ๋ถ„์„ํ•˜์—ฌ ๊ตฌ๋งค ํŒจํ„ด์ด ๋น„์Šทํ•œ ๊ณ ๊ฐ๋“ค์„ ๊ทธ๋ฃน์œผ๋กœ ๋‚˜๋ˆ„์–ด ๊ฐ ๊ทธ๋ฃน์— ๋งž๋Š” ๋งˆ์ผ€ํŒ… ์ „๋žต์„ ์ˆ˜๋ฆฝํ•œ๋‹ค.๋ฌธ์„œ๋“ค์„ ๋‚ด์šฉ์ด ๋น„์Šทํ•œ ๊ฒƒ๋ผ๋ฆฌ ๋ฌถ์–ด์„œ ์ฃผ์ œ๋ฅผ ํŒŒ์•…ํ•  ์ˆ˜ ์žˆ๋‹ค.๋ชฉ์ :๋ฐ์ดํ„ฐ ์†์— ์ˆจ๊ฒจ์ง„ ๊ตฌ์กฐ๋ฅผ ์ฐพ์•„๋ƒ„๋ฐ์ดํ„ฐ๋ฅผ ์š”์•ฝํ•˜๊ณ  ์‹œ๊ฐํ™”ํ•˜์—ฌ ์ดํ•ด๋ฅผ ๋•๊ธฐ์ด์ƒ์น˜๋ฅผ ํƒ์ง€ํ•˜๊ธฐ์ฐจ์› ์ถ•์†Œ๋ž€?์ •์˜: ..

transforms.Normalize์˜ ์—ญํ• ๊ณผ ์ค‘์š”์„ฑ

`transforms.Normalize`์˜ ์—ญํ• ๊ณผ ์ค‘์š”์„ฑ๋”ฅ๋Ÿฌ๋‹ ๋ชจ๋ธ์„ ํ•™์Šตํ•  ๋•Œ, ์ž…๋ ฅ ๋ฐ์ดํ„ฐ์˜ ์ „์ฒ˜๋ฆฌ๋Š” ๋งค์šฐ ์ค‘์š”ํ•œ ๋‹จ๊ณ„ ์ค‘ ํ•˜๋‚˜์ด๋‹ค. ํŠนํžˆ ์ด๋ฏธ์ง€ ๋ฐ์ดํ„ฐ๋ฅผ ๋‹ค๋ฃฐ ๋•Œ, `Normalize`๋ผ๋Š” ๊ณผ์ •์€ ๋ฐ์ดํ„ฐ์˜ ๋ถ„ํฌ๋ฅผ ์กฐ์ •ํ•˜์—ฌ ํ•™์Šต ์„ฑ๋Šฅ์„ ํฌ๊ฒŒ ํ–ฅ์ƒ์‹œํ‚ฌ ์ˆ˜ ์žˆ๋‹ค. `torchvision.transforms.Normalize`๋Š” ์ด๋Ÿฐ ์ „์ฒ˜๋ฆฌ ๊ณผ์ •์—์„œ ์ค‘์š”ํ•œ ์—ญํ• ์„ ํ•œ๋‹ค.`transforms.Normalize`๋ž€?`transforms.Normalize`๋Š” ์ด๋ฏธ์ง€ ๋ฐ์ดํ„ฐ์˜ ๊ฐ ์ฑ„๋„์— ๋Œ€ํ•ด ํ‰๊ท ๊ณผ ํ‘œ์ค€ํŽธ์ฐจ๋ฅผ ์‚ฌ์šฉํ•ด ์ •๊ทœํ™”๋ฅผ ์ˆ˜ํ–‰ํ•˜๋Š” ํ•จ์ˆ˜์ด๋‹ค. ์ด ํ•จ์ˆ˜๋Š” ์ž…๋ ฅ ์ด๋ฏธ์ง€์˜ ํ”ฝ์…€ ๊ฐ’๋“ค์„ ํ‰๊ท ์„ ๊ธฐ์ค€์œผ๋กœ 0์— ๊ฐ€๊นŒ์šด ๊ฐ’์œผ๋กœ ๋งŒ๋“ค๊ณ , ํ‘œ์ค€ํŽธ์ฐจ๋ฅผ ์‚ฌ์šฉํ•ด ๋ถ„ํฌ๋ฅผ ์ผ์ •ํ•˜๊ฒŒ ์กฐ์ •ํ•ด์ค€๋‹ค. ์ด๋ ‡๊ฒŒ ํ•˜๋ฉด ๋ชจ๋ธ์ด ํ•™์Šตํ•  ๋•Œ ๋ฐ์ดํ„ฐ์˜ ๋ถ„..