ํผ์…‰ํŠธ๋ก (Perceptron) ์ด๋ž€?
ยท
AI
์‚ฌ์ „์  ์ •์˜ [์ •๋ณด ํ†ต์‹ ] ์‹œ๊ฐ๊ณผ ๋‡Œ์˜ ๊ธฐ๋Šฅ์„ ๋ชจ๋ธํ™”ํ•œ ํ•™์Šต ๊ธฐ๊ณ„. ํ•™์Šต ๊ธฐ๋Šฅ๊ณผ ์ง€์  ๋™์ž‘ ๊ธฐ๋Šฅ์„ ๊ฐ€์ง„ ํŒจํ„ด ์ธ์‹์˜ ๊ธฐ๊ณ„๋กœ์„œ, ๋ฏธ๊ตญ ์ฝ”๋„ฌ ๋Œ€ํ•™์˜ ๋กœ์  ๋ธ”๋žซ์ด ๋งŒ๋“ค์—ˆ๋‹ค. ํผ์…‰ํŠธ๋ก  ์ด๋ž€? ์‹ ๊ฒฝ๋ง์˜ ๊ฐ€์žฅ ์ž‘์€ ๋‹จ์œ„ํ•˜๋‚˜์˜ ๋‰ด๋Ÿฐ (๋‡Œ์„ธํฌ) ์„ ๋ชจ๋ฐฉํ•œ ๊ฒƒ ํผ์…‰ํŠธ๋ก ์˜ ์ˆ˜ํ•™์  ์ •์˜ ๋”๋ณด๊ธฐy = f(wโ‚xโ‚ + wโ‚‚xโ‚‚ + ... + wโ‚™xโ‚™ + b) ๐Ÿ’ก : ํ•™์Šต ๋Œ€์ƒxโ‚, xโ‚‚, ..., xโ‚™: ์ž…๋ ฅ๊ฐ’ (input features) : ์™ธ๋ถ€์—์„œ ๋“ค์–ด์˜ค๋Š” ๋ฐ์ดํ„ฐ (์žฌ๋ฃŒ) wโ‚, wโ‚‚, ..., wโ‚™: ๊ฐ€์ค‘์น˜ ๐Ÿ’ก (weights) : ๊ฐ ์ž…๋ ฅ๊ฐ’์ด ๊ฒฐ๊ณผ์— ์ฃผ๋Š” ์˜ํ–ฅ๋ ฅ(์ค‘์š”๋„). ์–ด๋–ค ์ž๊ทน์— ๋” ์˜ˆ๋ฏผํ•˜๊ฒŒ ๋ฐ˜์‘ํ• ์ง€ ๊ฒฐ์ •ํ•˜๋Š” ๋ชจ๋ธ์˜ ์„ฑ๊ฒฉ. ์„ ์˜ ๊ธฐ์šธ๊ธฐ. b: ํŽธํ–ฅ ๐Ÿ’ก (bias) : ๋‰ด๋Ÿฐ์ด ์–ผ๋งˆ๋‚˜ ์‰ฝ๊ฒŒ ํ™œ์„ฑํ™”๋ ์ง€ ์กฐ์ ˆ..
์ž„๋ฒ ๋”ฉ(Embedding)๊ณผ ๋ฒกํ„ฐ ๊ณต๊ฐ„
ยท
AI
๋ฒกํ„ฐ ์ž„๋ฒ ๋”ฉ์ด๋ž€ ? ์‚ฌ๋žŒ์ด ์ดํ•ดํ•˜๋Š” ๋ฐ์ดํ„ฐ๋ฅผ ๊ธฐ๊ณ„๊ฐ€ ์ดํ•ดํ•  ์ˆ˜ ์žˆ๋Š” ์ˆซ์ž(vector) ๋กœ ๋ณ€ํ™˜ํ•˜๋Š” ๊ณผ์ •. ๋‹จ์ˆœํžˆ ์ˆซ์ž๋กœ ๋ฐ”๊พธ๋Š” ๊ฒƒ์ด์•„๋‹ˆ๋ผ, ๋‹จ์–ด ์‚ฌ์ด์˜ ์˜๋ฏธ์  ๊ด€๊ณ„ (semantic meaning) ์„ ๋‹ด์•„๋‚ธ๋‹ค๋Š” ๊ฒƒ์ด ํ•ต์‹ฌ์ž„. ๋”๋ณด๊ธฐ ๋”๋ณด๊ธฐ ์Šค์นผ๋ผ(Scalar) : ๋‹จ์ผ ์ˆซ์ž, ํฌ๊ธฐ๋งŒ ์žˆ๊ณ  ๋ฐฉํ–ฅ์€ ์—†๋Š” "ํ•˜๋‚˜์˜ ์ˆซ์ž", ๋ณ€์ˆ˜ ํ•˜๋‚˜์— ๋‹ด๊ธด ๊ฐ’. ๋ฒกํ„ฐ(Vector) : ์ˆซ์ž์˜ ๋‚˜์—ด, ์ฆ‰ 1์ฐจ์› ๋ฐฐ์—ด. ์—ฌ๋Ÿฌ ์ˆซ์ž๋ฅผ ์ˆœ์„œ๋Œ€๋กœ ๋‚˜์—ดํ•œ ๊ฒƒ. "ํฌ๊ธฐ"์™€ "๋ฐฉํ–ฅ"์„ ๊ฐ€์ง. ํ–‰๋ ฌ(Matrix) : ์ˆซ์ž์˜ ํ‘œ (2์ฐจ์› ๋ฐฐ์—ด) : ๋ฒกํ„ฐ๋“ค์„ ์—ฌ๋Ÿฌ๊ฐœ ์Œ“์•„์˜ฌ๋ฆฐ ๊ฐ’. ex. ์—‘์…€์‹œํŠธ. ๋ฒกํ„ฐ ๊ณต๊ฐ„ ๋‹ค์ฐจ์› ์ˆ˜ํ•™์  ๊ณต๊ฐ„ ๋‹จ์ˆœํ•œ ์ˆซ์ž ๋‚˜์—ด์ด ์•„๋‹Œ, ๋ฐ์ดํ„ฐ ๊ฐ„์˜ ๊ฑฐ๋ฆฌ์™€ ๋ฐฉํ–ฅ์„ ํ†ตํ•ด ๊ด€๊ณ„๋ฅผ ์ •..