์ผ | ์ | ํ | ์ | ๋ชฉ | ๊ธ | ํ |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | 7 |
8 | 9 | 10 | 11 | 12 | 13 | 14 |
15 | 16 | 17 | 18 | 19 | 20 | 21 |
22 | 23 | 24 | 25 | 26 | 27 | 28 |
29 | 30 | 31 |
- Absolute
- AGI
- ai
- AI agents
- AI engineer
- AI researcher
- ajax
- algorithm
- Algorithms
- aliases
- Array ๊ฐ์ฒด
- ASI
- bayes' theorem
- Bit
- Blur
- BOM
- bootstrap
- canva
- challenges
- ChatGPT
- Today
- In Total
A Joyful AI Research Journey๐ณ๐
[1] 241030 Task: ํ ํฐ, ํ๋ผ๋ฏธํฐ [Goorm All-In-One Pass! AI Project Master - 4th Session, Day 1] ๋ณธ๋ฌธ
[1] 241030 Task: ํ ํฐ, ํ๋ผ๋ฏธํฐ [Goorm All-In-One Pass! AI Project Master - 4th Session, Day 1]
yjyuwisely 2024. 10. 31. 09:09Teacher: ๋ณต์ตํ์๋ ๋ถ๋ค์ ์ํด ์ ๊ฐ ๊ณต์ ํ notion์ ์ค์ตํ๊ณ ์ฐพ์๋ณผ ๋ด์ฉ์ ๋ค์๊ณผ ๊ฐ์ด ์ถ๊ฐํด ๋์์ต๋๋ค. ์ฐธ๊ณ ํด ์ฃผ์ธ์.
https://platform.openai.com/tokenizer
ํ ํฐ
GPT ๋ชจ๋ธ์์์ ํ ํฐ(token)์ ๋งค์ฐ ๊ฐ๋จํ ๊ฐ๋ ์ด๋ค. ์ผ์ ์ธ์ด์์ ์ฐ๋ฆฌ๊ฐ ์ฌ์ฉํ๋ ๋จ์ด๋ ๋ฌธ์ฅ ๋ถํธ์ ๊ฐ์ ๊ฒ์ ์๊ฐํ๋ฉด ๋๋ค. GPT ๋ชจ๋ธ์์๋ ์ด๋ฌํ ๋จ์ด๋ ๋ฌธ์ฅ ๋ถํธ๋ฅผ ๋ ์์ ๋จ์๋ก ์ชผ๊ฐ ๊ฒ์ ํ ํฐ์ด๋ผ๊ณ ๋ถ๋ฅธ๋ค. ์๋ฅผ ๋ค์ด, ์์ด์์ "cat"์ด๋ผ๋ ๋จ์ด๋ ํ๋์ ํ ํฐ์ผ๋ก ์ฒ๋ฆฌ๋ ์ ์์ง๋ง, ๋ ๊ธด ๋จ์ด๋ ๋ณต์กํ ๋ฌธ์๋ ์ฌ๋ฌ ๊ฐ์ ํ ํฐ์ผ๋ก ๋๋ ์ ์๋ค.
์ ๋ ฅ ํน์ ์ถ๋ ฅํ๋๋ฐ ์ฌ์ฉ๋๋ ํ ์คํธ ๋ฐ์ดํฐ ๋ด ‘์๋ฏธ๋ฅผ ๊ฐ์ง ์ต์ ๋ง์ ๋จ์(ํํ์)’๊ฐ ํ ํฐ
https://hildilid.tistory.com/26
ํ๋ผ๋ฏธํฐ
๋จธ์ ๋ฌ๋์์ ํ๋ผ๋ฏธํฐ๋ ๋ชจ๋ธ์ด ๋ฐ์ดํฐ๋ก๋ถํฐ ํ์ตํ๋ ๊ฐ๋ค์ ๋งํฉ๋๋ค. ์๋ฅผ ๋ค์ด, ์ ํ ํ๊ท ๋ชจ๋ธ์์์ ๊ฐ์ค์น(weight)์ ์ ํธ(bias), ๋๋ ์ธ๊ณต์ ๊ฒฝ๋ง์์์ ๊ฐ์ค์น์ ํธํฅ ๋ฑ์ด ํ๋ผ๋ฏธํฐ์ ํด๋นํฉ๋๋ค. ์ด๋ฌํ ํ๋ผ๋ฏธํฐ๋ค์ ํ์ต ๋ฐ์ดํฐ๋ฅผ ํตํด ์ ๋ฐ์ดํธ๋๊ณ , ๋ชจ๋ธ์ ์์ธก์ ๊ฒฐ์ ํ๋ ํต์ฌ ์์์ ๋๋ค.
๋ฐ๋ฉด์ ํ์ดํผํ๋ผ๋ฏธํฐ๋ ๋ชจ๋ธ์ ํ์ต ๋ฐฉ์์ ๊ฒฐ์ ํ๋ ๊ฐ๋ค๋ก, ์ฌ์ฉ์์ ์ํด ๋ฏธ๋ฆฌ ์ค์ ๋๋ฉฐ ํ์ต ๊ณผ์ ์์ ์๋์ผ๋ก ๋ณ๊ฒฝ๋์ง ์์ต๋๋ค. ์๋ฅผ ๋ค์ด, ๊ฒฐ์ ํธ๋ฆฌ์ ์ต๋ ๊น์ด, kNN์ ์ด์ ์, ์ ๊ฒฝ๋ง์ ํ์ต๋ฅ ๊ณผ ์ํฌํฌ ์ ๋ฑ์ด ํ์ดํผํ๋ผ๋ฏธํฐ์ ํด๋นํฉ๋๋ค.
https://mozenworld.tistory.com/entry/๋จธ์ ๋ฌ๋-๋ชจ๋ธ์-ํ๋ผ๋ฏธํฐ์-ํ์ดํผํ๋ผ๋ฏธํฐ