IT/๋น„์ฆˆ๋‹ˆ์Šค

๐Ÿ’ก[IT์†Œ์‹ #264] ์ค‘๊ตญ ๋”ฅ์‹œํฌ, ์˜คํ”ˆ ์†Œ์Šค ์‚ฌ์ƒ ์ตœ๋Œ€ ๊ทœ๋ชจ LLM ์ถœ์‹œ

2024.12.30 | ์กฐํšŒ 240 |
0
|
์‹คํ‚ค ๋‰ด์Šค๋ ˆํ„ฐ์˜ ํ”„๋กœํ•„ ์ด๋ฏธ์ง€

์‹คํ‚ค ๋‰ด์Šค๋ ˆํ„ฐ

์งง๊ณ  ๊ฐ„๋‹จํ•˜๊ฒŒ ๋งค์ผ ์•„์นจ ๋”ฑ ์„ธ ์ค„๋กœ ์•Œ์•„๋ณด๋Š” ITยท๋น„์ฆˆ๋‹ˆ์Šค ์†Œ์‹

โœ… ๊ตฌ๋…ํ•˜๋ฉด ๋ฌด๋ฃŒ๋กœ ํ‰์ผ ๋งค์ผ ์•„์นจ 7์‹œ์— ํฅ๋ฏธ๋กœ์šด ITยท๋น„์ฆˆ๋‹ˆ์Šค ์†Œ์‹ 5๊ฐ€์ง€๋ฅผ ๋ณด๋‚ด๋“œ๋ ค์š”๐Ÿ˜Š

 

1๏ธโƒฃ ๋”ฅ์‹œํฌ, ์˜คํ”ˆ ์†Œ์Šค ์‚ฌ์ƒ ์ตœ๋Œ€ ๊ทœ๋ชจ LLM ์ถœ์‹œ 2๏ธโƒฃ MS, ์ˆ˜์ต ํ™•๋Œ€ ์œ„ํ•ด ์ผ๋ถ€ ๊ตญ๊ฐ€์„œ '์ฝ”ํŒŒ์ผ๋Ÿฟ' ๊ฐ•๋งค 3๏ธโƒฃ ์˜คํ”ˆAI "๊ตฌ๊ธ€ยท์•„๋งˆ์กด์„œ ์ฑ—GPT ํŒ๋งคํ•˜๊ณ  ์‹ถ์–ด" 4๏ธโƒฃ 6๊ฐœ์›” ๋’ค ์„ฑ๋Šฅ 50% ํ–ฅ์ƒ๋œ 2์„ธ๋Œ€ '๋ธ”๋ž™์›ฐ' ์นฉ ์ถœ์‹œ 5๏ธโƒฃ ์ฑ—GPT, 7์‹œ๊ฐ„ ๋™์•ˆ ์ ‘์† ์žฅ์•  ๋ฐœ์ƒ

 

๋”ฅ์‹œํฌ, ์˜คํ”ˆ ์†Œ์Šค ์‚ฌ์ƒ ์ตœ๋Œ€ ๊ทœ๋ชจ LLM ์ถœ์‹œ

์ž๋ฃŒ = ์…”ํ„ฐ์Šคํ†ก
์ž๋ฃŒ = ์…”ํ„ฐ์Šคํ†ก

โ˜‘๏ธ ์ค‘๊ตญ์˜ ๋”ฅ์‹œํฌ๊ฐ€ ์—ญ๋Œ€ ์ตœ๋Œ€ ๊ทœ๋ชจ์˜ ์˜คํ”ˆ ์†Œ์Šค ๋Œ€ํ˜•์–ธ์–ด๋ชจ๋ธ(LLM)์ธ โ€˜๋”ฅ์‹œํฌ-V3(DeepSeek-V3)โ€™๋ฅผ ๊ณต๊ฐœํ–ˆ์–ด์š”.

โ˜‘๏ธ ์ด ๋ชจ๋ธ์€ ๋ฉ”ํƒ€์˜ '๋ผ๋งˆ 3.1 405B', ์•Œ๋ฆฌ๋ฐ”๋ฐ”์˜ 'ํ์› 2.5 72B'์™€ ๊ฐ™์€ ๊ธฐ์กด ์˜คํ”ˆ ์†Œ์Šค ๋ชจ๋ธ๋“ค์„ ๋›ฐ์–ด๋„˜๋Š” ์„ฑ๋Šฅ์„ ๊ฐ–์ท„์œผ๋ฉฐ, ์˜คํ”ˆAI์˜ 'GPT-4o'์กฐ์ฐจ ๋Šฅ๊ฐ€ํ•œ๋‹ค๊ณ  ๊ฐ•์กฐํ–ˆใ…

โ˜‘๏ธ ๋”ฅ์‹œํฌ-V3๋Š” ์ฝ”๋”ฉ, ๋ฒˆ์—ญ, ์—์„ธ์ด ์ž‘์„ฑ, ์ด๋ฉ”์ผ ์ž‘์„ฑ ๋“ฑ ์„ค๋ช…์  ํ”„๋กฌํ”„ํŠธ์— ๊ธฐ๋ฐ˜ํ•œ ๋‹ค์–‘ํ•œ ํ…์ŠคํŠธ ์ž‘์—…์„ ์ˆ˜ํ–‰ํ•  ์ˆ˜ ์žˆ์–ด์š”.

 

MS, ์ˆ˜์ต ํ™•๋Œ€ ์œ„ํ•ด ์ผ๋ถ€ ๊ตญ๊ฐ€์„œ '์ฝ”ํŒŒ์ผ๋Ÿฟ' ๊ฐ•๋งค

์ž๋ฃŒ = MS
์ž๋ฃŒ = MS

โ˜‘๏ธ ๋งˆ์ดํฌ๋กœ์†Œํ”„ํŠธ(MS)๊ฐ€ 'MS 365' ๊ฐœ์ธ์šฉ ์ œํ’ˆ์— ์ธ๊ณต์ง€๋Šฅ(AI) ๋น„์„œ์ธ '์ฝ”ํŒŒ์ผ๋Ÿฟ'์„ ๊ฐ•์ œ๋กœ ๋ฐ€์–ด๋„ฃ์œผ๋ฉฐ ๊ตฌ๋…๋ฃŒ๋ฅผ ์ธ์ƒํ•œ ๊ฒƒ์œผ๋กœ ์ „ํ•ด์กŒ์–ด์š”.

โ˜‘๏ธ MS๊ฐ€ ์ตœ๊ทผ ํ˜ธ์ฃผ์™€ ์ผ๋ถ€ ๋™๋‚จ์•„์‹œ์•„ ๊ตญ๊ฐ€๋“ค์—์„œ ์›Œ๋“œ์™€ ์—‘์…€, ํŒŒ์›Œํฌ์ธํŠธ๋ฅผ ํฌํ•จํ•œ MS 365 ๊ฐœ์ธ์šฉ ๊ตฌ๋… ์„œ๋น„์Šค์— AI ๋น„์„œ ์ฝ”ํŒŒ์ผ๋Ÿฟ์„ ๋ฒˆ๋“ค๋กœ ์ œ๊ณตํ•˜๋ฉฐ ๊ฐ€๊ฒฉ์„ ์˜ฌ๋ ธ์–ด์š”.

โ˜‘๏ธ ์ด์— ๋”ฐ๋ผ ์†Œ์…œ ๋ฏธ๋””์–ด์—์„œ๋Š” ์‚ฌ์šฉ์ž๋“ค์˜ ๋ถˆ๋งŒ์ด ํ™•์‚ฐ๋˜๋Š” ์ƒํ™ฉ์ด์—์š”. ํŠนํžˆ ์ฝ”ํŒŒ์ผ๋Ÿฟ์„ ์ œ์™ธํ•˜๋Š” ๊ฒƒ์€ ๋ถˆ๊ฐ€๋Šฅ ํ•œ๊ฒƒ์œผ๋กœ ์•Œ๋ ค์กŒ์–ด์š”.

 

์˜คํ”ˆAI "๊ตฌ๊ธ€ยท์•„๋งˆ์กด์„œ ์ฑ—GPT ํŒ๋งคํ•˜๊ณ  ์‹ถ์–ด"

์ž๋ฃŒ = ์˜คํ”ˆAI
์ž๋ฃŒ = ์˜คํ”ˆAI

โ˜‘๏ธ ์˜คํ”ˆAI๊ฐ€ ์˜๋ฆฌ ๊ธฐ์—… ์ „ํ™˜์„ ์ถ”์ง„ํ•˜๋ฉฐ ์ตœ๋Œ€ ํˆฌ์ž์‚ฌ์ธ ๋งˆ์ดํฌ๋กœ์†Œํ”„ํŠธ(MS)์™€ ๊ด€๋ จ ํ˜‘์ƒ์„ ์ง„ํ–‰ํ•˜๋ฉฐ ์ง„ํ†ต์„ ๊ฒช๋Š” ๊ฒƒ์œผ๋กœ ์•Œ๋ ค์กŒ์–ด์š”.

โ˜‘๏ธ ํŠนํžˆ MS์˜ ๋…์ ์  ๊ถŒํ•œ์—์„œ ๋ฒ—์–ด๋‚˜๊ธฐ ์œ„ํ•ด ๋‹ค์–‘ํ•œ ๋ฐฉ์•ˆ์„ ๋ชจ์ƒ‰ํ•˜๋Š” ๊ฒƒ์œผ๋กœ ๋ณด์—ฌ์š”.

โ˜‘๏ธ ๋งŒ์•ฝ ์˜คํ”ˆAI๊ฐ€ ์˜๋ฆฌ ํšŒ์‚ฌ๋กœ ์ „ํ™˜๋œ๋‹ค๋ฉด, MS๋Š” ์ „ํ†ต์ ์ธ ์ง€๋ถ„ ๊ตฌ์กฐ๋ฅผ ํ†ตํ•ด ํšŒ์‚ฌ์— ์ง์ ‘์ ์ธ ์ง€๋ถ„์„ ๊ฐ€์ง€๊ฒŒ ๋ผ์š”.

 

6๊ฐœ์›” ๋’ค ์„ฑ๋Šฅ 50% ํ–ฅ์ƒ๋œ 2์„ธ๋Œ€ '๋ธ”๋ž™์›ฐ' ์นฉ ์ถœ์‹œ

์ž๋ฃŒ = ์—”๋น„๋””์•„
์ž๋ฃŒ = ์—”๋น„๋””์•„

โ˜‘๏ธ ์„ค๊ณ„ ์ƒ ๋ฌธ์ œ๋กœ ๋ธ”๋ž™์›ฐ 'B200' GPU์˜ ๋Œ€๋Ÿ‰ ์ƒ์‚ฐ์ด ์˜ˆ์ƒ๋ณด๋‹ค ๋Šฆ์–ด์งˆ ์ˆ˜ ์žˆ๋‹ค๋Š” ์šฐ๋ ค์—๋„ ๋ถˆ๊ตฌ, 2์„ธ๋Œ€ ๋ธ”๋ž™์›ฐ 'B300' GPU์˜ ์ถœ์‹œ ์ผ์ •์€ ๊ณ„ํš๋Œ€๋กœ ์ง„ํ–‰๋  ๊ฒƒ์ด๋ผ๋Š” ์˜ˆ์ธก์ด ๋“ฑ์žฅํ–ˆ์–ด์š”.

โ˜‘๏ธ B300 GPU์˜ ์ฃผ์š” ์ฐจ๋ณ„ํ™” ์š”์†Œ ์ค‘ ํ•˜๋‚˜๋Š” ๋ฉ”๋ชจ๋ฆฌ ์šฉ๋Ÿ‰์ด์—์š”.

โ˜‘๏ธ AI ๋ชจ๋ธ ํ›ˆ๋ จ๊ณผ ์ถ”๋ก  ์†๋„๊ฐ€ ํฌ๊ฒŒ ํ–ฅ์ƒํ•˜๊ณ , ํŠนํžˆ ์ถ”๋ก  ๋น„์šฉ์ด ์ตœ๋Œ€ 3๋ฐฐ๊นŒ์ง€ ์ ˆ๊ฐ๋  ๊ฒƒ์œผ๋กœ ๊ธฐ๋Œ€๋ผ์š”.

 

์ฑ—GPT, 7์‹œ๊ฐ„ ๋™์•ˆ ์ ‘์† ์žฅ์•  ๋ฐœ์ƒ

์ž๋ฃŒ = ์…”ํ„ฐ์Šคํ†ก
์ž๋ฃŒ = ์…”ํ„ฐ์Šคํ†ก

โ˜‘๏ธ ์˜คํ”ˆAI์˜ '์ฑ—GPT'์™€ '์†Œ๋ผ'๊ฐ€ ์„œ๋ฒ„ ๋‹ค์šด์œผ๋กœ 7์‹œ๊ฐ„ ๋™์•ˆ ์ •์ƒ ์„œ๋น„์Šค๊ฐ€ ์ด๋ค„์ง€์ง€ ์•Š์•˜์–ด์š”.

โ˜‘๏ธ ์ด๋ฒˆ ๋ฌธ์ œ๋Š” ์˜คํ”ˆAI๊ฐ€ ์‚ฌ์šฉํ•˜๋Š” ๋งˆ์ดํฌ๋กœ์†Œํ”„ํŠธ(MS)์˜ ๋ฐ์ดํ„ฐ์„ผํ„ฐ ์ •์ „ ์‚ฌํƒœ์— ๋”ฐ๋ฅธ ๊ฒƒ์œผ๋กœ ๋ฐํ˜€์กŒ์–ด์š”.

โ˜‘๏ธ ์ฑ—GPT๋Š” ์ตœ๊ทผ ์žฆ์€ ์„œ๋น„์Šค ์ค‘๋‹จ์œผ๋กœ ๋งŽ์€ ์‚ฌ์šฉ์ž๋ฅผ ๋ถˆํŽธ์— ๋น ๋œจ๋ฆฌ๊ณ  ์žˆ์–ด์š”.

๋‹ค๊ฐ€์˜ฌ ๋‰ด์Šค๋ ˆํ„ฐ๊ฐ€ ๊ถ๊ธˆํ•˜์‹ ๊ฐ€์š”?

์ง€๊ธˆ ๊ตฌ๋…ํ•ด์„œ ์ƒˆ๋กœ์šด ๋ ˆํ„ฐ๋ฅผ ๋ฐ›์•„๋ณด์„ธ์š”

์ด๋ฒˆ ๋‰ด์Šค๋ ˆํ„ฐ ์–ด๋– ์…จ๋‚˜์š”?

์‹คํ‚ค ๋‰ด์Šค๋ ˆํ„ฐ ๋‹˜์—๊ฒŒ โ˜•๏ธ ์ปคํ”ผ์™€ โœ‰๏ธ ์ชฝ์ง€๋ฅผ ๋ณด๋‚ด๋ณด์„ธ์š”!

๋Œ“๊ธ€

์˜๊ฒฌ์„ ๋‚จ๊ฒจ์ฃผ์„ธ์š”

ํ™•์ธ
์˜๊ฒฌ์ด ์žˆ์œผ์‹ ๊ฐ€์š”? ์ œ์ผ ๋จผ์ € ๋Œ“๊ธ€์„ ๋‹ฌ์•„๋ณด์„ธ์š” !

๋‹ค๋ฅธ ๋‰ด์Šค๋ ˆํ„ฐ

ยฉ 2025 ์‹คํ‚ค ๋‰ด์Šค๋ ˆํ„ฐ

์งง๊ณ  ๊ฐ„๋‹จํ•˜๊ฒŒ ๋งค์ผ ์•„์นจ ๋”ฑ ์„ธ ์ค„๋กœ ์•Œ์•„๋ณด๋Š” ITยท๋น„์ฆˆ๋‹ˆ์Šค ์†Œ์‹

๋ฉ”์ผ๋ฆฌ ๋กœ๊ณ 

์ž์ฃผ ๋ฌป๋Š” ์งˆ๋ฌธ ์„œ๋น„์Šค ์†Œ๊ฐœ์„œ ์˜ค๋ฅ˜ ๋ฐ ๊ธฐ๋Šฅ ๊ด€๋ จ ์ œ๋ณด

์„œ๋น„์Šค ์ด์šฉ ๋ฌธ์˜admin@team.maily.so

๋ฉ”์ผ๋ฆฌ ์‚ฌ์—…์ž ์ •๋ณด

๋ฉ”์ผ๋ฆฌ (๋Œ€ํ‘œ์ž: ์ดํ•œ๊ฒฐ) | ์‚ฌ์—…์ž๋ฒˆํ˜ธ: 717-47-00705 | ์„œ์šธ ์„œ์ดˆ๊ตฌ ๊ฐ•๋‚จ๋Œ€๋กœ53๊ธธ 8, 8์ธต 11-7ํ˜ธ

์ด์šฉ์•ฝ๊ด€ | ๊ฐœ์ธ์ •๋ณด์ฒ˜๋ฆฌ๋ฐฉ์นจ | ์ •๊ธฐ๊ฒฐ์ œ ์ด์šฉ์•ฝ๊ด€ | ๋ผ์ด์„ ์Šค