๊ตฌ๋ ์๋์ ์ํ ๋์งํธํฌ๋ฐ์ด [์ํฐํ๋ผ์ด์ฆํซ์ด์] ์ฃผ๊ฐ ๋ด์ค๋ ํฐ!
๋์งํธํฌ๋ฐ์ด๊ฐ ๋ฐํํ๋ ํ ํฌ ๋ด์ค๋ ํฐ์ ๋๋ค. ๋งค์ผ ์์นจ ์ฃผ 4ํ โฒ์(๋ธ๋ก์ฒด์ธ) โฒํ(๊ธ์ตยทํํ ํฌ) โฒ์(๋ชจ๋น๋ฆฌํฐ) โฒ๋ชฉ(์ํฐํ๋ผ์ด์ฆ ์ปดํจํ ) ๋ฑ ๋ถ์ผ๋ณ ์ด์๋ฅผ ์์ ํ ์ฃผ๊ฐ ํซ์ด์ ๋ด์ค๋ ํฐ๋ก ๋ ์ ์ฌ๋ฌ๋ถ์ ์ฐพ์๊ฐ๋๋ค.
๋์งํธํฌ๋ฐ์ด ํ ํฌ ๋ด์ค๋ ํฐ๋ฅผ ํตํด ์ต์ ๋ด์ค์ IT ํธ๋ ๋๋ฅผ ๋์น์ง ์๊ณ ๋ฐ์๋ณด์ธ์. ๊ฐํธํ ๊ตฌ๋ ์ผ๋ก ์ฌ๋ฌ๋ถ์ ์ธ์ฌ์ดํธ์ ๊น์ด๋ฅผ ๋ํ ์ ์์ต๋๋ค!
[์ํฐํ๋ผ์ด์ฆ ๊ฐ์ถ๋ฆฐ ๋ด์ค]
๋ฒค์ฒ ํฌ์ ๊ฑฐํ์ด ๊บผ์ง๋ฉด์ ์ด์ต์ ๋ด์ง ๋ชปํ๋ ์คํํธ์ ๋ค์ด ๋ฌธ์ ๋ซ๊ฑฐ๋ ํ๊ฐ์ ํ๋ฆฌ๋ ์ฌ๋ก๊ฐ ์์ถํ๊ณ ์๋ค. ๊ณต์ ์คํผ์ค ๊ธฐ์ ์์ํฌ, ํฌ์ค์ผ์ด ์คํํธ์ ์ฌ๋ฆฌ๋ธAI, ํ๋ฌผ ์คํํธ์ ์ฝ๋ณด์ด, ๊ฐ์ ์ฉ ๊ฑด์ถ ์คํํธ์ ๋น๋ธ๊ฐ ์ต๊ทผ ํ๋๋ฌ ์ฌ์ด์ ํ์ฐ์ ์ ์ฒญํ๊ฑฐ๋ ๋ฌธ์ ๋ซ์๋ค. ์์ํฌ๋ 110์ต๋ฌ๋ฌ, ์ฌ๋ฆฌ๋ธAI๋ 8์ต5200๋ง๋ฌ๋ฌ, ์ฝ๋ณด์ด๋ 9์ต๋ฌ๋ฌ, ๋น๋ธ๋ 6์ต4700๋ง๋ฌ๋ฌ ๊ท๋ชจ ๋์ ํฌ์๋ฅผ ์ ์นํ์ง๋ง ์ง๊ธ์ ์คํจํ ์คํํธ์ ์๋ฆฌ๋ฅผ ๋ฃ๋ ์ฒ์ง๊ฐ ๋๋ค.
ํ๋ ๋ง์ดํฌ๋ก์ํํธ ์ธ์ ์ ์์ ๊ฑฐ์ ํ๋ ํด๋ผ์ฐ๋ ์ธํ๋ผ ์คํํธ์ ๋ํฌ์์ดํ(D2iQ)๋ ๋ฌธ์ ๋ซ๋๋ค. ๋ํฌ์์ดํ๋ ์ฃผ์ฃผ๋ค๋ค์ ํ์ฌ๊ฐ ํ์๋๋ฉฐ ์์ฐ์ ์ฑ๊ถ์๋ค์๊ฒ ๋๋ ์ค ๊ฒ์ด๋ผ๋ ๋ด์ฉ์ ๊ณต์งํ๋ค๋ ์์์ด๋ค.
๋ค๋ฅธ ๋ถ์ผ์ ๋นํด AI๋ฅผ ์ฃผํน๊ธฐ๋ก ํ๋ ์คํํธ์ ๋ค์ ์๋์ ์ผ๋ก ์๊ธ์ ์ ์นํ๊ธฐ๊ฐ ์ฌ์ด ํ๊ฒฝ์ด๋ค. ์คํํธ์ ํฌ์ ์ ๋ณด ์๋น์ค์ธ ํผ์น๋ถ์ ๋ฐ๋ฅด๋ฉด ์ฌํด 3๋ถ๊ธฐ ๋ฏธ๊ตญ ์คํํธ์ ๋ค์ ๋ํ ํฌ์๋ ์ ๋ ๋๋น 21% ๊ฐ์ํ์ง๋ง AI ์คํํธ์ ์ ์๋๋ก ์งํ๋ ํฌ์๋ 150% ๋์๋ค. ํ์ง๋ง ์ ์ AI ์คํํธ์ ๋ค์ด ํฌ์๋ฅผ ์ ์นํ๊ธฐ๋ ์ด์ ๋ณด๋ค ํ๋ค์ด์ก๋ค๋ ์๊ธฐ๋ ๋ค๋ฆฐ๋ค.
์์ฑํ AI๋ฅผ ์ง์ ๊ฐ๋ฐํ๊ฑฐ๋ ํ์ฉํ๋ ค๋ ๊ตญ๋ด์ธ ํ
ํฌ ๊ธฐ์
๋ค์ ํ๋ณด๋ ์ด๋ฒ ์ฃผ์๋ ๊ณ์๋๋ค.
๋ง์ดํฌ๋ก์ํํธ, ์์ฒด ์ธ์ด ๋ชจ๋ธ ํ์ด2 ์ถ์
๊ตฌ๊ธ์ด ์ต๊ทผ ๋ฐํํ ์ต์ ๊ฑฐ๋ ์ธ์ด ๋ชจ๋ธ(LLM) ์ ๋ฏธ๋(Gemini)๋ฅผ ์ธ๋ถ ๊ธฐ์ ๊ณผ ๊ฐ๋ฐ์๋ค์ด ์ ํ๋ฆฌ์ผ์ด์ ๊ฐ๋ฐ์ ํ์ฉํ ์ ์๋๋ก 13์ผ(ํ์ง์๊ฐ) ๊ตฌ๊ธ ํด๋ผ์ฐ๋๋ฅผ ํตํด ๊ณต๊ฐํ๋ค. ๋ง์ดํฌ๋ก์ํํธ๊ฐ ์์ฒด ๊ฐ๋ฐํ ๊ฑฐ๋ ์ธ์ด ๋ชจ๋ธ(LLM) ์๋ฒ์ ์ธ ํ์ด2(Phi-2)๋ฅผ ์ ๋ณด์๋ค. ๋ฉํ๋ ๋ฏธ์คํธ๋ด ๊ฐ์ ํ์ฌ๋ค์ด ์ ๋ณด์ธ LLM๋ค๋ณด๋ค ๊ท๋ชจ๋ ์์ผ๋ฉด์๋ ๋ ๋์ ์ฑ๋ฅ์ ์ ๊ณตํ๋ค๋๊ฒ ํ์ฌ์ธก ์ค๋ช ์ด๋ค. ์๋ง์กด์น์๋น์ค(Amazon Web Services, Inc., ์ดํ AWS)๋ ํด๋ผ์ฐ๋ ๊ธฐ๋ฐ ์ปจํ์ผํฐ ์๋น์ค์ธ ์๋ง์กด ์ปค๋ฅํธ(Amazon Connect)์ฉ ์์ฑํ AI ๊ธฐ๋ฅ์ ์ ๋ณด์๋ค.
ํ์๋ AI์ ๋ฌธ๊ธฐ์ ์ ์์ผ์๋ค์ โ๊ธฐ์ ์ฉ ์์ฑํAI ๊ด๋ จํด ์์ ์ก์๋ค. ํ์๊ฐ ์ถ์ ์์ ์ธ LLM์ ํ์ ๋ฐ์ดํฐ ๊ด๋ฆฌ ์ญ๋๊ณผ ์ ์์ผ์๋ค ํ์ธํ๋ ๊ฒฝํ ๋ฐ ๋ ธํ์ฐ๋ฅผ ์ ๋ชฉํด ๋ํ๋จผํธ AI๋ฅผ ๊ณต๋๊ฐ๋ฐํ๋ค. ๋ง์ธ์ฆ์ค์ปดํผ๋๊ฐ ์ฐ๋ฆฌ์ํ ์์ฑํ AI ๊ธฐ๋ฐ AI ๋ฑ ์ปค ์๋น์ค๊ตฌ์ถ ์ฌ์ ์ ์ฐฉ์ํ๋ค.
์ ๋ฌธ ์ํํธ์จ์ด ๊ฐ๋ฐ ๋๊ตฌ ์ ์ฒด ์ ฏ๋ธ๋ ์ธ์ฆ๋ AI ๊ธฐ๋ฐ ์ฝ๋ฉ ๋น์์ธ AI ์ด์์คํดํธ๋ฅผ ์ ์ ์ถ์ํ๋ค. AI ์ด์์คํดํธ๋ ์ ฏ๋ธ๋ ์ธ์ฆ IDE ์ฌ์ฉ์์๊ฒ ๋จผ์ ์ ๊ณต๋๋ฉฐ ๋ค๋ฅธ ์ ํ๋ค๋ก๋ ํ๋๋ ์์ ์ด๋ค.
๋ง์ดํฌ๋ก์ํํธ๋ ์๋ง์กด์น์๋น์ค(AWS), ๊ตฌ๊ธ ํด๋ผ์ฐ๋ ๊ฐ์ ํ์ฌ ๋น ํ ํฌ๋ค์ ์๋๋ก ์๋ ์ ๋น ํ ํฌ IBM์ด AI ์ฌ์ ์ ๊ฐํํ๊ณ ์๋ค. ์ด๋ฒ์๋ ์ฑ๊ณผ๋ฅผ ๋ผ ์ ์์์ง ์ฃผ๋ชฉ๋๋ค. ์ค๋๊ฐ์ด ์ข ๋จ์ด์ง๋ค๋ ํ๊ฐ๋ฅผ ๋ฐ๊ณ ์๋ค. ์์จ ๋ธ๋๋๋ฅผ ์์ธ์ ์ผ์ฌ์ฐจ๊ฒ ์ถ์งํ๋ ํฌ์ค์ผ์ด AI ์ฌ์ ๋ฑ์ 2๋ ์ ์ ๋ฆฌํ ์ดํ์๋ ํนํ ๊ทธ๋ ๋ค.
์์ฑํ AI ๊ท์ ์ด๋ป๊ฒ?
๊ฐ๊ตญ ์ ๋ถ๊ฐ AI ๊ท์ ๋ฅผ ๋๊ณ ๋ค์ํ ์์ง์์ ๋ณด์ด๊ณ ์๋ ๊ฐ์ด๋ฐ ์ ๋ฝ์ฐํฉ(EU)์ด ๋จผ์ AI ๊ท์ ๋ฒ์์ ๋ด๋จ๋ค. ์ฃผ์ EU ๊ธฐ๊ด๋ค์ด ์ฐธ์ฌํ ๊ฐ์ด๋ฐ ๋์จ ํฉ์์์ธ EU AI ๋ฒ(The EU AI Act)์ AI๋ฅผ ๊ฒจ๋ฅํ ์ฒซ ๋ฒ๋ฅ ๋ก ์๊ตฌ ๊ตญ๊ฐ๋ค์์ ์ฒ์์ผ๋ก ๋ฒ์ผ๋ก AI๋ฅผ ๊ด๋ฆฌํ๋ ๊ฒ์ด์ด์ ๊ด๋ จ ์ ๊ณ ๊ธ๋ก๋ฒ ์ ๋ต์๋ ์ํฅ์ ๋ฏธ์น ์ ๋ง์ด๋ค.
AI์ฉ ์นฉ ์์ฅ์์ ์๋น๋์๋ฅผ ํฅํ AMD์ ๋์ ์ด ๋๊ธธ์ ๋์๋ค. AMD๋ ์ ํ AI์นฉ์ธ MI300X์ MI300A๋ฅผ ์ ๋ณด์๋ค. ํ์ฌ ์ธก์ ๋ฐ๋ฅด๋ฉด AMD ์ ํ ์นฉ์ ํ์ฌํ ์์คํ ์ฑ๋ฅ์ ์๋น๋์ ์ต์์ GPU์ธ H100 ๊ธฐ๋ฐ ์์คํ ๊ณผ ๋น์ทํ ์์ค์ด๋ค. ๊ฑฐ๋ ์ธ์ด ๋ชจ๋ธ(LLM) ์์คํ ์์ ์๋ต์ ์์ฑํ๋ ์๋๋ ๋ ๋น ๋ฅด๋ค.
๋ธ์ โ๋ธ ํ์์ฃ์ง XE9680(Dell PowerEdge XE9680)โ ์๋ฒ์ ๊ณง ์ถ์ ์์ ์ธ โAMD ์ธ์คํ ํธ MI300X(AMD Instinct MI300X)โ ๊ฐ์๊ธฐ๋ฅผ ์ง์ํ๋ฉฐ AI ์ฑ๋ฅ์ ๋ํ ์ ํ์ง๋ฅผ ํ๋ํ๋ค. ๋ธ์ AI ๊ตฌํ ๋ฐ ์์ฑํ AI ์ฑ๋ฅ์ ์ ๊ณตํ๊ธฐ ์ํด โ๋ธ ํ์์ค์ผ์ผโ ์คํ ๋ฆฌ์ง์ ์๋ก์ด ๊ธฐ๋ฅ์ ์ถ๊ฐํ๊ณ ์ํํธ์จ์ด๋ ์ ๋ฐ์ดํธํ๋ค.
VM์จ์ด ์ธ์๋ฅผ ๋ง๋ฌด๋ฆฌํ ๋ฐ๋์ฒด ๊ธฐ์ ๋ธ๋ก๋์ปด์ ํ๋ณด๋ ๊ด์ฌ์ ๋๊ณ ์๋ค. ๋ธ๋ก๋์ปด์ ์์ผ๋ก VM์จ์ด ํต์ฌ ๋น์ฆ๋์ค์ ์ง์คํ๊ณ ์นด๋ณธ ๋ธ๋ ๋ณด์๊ณผ ์๋์ ์ ์ปดํจํ (USC) ์ฌ์ ์ ๋งค๊ฐํ ๊ณํ์ด๋ค. VM์จ์ด ํด๋ผ์ฐ๋ํ์ด๋ฐ์ด์ ์ฌ์ ๋ถ๋ ์๊ตฌ ๋ผ์ด์ ์ค ํ๋งค๋ฅผ ์ข ๋ฃํ๊ณ , ๋ธ๋ก๋์ปด VM์จ์ด ์๋ฃจ์ ๊ตฌ๋ ์ผ๋ก ์์ ํ ์ ํํ๋ค. ์ด์ ๋ฐ๋ผ ๊ธฐ์กด ๊ตฌ๋งค์๋ ํ์ด๋ธ๋ฆฌ๋๊ตฌ๋งคํ๋ก๊ทธ๋จ ๋ฐ ๊ตฌ๋ ๊ตฌ๋งคํ๋ก๊ทธ๋จ(HPP, SPP) ํฌ๋ ๋ง์ผ๋ก ๊ตฌ๋ ๋ผ์ด์ ์ค๋ก ์ ํํ๊ฒ ๋๋ค. VM์จ์ด๋ ๋ธ๋ง์ ์ด์ค์ด์๋ธ์คํฌ๋ฆฝ์ (BYOL) ์ต์ ์ ๋์ ํ๋ค.
๋ณด์ ์ชฝ์์ ์ ๋ก ํธ๋ฌ์คํธ ๋ณด์ ํ์ฐ์ ์ํ ์ ๋ถ ์์ง์์ด ๊ตฌ์ฒดํ๋๋ ๋ชจ์์๋ค. ๊ณผํ๊ธฐ์ ์ ๋ณดํต์ ๋ถ์ ํ๊ตญ์ธํฐ๋ท์งํฅ์(KISA)์ '์ ๋กํธ๋ฌ์คํธ ๋ณด์๋ชจ๋ธ ์ค์ฆ ๋ฐ ๊ฒ์ฆ ์ถ์ง๊ฒฝ๊ณผ๋ฅผ ๋ฐํํ๊ณ ํฅํ ๊ณํ์ ๊ณต์ ํ๋ค.
๋๊ธ
์๊ฒฌ์ ๋จ๊ฒจ์ฃผ์ธ์