๊ตฌ๋ ์๋์ ์ํ ๋์งํธํฌ๋ฐ์ด [์ํฐํ๋ผ์ด์ฆํซ์ด์] ์ฃผ๊ฐ ๋ด์ค๋ ํฐ!
๋์งํธํฌ๋ฐ์ด๊ฐ ๋ฐํํ๋ ํ ํฌ ๋ด์ค๋ ํฐ์ ๋๋ค. ๋งค์ผ ์์นจ ์ฃผ 4ํ โฒ์(๋ธ๋ก์ฒด์ธ) โฒํ(๊ธ์ตยทํํ ํฌ) โฒ์(๋ชจ๋น๋ฆฌํฐ) โฒ๋ชฉ(์ํฐํ๋ผ์ด์ฆ ์ปดํจํ ) ๋ฑ ๋ถ์ผ๋ณ ์ด์๋ฅผ ์์ ํ ์ฃผ๊ฐ ํซ์ด์ ๋ด์ค๋ ํฐ๋ก ๋ ์ ์ฌ๋ฌ๋ถ์ ์ฐพ์๊ฐ๋๋ค.
๋์งํธํฌ๋ฐ์ด ํ ํฌ ๋ด์ค๋ ํฐ๋ฅผ ํตํด ์ต์ ๋ด์ค์ IT ํธ๋ ๋๋ฅผ ๋์น์ง ์๊ณ ๋ฐ์๋ณด์ธ์. ๊ฐํธํ ๊ตฌ๋ ์ผ๋ก ์ฌ๋ฌ๋ถ์ ์ธ์ฌ์ดํธ์ ๊น์ด๋ฅผ ๋ํ ์ ์์ต๋๋ค!
[์ํฐํ๋ผ์ด์ฆ ๊ฐ์ถ๋ฆฐ ๋ด์ค]
๊ตฌ๊ธ ํด๋ผ์ฐ๋๋ ์์ฒด Arm ์๋ฒ ์นฉ ํฌ์
AI ์ปดํจํ ๋ ์ด์ค์์ ์ฐ์๋ฅผ ์ ํ๊ธฐ ์ํด ์์ฒด ๊ฐ๋ฐํ ์นฉ์ ํฌ์ ํ๋ ค๋ ๋น ํด๋ผ์ฐ๋๋ค ํ๋ณด๊ฐ ๊ธ๋ฌผ์ด์ ํ๊ณ ์๋ค.
๊ธฐ์ ๋ค์ด ํ์ฉํ๋ ์ปดํจํ ์ธํ๋ผ ์์ฅ์ ์ฃผ๋ํ๋ ๋น ํด๋ผ์ฐ๋๋ค์ ์ธํ , AMD, ์๋น๋์ ๋ฑ ๋ถ์ผ๋ณ ์นฉ ์ ๋ฌธ ์ ์ฒด๋ค๊ณผ ๊ณ์ ํ๋ ฅํ๋ฉด์๋ ๋ ์ ์นฉ ๊ฐ๋ฐ์๋ ์๋๋ฅผ ๋ด๋ ๋ชจ์ต์ด๋ค. ๋ฐ๋์ฒด ํ์ธ์ ์ด๋ค ๋ณ์๋ก ์์ฉํ ์ง ๋น์ํ ๊ด์ฌ์ด ์ ๋ฆฐ๋ค.
๊ตฌ๊ธ ํด๋ผ์ฐ๋๊ฐ ์ต๊ทผ ์์ฒด ๊ฐ๋ฐํ Arm ๊ธฐ๋ฐ ์๋ฒ ์นฉ ๊ธฐ๋ฐ ํด๋ผ์ฐ๋ ์ปดํจํ ์๋น์ค๋ฅผ ๋ฐํํ๋ฉด์ ์๋ง์กด์น์๋น์ค(AWS), ๋ง์ดํฌ๋ก์ํํธ, ๊ตฌ๊ธ ํด๋ผ์ฐ๋๋ก ๋ํ๋๋ ํด๋ผ์ฐ๋ ๋น 3๋ ๋ชจ๋ AI์ ๋ฒ์ฉ ์๋ฒ ๋ชจ๋ ์์ฒด ๊ฐ๋ฐํ ์นฉ ๋ผ์ธ์ ์ ๊ฐ์ถ๊ฒ ๋๋ค.
AWS๋ 2018๋ Arm ๊ธฐ๋ฐ ์๋ฒ์นฉ ๊ทธ๋๋นํค(Graviton)์ ์ ๋ณด์๊ณ ์ง๋ํด๋ง ๋ฏธ๊ตญ ๋ผ์ค๋ฒ ์ด๊ฑฐ์ค์์ ์งํํ ์ฐ๋ก ์ปจํผ๋ฐ์ค โAWS ๋ฆฌ์ธ๋ฒคํธ 2023(AWS re:Invent 2023)โ์์ ๊ทธ๋๋นํค4(Graviton4)๋ ๋ฐํํ๋ค. AWS๋ ๊ทธ๋๋นํค ์ธ์ AI ๋ชจ๋ธ ํ๋ จ์ฉ ์นฉ์ AWS ํธ๋ ์ด๋์(AWS Trainium), ์ถ๋ก ์ฉ ์นฉ์ ์ธํผ๋ฐ์์(AWS Inferentia)๋ ์ ๊ณตํ๋ค. ์ง๋ํด ๋ฆฌ์ธ๋ฒคํธ์์ ํธ๋ ์ด๋์ 2์ธ๋ ๋ฒ์ ์ ๊ณต๊ฐํ๋ค.
MS, ์ ์ ํด๋ผ์ฐ๋์ ์์ฒด ๊ฐ๋ฐ ์นฉ ๋ณธ๊ฒฉ ํฌ์
๋ง์ดํฌ๋ก์ํํธ๋ 11์ Arm ๊ธฐ๋ฐ ์ฝ๋ฐํธ100 ์นฉ์ ์ ๋ณด์ด๊ณ ์์ฒด ์๋ฒ์นฉ์ ํ์ฉํ ํด๋ผ์ฐ๋ ์๋น์ค์ ๋ณธ๊ฒฉ ๋ฐ์ด๋ค์๋ค. ๋ง์ดํฌ๋ก์ํํธ๊ฐ 2025๋ ๊น์ง ์ผ๋ณธ AI ์ปดํจํ ์์ฅ ๊ณต๋ต ์ผํ์ผ๋ก ํ์ง ๋ฐ์ดํฐ์ผํฐ ๊ฐํ์ 29์ต๋ฌ๋ฌ ๊ท๋ชจ๋ฅผ ํฌ์ํ๊ธฐ๋ก ํ๋ค.
์์ฑํ AI๋ฅผ ์ง์ ๊ฐ๋ฐํ๊ฑฐ๋ ํ์ฉํ๋ ค๋ ๊ตญ๋ด์ธ ํ ํฌ ๊ธฐ์ ๋ค ํ๋ณด๋ ์ด๋ฒ ์ฃผ์๋ ๊ณ์๋๋ค.
๊ตฌ๊ธ ํด๋ผ์ฐ๋๊ฐ ๊ณ ๊ฐ๋ค์ด ์ ๋ฌด ๊ด๋ จ ํ๋ ์ ํ ์ด์ ์ ์ํ ์์์ ๊ตฌํํ ์ ์๋๋ก ์ง์ํ๋ AI ๊ธฐ๋ฐ ๊ธฐ์ ์ฉ ์์ ์ ์ ์ ํ๋ฆฌ์ผ์ด์ ๊ตฌ๊ธ ๋น๋(Vids)๋ฅผ ๋ฐํํ๋ค.
์คํAI-๋ฉํ, ์ฐจ์ธ๋ LLM ๊ณง ์ถ์
์ต๊ฐ์ ๊ฑฐ๋์ธ์ด๋ชจ๋ธ(LLM)์ ๋๋ฌ์ผ AI ํ์ฌ๋ค ๊ฐ ๊ฒฝ์์ด ๊ณ ์กฐ๋๊ณ ์๋ ๊ฐ์ด๋ฐ ์์ฅ์ ๊ด์ฌ์ ์ด์ ์คํAI์ ๋ฉํ๊ฐ ๋ด๋์ ์ฐจ์ธ๋ LLM์ผ๋ก ์ ๋ฆฌ๋ ์์์ด๋ค. ํ์ด๋ธ์ ํ์์ค(FT)์ ๋ฐ๋ฅด๋ฉด ์คํAI์ ๋ฉํ๋ ์ถ๋ก (reasoning)๊ณผ ๊ณํ(planning) ์ญ๋๋ ๊ฐ์ถ LLM์ ์ค๋น์ค์ด์ด์ ๋๊ธธ์ ๋๋ค.
์ฝ์ค๋กฑ๋ฒ ๋ํธ๊ฐ ์ํฐํ๋ผ์ด์ฆ์ฉ AIํ๋ซํผ โ์ฝ์์ด์์ค(KOAIWORX)โ๋ฅผ ๊ฐ๋ฐํ๊ณ ์ ์ฌ IT์๋ฃจ์ ๊ณ ๋ํ์ ๋์ ๋ค. ์ฝ์์ด์์ค๋ GPT-4, ๋ผ๋ง2(Llama2) ๋ฑ ๊ฑฐ๋๋ชจ์ธ์ด๋ชจ๋ธ(LLM)์ ๋ค์ํ IT์์คํ ์ ์ฐ๊ฒฐํ ์ ์๋๋ก AI์๋น์ค๋ฅผ ํ์คํํ ํ๋ซํผ์ด๋ค. ๋ฏธ์์ ๋ณด๊ธฐ์ ์ ์ง์ ์์ฐํ ์๋ฃจ์ โ์ค๋งํธTA ๊ธฐ์ ์ฉ sLLM(Small LLM, ๊ฒฝ๋๋ํ์ธ์ด๋ชจ๋ธ) โM(MISO)-LLM(์ดํ M-LLM)โ์ ์ถ์ํ๋ค. โM-LLMโ์ ๋งค๊ฐ ๋ณ์ ์๋ฅผ ์ค์ด๊ณ ๊ฒ์์ฆ๊ฐ์์ฑ(RAG)๊ณผ ๋ฏธ์ธ์กฐ์ (FINE-TUNING)์ ํตํด ๊ธฐ์ ๊ณผ ๊ธฐ๊ด๋ค ํนํ๋ ์์ ์ ์ต์ ํ๋ผ ์๋ค.
์ผ๋ก ๋จธ์คํฌ xAI, ์์ฑํAI '์ฉ์ ์ ์' ๊ฐ์ธ
์ผ๋ก ๋จธ์คํฌ๊ฐ ์ค๋ฆฝํ AI ์คํํธ์ xAI๊ฐ 30์ต๋ฌ๋ฌ ๊ท๋ชจ ํฌ์๋ฅผ ์ ์นํ๊ธฐ ์ํ ํ์์ ์งํ์ค์ด๋ผ๋ ์์์ด๋ค. ์ผ๋ก ๋จธ์คํฌ๋ ์กฐ๋ง๊ฐ ์ธ๊ณต์ง๋ฅ(AI)๊ฐ ์ธ๊ฐ๋ณด๋ค ๋ ๋๋ํด์ง ๊ฒ์ด๋ผ๋ ๊ฒฌํด๋ ๋ด๋จ๋ค.
์ ํ ๋์์ด๋ ์ถ์ ์ธ ์กฐ๋ ์์ด๋ธ์ ์ ์ํธ๋จผ ์คํAI CEO๊ฐ ์๊ธฐ ํฌํฉํด ์ถ์งํ๋ ์์ฑํ AI ๊ธฐ๋ฐ ๊ฐ์ธ์ฉ ํ๋์จ์ด ์คํํธ์ ์ด ์ ๋ ฅ ๋ฒค์ฒ ํฌ์ ํ์ฌ(VC)๋ค ์๋๋ก ์๊ธ ์ ์น ํ๋ณด๋ฅผ ์์ํ๋ค๊ณ ํ๋ค.
์คํAI๋ ์ฑGPT ๊ธฐ์ ์ฉ ๋ฒ์ ์ธ ์ฑGPT ์ํฐํ๋ผ์ด์ฆ๋ก ์ ์ ํ๋ ๋ชจ์ต์ด๋ค. ๋ธ๋๋ ๋ผ์ดํธ์บก ์คํAI ์ต๊ณ ์ด์์ฑ ์์(COO)์ ๋ฐ๋ฅด๋ฉด ์ฑGPT ์ํฐํ๋ผ์ด์ฆ ๊ฐ์ ์๊ฐ ์ง๋ 1์ ์ฝ 15๋ง๋ช ์์ ํ์ฌ 60๋ง๋ช ์ผ๋ก ์ฆ๊ฐํ๋ค. ์คํAI๊ฐ SKํ ๋ ์ฝค๊ณผ ํ๋ ฅํด ๋ง์ถคํ ์์ฑํ AI ๋ชจ๋ธ์ ๊ฐ๋ฐํ ์ ์๋๋ก ์ง์ํ๋ ํ๋ก๊ทธ๋จ์ธ '์ปค์คํ ๋ชจ๋ธ'(Custom Model)์ ๊ฐ์ ํ๊ณ ์๋ค๋ ๋ด์ฉ๋ ๊ณต๊ฐํ๋ค.
์ฝํ์ด, ๋น์ฆ๋์ค์ฉ '์ปค๋งจ๋R+' ์ ๋ดฌ
์ํฐํ๋ผ์ด์ฆ LLM ๊ฐ๋ฐ์ ์ง์คํ๋ AI ์คํํธ์ ์ฝํ์ด(Cohere)๋ ์ ํ AI ๋ชจ๋ธ ์ปค๋งจ๋R+(Command R+)๋ฅผ ์ถ์ํ๋ค. ์ปค๋งจ๋R+๋ ์คํAI GPT-4 ํฐ๋ณด ๋ชจ๋ธ๋ณด๋ค ์ ๋ ดํ๊ณ ๋น์ฆ๋์ค ์ฉ๋์ ์ ํฉํ๋ค.
๋ฐ์ดํฐ๋ฒ ์ด์ค ์๋น์ค ์ ์ฒด ๋ฐ์ดํฐ์คํ์ค๊ฐ ๊ฐ๋ฐ์๋ค์ด ์์ฑํ AI ์ ํ๋ฆฌ์ผ์ด์ ์ ๋ณด๋ค ๋นจ๋ฆฌ ๊ฐ๋ฐํ ์ ์๋๋ก ์ง์ํ๊ธฐ ์ํด ์คํ์์ค ํจํค์ง ๋ญํ๋ก์ฐ(Langflow) ๊ฐ๋ฐ์ฌ์ธ ๋ก๊ทธ์คํ์ด์ค(Logspace)๋ฅผ ์ธ์ํ๊ธฐ๋ก ํ๋ค. ๊ธ๋ก๋ฒ ํผ๋ธ๋ฆญ ํด๋ผ์ฐ๋, ์ฃ์ง ์ปดํจํ ๋ฐ ์ฃ์งAI ์ ๋ฌธ๊ธฐ์ ์ง์ฝ์ด(Gcore)๋ ์๋น๋์ H100์ ๊ธฐ๋ฐ์ผ๋ก ํ AI ํผ๋ธ๋ฆญ ํด๋ผ์ฐ๋ ์๋น์ค๋ฅผ ์คํํ๊ณ ํ๊ตญ์์ฅ ๊ณต๋ต์ ๋ณธ๊ฒฉํํ๋ค.
๊ฑฐ๋์ธ์ด๋ชจ๋ธ(LLM) ๊ธฐ๋ฐ ์์ฑํ AI๋ฅผ ๊ฐ๋ฐํ๋ ํ์ฌ๋ค์ด ๋ชจ๋ธ ํ๋ จ์ ์ธ ๊ด์ฐฎ์ ๋ฐ์ดํฐ ๊ตฌํ๊ธฐ๊ฐ ์ด๋ ค์์ง๋ฉด์ ๊ด๋ จ ์ ์ฒด๋ค์ด ์์ ๊ฐ์ผ๋ฉด ํ๊ธฐ ํ๋ค์์, ๋ฒ์ ์ผ๋ก ๋ฌธ์ ๊ฐ ๋ ์์ง๊ฐ ์๋ ์ ์ ๊น์ง ๊ฑฐ๋ถํ์ง ์๋ ์ฅ๋ฉด์ด ์ฐ์ถ๋๊ณ ์๋ค. ์คํAI, ๋ฉํ, ๊ตฌ๊ธ ๋ชจ๋ ๊ตฌ์ค์์ ์ค๋ฅด๋ด๋ฆฌ๊ณ ์๋ค.
์ ํ๋ธ CEO "์คํAI, ์ ํ๋ธ ์ด์ฉ์ฝ๊ด ์๋ฐ"
๋ ๋ชจํ ์ ํ๋ธ ์ต๊ณ ๊ฒฝ์์(CEO)๋ ์คํAI๊ฐ ๋์์ ์์ฑ ๋ชจ๋ธ ์๋ผ(Sora)์ ํ๋ จ์ ์ ํ๋ธ ์ฝํ ์ธ ๋ฅผ ํ์ฉํ ๊ฒฝ์ฐ ์ ํ๋ธ ์ด์ฉ์ฝ๊ด์ ์๋ฐํ ๊ฒ์ด๋ผ๊ณ ์ฃผ์ฅํ๊ณ ๋์ฐ๋ค.
๊ด๊ณ ์ ๊ณ๋ ์์ฑํAI ํ์ฉ์ ๊ด์ฌ์ด ๋ง์๋ฐ, AI๊ฐ ๋ง๋ ๊ฒฐ๊ณผ๋ฌผ์ ๋ํด ๊ฑฐ๋ถ๊ฐ์ ๋๋ผ๋ ์๋น์๋ค๋ ์์ง ๋ง์ ์ํฉ์ด๋ค. ์ด์ ๊ด๋ จ ์ ๊ณ๋ ์์ฑํAI๋ฅผ ํ์ฉํ๋ฉด์๋ ๊ฐ๊ธ์ AI๊ฐ ๋ง๋ ๊ฒ์ฒ๋ผ ๋ณด์ด์ง ์๊ฒ ํ๋๋ฐ ๊ณต์ ๋ค์ด๋ ๋ชจ์ต์ด๋ค.
์๊ฒฌ์ ๋จ๊ฒจ์ฃผ์ธ์