๊ตฌ๋ ์๋์ ์ํ ๋์งํธํฌ๋ฐ์ด [์ํฐํ๋ผ์ด์ฆํซ์ด์] ์ฃผ๊ฐ ๋ด์ค๋ ํฐ!
๋์งํธํฌ๋ฐ์ด๊ฐ ๋ฐํํ๋ ํ ํฌ ๋ด์ค๋ ํฐ์ ๋๋ค. ๋งค์ผ ์์นจ ์ฃผ 4ํ โฒ์(๋ธ๋ก์ฒด์ธ) โฒํ(๊ธ์ตยทํํ ํฌ) โฒ์(๋ชจ๋น๋ฆฌํฐ) โฒ๋ชฉ(์ํฐํ๋ผ์ด์ฆ ์ปดํจํ ) ๋ฑ ๋ถ์ผ๋ณ ์ด์๋ฅผ ์์ ํ ์ฃผ๊ฐ ํซ์ด์ ๋ด์ค๋ ํฐ๋ก ๋ ์ ์ฌ๋ฌ๋ถ์ ์ฐพ์๊ฐ๋๋ค.
๋์งํธํฌ๋ฐ์ด ํ ํฌ ๋ด์ค๋ ํฐ๋ฅผ ํตํด ์ต์ ๋ด์ค์ IT ํธ๋ ๋๋ฅผ ๋์น์ง ์๊ณ ๋ฐ์๋ณด์ธ์. ๊ฐํธํ ๊ตฌ๋ ์ผ๋ก ์ฌ๋ฌ๋ถ์ ์ธ์ฌ์ดํธ์ ๊น์ด๋ฅผ ๋ํ ์ ์์ต๋๋ค!
[์ํฐํ๋ผ์ด์ฆ ๊ฐ์ถ๋ฆฐ ๋ด์ค]
๋ง์ดํฌ๋ก์ํํธ, ํด๋ผ์ฐ๋ํ์ '์ ๋ฐฉ'
๊ธ๋ก๋ฒ ๋น ํด๋ผ์ฐ๋ ํ์ฌ๋ค์ 3๋ถ๊ธฐ ์ฑ์ ํ๊ฐ ์์ ๊ณต๊ฐ๋๊ณ ์๋ค. ์์ฑAI๊ฐ ๊ด๋ จ ์ ๊ณ ์ฑ์ ํ์ ์ง์ ์ ์ธ ์ํฅ์ ๋ฏธ์น๊ณ ์๋ค๋ ๋ถ์์ด ๋์ค๊ณ ์์ด ์ฃผ๋ชฉ๋๋ค.
์ผ์ฐ๊ฐ์น ์์ฑAI์ ๊ณต๊ฒฉ์ ์ผ๋ก ํฌ์ํ ๋ง์ดํฌ๋ก์ํํธ๋ ์ง๋ ๋ถ๊ธฐ ์ ์ ํด๋ผ์ฐ๋ ์ฌ์ ์ด 29% ์ฑ์ฅํ ๋ฐ๋ฉด ๊ตฌ๊ธ ํด๋ผ์ฐ๋๋ ๋งค์ถ์ด 22% ๋์ด๋๋๋ฐ ๊ทธ์ณค๋ค. ๋ง์ดํฌ๋ก์ํํธ CFO์ ๋ฐ๋ฅด๋ฉด ์ง๋ ๋ถ๊ธฐ ํด๋ผ์ฐ๋ ๋งค์ถ ์ฑ์ฅ๋ฅ ์์ ์์ฑAI๊ฐ ์ฐจ์งํ ๋น์ค์ 3%ํฌ์ธํธ ์์ค์ด๋ผ๊ณ ํ๋ค.
์ง๋ ๋ถ๊ธฐ ๊ตฌ๊ธ ํด๋ผ์ฐ๋ ๋งค์ถ์ 84์ต๋ฌ๋ฌ๋ฅผ ๊ธฐ๋กํ๊ณ ์์ ์ด์ต์ 2์ต6600๋ง๋ฌ๋ฌ๋ก 3๋ถ๊ธฐ ์ฐ์ ํ์ ํ์ง์ ์ด์ด๊ฐ๋ค. ํ์ง๋ง 3๋ถ๊ธฐ ๊ตฌ๊ธ ํด๋ผ์ฐ๋ ์์ ์ด์ต์ 2๋ถ๊ธฐ 3์ต9500๋ง๋ฌ๋ฌ๋ณด๋ค๋ ์ค์๋ค.
์๋ง์กด์น์๋น์ค, 3๋ถ๊ธฐ ํฌํธํด๋ฆฌ์ค ๋ํ์ฅ
์ธ๊ณ ์ต๋ ํผ๋ธ๋ฆญ ํด๋ผ์ฐ๋ ์๋น์ค ์ ์ฒด์ธ ์๋ง์กด์น์๋น์ค(AWS)๋ 26์ผ(ํ์ง์๊ฐ) 3๋ถ๊ธฐ ์ฑ์ ํ๊ฐ ๊ณต๊ฐ๋๋ค.
์๋ง์กด์น์๋น์ค๋ 3๋ถ๊ธฐ ํฌํธํด๋ฆฌ์ค๋ฅผ ํฌ๊ฒ ํ์ฅํ๋ค. ์์ ๋งค๋์ง๋ ๊ธฐ๋ฐ ๋ชจ๋ธ(foundation model: FM) ์๋น์ค์ธ ๋ฒ ๋๋ก์ ์ ๋ณด์๊ณ ์กฐ์ง๋ค์ด ๋ค์ํ ์ ํ๋ฆฌ์ผ์ด์ ์ฑ๋๋ค๊ณผ ๋ฐ์ดํฐ ์คํ ์ด๋ค์ ์ ์ฅ๋ผ ์๋ ๋ฐ์ดํฐ๋ค์ ๋ถ์ํด ์ฐ๊ฒฐํ ์ ์๋๋ก ์ง์ํ๋ ์ํฐํฐ ๋ ์กธ๋ฃจ์ (Entity Resolution)๋ ๊ณต์ ์ถ์ํ๋ค. ์์ฑ ์ธ์๊ณผ ์์ฑAI ๊ธฐ์ ์ด ์ ๋ชฉ๋ ์์ ๋ฌธ์ ์๋ ์์ฑ ์๋น์ค์ธ ํฌ์ค์คํฌ๋ผ์ด๋ธ(HealthScribe)๋ ์ ๋ณด์๋ค. ์ด๊ฐ์ ์ ํ๊ตฐ ํ์ฅ์ด ๋งค์ถ์ ์ด๋ ์ ๋ ์ํฅ์ ๋ฏธ์น ์ง ์ฃผ๋ชฉ๋๋ค.
์์ฑAI๋ฅผ ์ง์ ๊ฐ๋ฐํ๊ฑฐ๋ ํ์ฉํ๋ ค๋ ๊ตญ๋ด์ธ ํ ํฌ ๊ธฐ์ ๋ค ํ๋ณด๋ ์ด๋ฒ ์ฃผ์๋ ๊ณ์๋๋ค. ์ฐ์ ๊ตญ๋ด ๋ํ ํต์ ์ฌ์ธ SKํ ๋ ์ฝค๊ณผ KT๊ฐ ์์ฑAI ์์ฅ ๊ณต๋ต์ ์๋๋ฅผ ๋ด๋ ๋ชจ์ต์ด๋ค.
SKํ ๋ ์ฝค, ํต์ ์ฌ ํนํ LLM ๊ฐ๋ฐ
SKํ ๋ ์ฝค์ ๋์ด์นํ ๋ ์ฝค๊ณผ ๊ฐ๊ตญ ํต์ ์ฌ๋ค์ด ์์ฑ AI ๋ชจ๋ธ์ ๊ฐ๋ฐํ ์ ์๋ โํต์ ์ฌํฅ AI ๊ฑฐ๋์ธ์ด๋ชจ๋ธ(LLM)โ์ ๊ณต๋ ๊ฐ๋ฐํ๊ธฐ๋ก ํ๋ค. KT๊ฐ ํ๊ตญ ์ ๋ณดํต์ ๊ธฐ์ (ICT) ๊ธฐ์ ์ธ ์์ค๋ฏผ(Jasmine) ๊ทธ๋ฃน๊ณผ KT ์ด๊ฑฐ๋ AI โ๋ฏฟ์โ์ ํ์ฉํ Thai-LLM(ํ๊ตญ์ด ๋ํ์ธ์ด๋ชจ๋ธ) ๊ตฌ์ถ ๋ฐ ๋๋จ์์์ ๊ณต๋ ์ฌ์ ํ ํ๋ ฅ์ ์ถ์งํ๊ธฐ๋ก ํ๋ค.
LLM ์ฌ์ธ์ ์๋ฃจ์ ๊ธฐ์ ์ฌ๊ฑฐ๋์ด์ฆ๋ ๊ธ์ต์ ์ ํนํ๋ LLM(Large Language Model, ๊ฑฐ๋์ธ์ด๋ชจ๋ธ) ์ฑ์ ์ ๊ณตํ๋ '์๋ฆฌ ๊ธ์ต LLM ์ฑ ๋ง์ผ'์ ์ถ์ํ๋ค. ๊ต์ก ์๋ฃจ์ ๊ธฐ์ ๋คผ์ด๋๋ ๋์์ ํ์ต์ ๊ฐ์ ํ ์์ฑ AI ์๋น์ค, โํด์ง์ (Quizium) ๋ฒ ํ ์๋น์ค๋ฅผ ์ ๋ณด์๋ค.
ํ์ปด, 'ํ์ปด๋ ์ค AI' ๋น๊ณต๊ฐ ๋ฒ ํ ํ ์คํธ ๋์
ํ๊ธ๊ณผ์ปดํจํฐ๋ ์์ฑ AI๋ฅผ ๊ฒฐํฉํด ๋ฌธ์ ์์ฑ๊ณผ ํธ์ง์ ํ ์ ์๋ โํ์ปด๋ ์ค AIโ CBT(๋น๊ณต๊ฐ ๋ฒ ํ ํ ์คํธ)์ ๋ค์ด๊ฐ๋ค. ์ด๊ธ๋ฃจ์ฝํผ๋ ์ด์ ์ ์ธ๊ณต์ง๋ฅ(AI) ๊ธฐ๋ฐ ์์ธก ๋ชจ๋ธ ์์ธก ์ฃผ๊ธฐ ์ด์ ํ์ง ์๋ฆผ์ ์์ฐ์ด๋ก ์ ๊ณตํ๋ ๊ธฐ์ ํนํ๋ฅผ ๋ฑ๋กํ๋ค.
SK C&C๋ ๋์ฐ์๋๋น๋ฆฌํฐ์ ์์ฑ AI๊ธฐ๋ฐ ์ด์ ์ง๋จ ์๋น์ค ์๋ฒ ์ ์ฉ์ ๋์ฐ๋ค. ์ง๋์ง๊ต์ํ๋ฆฌํฐ๋ ๋ํํ ์ธ๊ณต์ง๋ฅ ์คํํธ์ ๋ญ์ฝ๋์ AI ๊ธฐ์ ์๋ ์๋ํ ํ๋ซํผ ๊ฐ๋ฐ์ ์ํ ์ ํด๋ฅผ ์ฒด๊ฒฐํ๋ค.
์๋น๋์, ์ ฏ์จ ํ๋ซํผ ํ์ฅ
์๋น๋์๋ ์ฃ์ง AI์ ๋ก๋ณดํฑ์ค๋ฅผ ์ํ ์๋น๋์ ์ ฏ์จ(NVIDIA Jetson) ํ๋ซํผ 2๊ฐ์ง ํ๋ ์์ํฌ๋ฅผ ํ์ฅํ๋ค. ํ์ฌ ์ธก์ ๋ฐ๋ฅด๋ฉด ์์ฑ AI ํ์ฉ ๋ฒ์๋ ์ฃ์ง, ๋ก๋ณดํฑ์ค์ ๋ฌผ๋ฅ ์์คํ ๊น์ง ์์ฐ๋ฅด๋ ๋ฐฉํฅ์ผ๋ก ์งํํ๊ณ ์๋ค. ์ฌ๊ธฐ์๋ ๋ถ๋ ๊ฐ์ง, ์ค์๊ฐ ์์ฐ ์ถ์ , ์์จ ๊ณํ๊ณผ ํ์, ์ธ๊ฐ๊ณผ ๋ก๋ด ๊ฐ ์ํธ ์์ฉ ๋ฑ์ด ํฌํจ๋๋ค. IBM์ด ์๋ง์กด์น์๋น์ค(AWS) ์์ฑAI ์๋น์ค ์ง์์ ๋ณธ๊ฒฉ ๋์ ๋ค. IBM ์ปจ์คํ ๋ถ๋ฌธ์ AWS ์์ฑAI ์๋น์ค ์ง์์ ๋ด๋ ๊น์ง ์ปจ์คํดํธ 1๋ง๋ช ์ ๊ต์กํ ์์ ์ด๋ค.
์์ฑAI๋ฅผ ๋๋ฆฌ๋ ์ธํ๋ผ ์์ฅ ๊ณต๋ต์ ์ํ ๋น ํผ๋ธ๋ฆญ ํด๋ฆฌ์ฐ๋ ์ ์ฒด๋ค์ ๊ณต์ธ๊ฐ ๊ฑฐ์ผ ๊ฐ์ด๋ฐ ์จํ๋ ๋ฏธ์ค(On-premise: ๊ธฐ์ ๋ด๋ถ์ ์ง์ IT์ธํ๋ผ๋ฅผ ๊ตฌ์ถํ๋ ๋ฐฉ์) ์ง์์ ๋ฐ๊ฒฉ์ด ๋ง๋ง์น ์๋ค. ์ผ๊ฐ์์ ์์ฑAI๊ฐ ํผ๋ธ๋ฆญ ํด๋ผ์ฐ๋๋ก ์ฃผ๋๊ถ์ด ๋์ด๊ฐ๋ ์ปดํจํ ์ธํ๋ผ ์์ฅ์์ ์จํ๋ ๋ฏธ์ค ์ง๋ถ์ด ๋ค์ ํ๋๋๋ ๋ถ์๊ธฐ ๋ฐ์ ์นด๋๊ฐ ๋ ๊ฑฐ๋ ๊ธฐ๋๋ ์ฟ๋ณด์ธ๋ค.
์ง๋ธ๋ผ ํ ํฌ๋๋ก์ง์ค, ํ์ปด ๊ธฐ๋ฐ ์์ฑ AI ๊ตฌํ
์์ฑAI๋ ๊ทธ๋์ ํด๋ผ์ฐ๋์ GPU ์๋ฒ์์ ์ ๊ณต๋์ง๋ง ์ต๊ทผ์๋ ๋๋ฐ์ด์ค์์ ์์ฑAI๋ฅผ ๊ตฌํํ๋ ค๋ ์จ๋๋ฐ์ด์ค ์์ฑAI์ ๋ํ ์์ง์๋ ํ๋ฐํ๋ค. ์ง๋ธ๋ผ ํ ํฌ๋๋ก์ง์ค๋ ํด๋ผ์ฐ๋์ ์ฐ๊ฒฐ ์์ด ์์ฌ ํธ๋ํฌ๋ ๋ชจ๋ฐ์ผ ์ปดํจํฐ ๋ฐ ํ๋ธ๋ฆฟ์์ ์์ฑ ์ธ๊ณต์ง๋ฅ(GenAI) ๊ฑฐ๋ ์ธ์ด ๋ชจ๋ธ(LLM)์ ๊ตฌํํ๋ค. ํ์ปด๋ ์ต๊ทผ ์ ํ ์นฉ๋ค์ ์ ๋ณด์ด๋ฉฐ ์จ๋๋ฐ์ด์ค ์์ฑAI๋ฅผ ์ ์กฐ์คํ๊ณ ๋์ฐ๋ค.
๋ณด์ ๋ถ์ผ์์ ๋น๋ฐ๋ฒํธ ์๋ ๋ก๊ทธ์ธ ๊ธฐ์ ์ธ ํจ์คํค๊ฐ ์ฃผ์ ํ ํฌ ๊ธฐ์ ๋ค ์ฌ์ด์์ ๋ณธ๊ฒฉ ๋์ ๋๊ณ ์๋ค๋ ์ ์ด ๋๊ธธ์ ๋๋ค.
๋๊ธ
์๊ฒฌ์ ๋จ๊ฒจ์ฃผ์ธ์