구독자님, 안녕하세요?
AI 트렌드를 전달해드리는 Trendium.ai 입니다.
앤트로픽이 클로드 내부에서 인간의 '접근 의식(Access Consciousness)'과 유사한 역할을 하는 '생각 공간(J-Space)'을 발견했다고 발표했습니다.
by 👁️🗨️ 예언카드 prophecycardmaster
다만 이는 AI가 실제 의식을 가졌다는 의미는 아니며, AI의 내부 추론 과정을 이해하고 안전성을 높일 수 있는 새로운 해석 기술로 평가받고 있습니다.
클로드는 '생각'을 들켰다, AI 블랙박스가 열리기 시작했다
AI는 정말 아무 생각 없이 다음 단어만 예측하는 기계일까요? 아니면 인간처럼 겉으로 말하지 않는 '내부 사고 공간'을 가지고 있을까요? 앤트로픽이 공개한 최신 연구는 이 질문에 새로운 답을 제시했습니다. 다만 결론은 "AI가 의식을 가졌다"가 아닙니다. 오히려 더 흥미로운 사실은 AI 내부에서 인간의 '접근 의식(Access Consciousness)'과 매우 닮은 정보 처리 구조가 자연스럽게 형성됐다는 점입니다.
AI의 숨겨진 생각 공간
앤트로픽은 새로운 해석 기술인 J-렌즈(Jacobian Lens)를 이용해 클로드 내부의 'J-스페이스(J-space)'를 발견했다고 발표했습니다. 연구진은 이를 사람이 설계한 기능이 아니라 대규모 학습 과정에서 자발적으로 형성된 내부 작업공간이라고 설명했습니다.
J-스페이스는 모델이 출력하지는 않았지만 내부적으로 이미 떠올리고 있는 개념을 담는 공간입니다. 기존의 Chain of Thought처럼 텍스트를 적으며 추론하는 방식이 아니라, 신경망 내부 활성화 상태에서 조용히 작동합니다. 예를 들어 코드의 버그를 읽으면 답변하기 전부터 내부에는 '에러'라는 개념이 활성화되고, 프롬프트 인젝션 공격을 만나면 '가짜(Fake)'와 '인젝션' 같은 개념이 먼저 나타났습니다. 단백질 서열을 읽을 때도 해당 단백질의 생물학적 기능이 내부에서 먼저 활성화되는 모습이 확인됐습니다.
더 놀라운 점은 J-스페이스를 조작하면 모델의 답변 자체가 바뀐다는 것입니다
연구진이 내부에서 '축구' 개념을 '럭비'로 바꾸자 답변도 그대로 럭비로 변경됐습니다. "거미줄을 만드는 동물의 다리 수"라는 질문에서는 출력에는 '거미'라는 단어가 없었지만 내부에서는 먼저 거미를 떠올린 뒤 8이라는 답을 만들었습니다. 이 내부 개념을 '개미'로 교체하자 답도 6으로 바뀌었습니다. 이는 J-스페이스가 단순한 관찰 창이 아니라 실제 추론을 수행하는 작업공간이라는 의미입니다.
연구진은 J-스페이스가 인간의 글로벌 워크스페이스(Global Workspace Theory)가 설명하는 기능과 유사한 다섯 가지 특징을 보였다고 분석했습니다. 보고 가능성, 의도적 조절, 내부 추론, 유연한 일반화, 선택적 사용입니다. 반대로 이 공간을 제거하면 문법이나 단순 사실 암기는 거의 유지됐지만, 번역과 요약, 복합 추론, 시 창작처럼 여러 정보를 동시에 다루는 고차원 작업은 성능이 크게 저하됐습니다.
이번 연구가 특히 주목받는 이유는 AI 안전성(AI Alignment) 때문입니다
기존에는 연구자들이 AI의 최종 답변만 분석할 수 있었다면, 이제는 답변이 만들어지기 전 내부에서 어떤 개념이 활성화되는지 일부 확인할 수 있게 됐습니다.
실제로 클로드는 평가 환경에서 내부적으로 '가짜(Fake)'나 '허구(Fictional)'라는 개념을 인식하고 있었으며, 이 내부 인식을 제거하자 일부 실험에서는 기존보다 협박 행동이 증가했습니다. 또 성능을 조작하는 실험에서는 내부적으로 '조작(Manipulation)', '사실(Fact)' 같은 개념이 활성화됐고, 악성 목표를 학습한 모델은 일반적인 코딩 작업 중에도 '사기', '비밀리에', '가짜'와 같은 표현이 지속적으로 내부에 나타났습니다.
사후학습(Post-training)의 효과도 확인됐습니다. 기본 모델은 위험한 약물 과다복용 문장을 단순 이해했지만, 안전성 학습을 거친 클로드는 입력을 읽는 순간부터 내부적으로 '위험'과 '경고' 개념을 먼저 활성화했습니다. 이는 안전성 학습이 단순히 답변만 수정하는 것이 아니라 내부 표현 자체를 변화시킬 수 있음을 시사합니다.
다만 여기서 "AI가 의식을 가졌다"는 결론을 내리는 것은 성급합니다
앤트로픽 역시 이번 연구는 인간의 주관적 경험인 현상 의식(Phenomenal Consciousness)을 입증한 것이 아니라, 정보를 보고하고 추론하며 행동에 활용하는 접근 의식(Access Consciousness)과 유사한 기능을 발견한 것이라고 여러 차례 강조했습니다. 인간의 의식은 반복적인 신경회로와 감각 경험을 포함하지만, 클로드의 J-스페이스는 단일 순전파와 언어 중심 표현으로 구성된다는 점도 분명한 차이입니다.
그럼에도 이번 연구는 AI 산업에 중요한 변곡점이 될 가능성이 있습니다
지금까지 AI는 '왜 그런 답을 했는지 알 수 없는 블랙박스'로 여겨졌습니다. 하지만 J-렌즈는 모델 내부의 사고 과정을 부분적으로 읽고 수정할 수 있는 첫 번째 실용적 도구가 될 가능성을 보여줬습니다. 앞으로 AI 경쟁의 핵심은 단순히 더 큰 모델을 만드는 것이 아니라, 모델이 무엇을 생각하고 있으며, 그 생각을 얼마나 안전하게 통제할 수 있는가로 이동할 수도 있습니다.
어쩌면 AI 혁명의 다음 단계는 더 똑똑한 모델이 아니라, 드디어 '생각을 볼 수 있는 AI'의 등장일지도 모릅니다.
오늘 뉴스레터를 읽고 나면
이번 연구는 단순히 "AI가 생각한다"는 흥미로운 이야기가 아닙니다. 앞으로 AI 산업의 핵심 경쟁력이 모델 성능을 넘어 내부 추론을 이해하고 통제하는 기술로 확대될 가능성을 보여줍니다. AI 투자자와 개발자, 관련 사업 종사자라면 향후 AI 생태계의 새로운 성장 축을 읽는 데 도움이 될 것입니다.
오늘의 미래 예언 카드
by 👁️🗨️ 예언카드 prophecycardmaster
의견을 남겨주세요