• 차수(order): 인덱스의 개수. 벡터=1차, 행렬=2차, 3차원 배열=3차 텐서.
• 표기: \( \mathcal{X} \in F^{n_1 \times \cdots \times n_d} \) (모드 \(1\ldots d\)).
• 다중선형성: \( \mathcal{X}(x^{(1)},\dots,x^{(d)})=\sum_{i_1,\dots,i_d} x^{(1)}_{i_1}\cdots x^{(d)}_{i_d}\, \mathcal{X}_{i_1\cdots i_d} \).
• 기본 연산: 모드-\(n\) 곱, 펼치기(unfolding), 수축(contraction).
• 대표 분해:
  • CP(CANDECOMP/PARAFAC): \( \mathcal{X} \approx \sum_{r=1}^R a^{(1)}_r \circ \cdots \circ a^{(d)}_r \) (랭크 \(R\)).
  • Tucker/HOSVD: \( \mathcal{X} \approx \mathcal{G} \times_1 A^{(1)} \cdots \times_d A^{(d)} \) (코어 \( \mathcal{G} \), 다중선형 랭크).

가장 권위 있는 종합 리뷰는 Kolda–Bader의 SIAM Review 논문입니다. [oai_citation:0‡SIAM Ebooks](https://epubs.siam.org/doi/10.1137/07070111X?utm_source=chatgpt.com)

3.1 Kolda–Bader(SIAM Review) 핵심 7줄

1. 텐서는 \(N\)-way 배열. 분해는 고차원 데이터의 구조적 저차 표현. [oai_citation:7‡SIAM Ebooks](https://epubs.siam.org/doi/10.1137/07070111X?utm_source=chatgpt.com)
2. CP: 랭크-\(R\) 외적합. 고유성 조건(Kruskal) 덕에 해석 가능한 잠재인자. [oai_citation:8‡SIAM Ebooks](https://epubs.siam.org/doi/10.1137/07070111X?utm_source=chatgpt.com)
3. Tucker/HOSVD: 모드별 기저 + 코어. 다중선형 랭크 개념 제공. [oai_citation:9‡SIAM Ebooks](https://epubs.siam.org/doi/10.1137/07070111X?utm_source=chatgpt.com)
4. HOSVD-truncated는 최적은 아니나 상계 보장(실무적으로 안정). [oai_citation:10‡SIAM Ebooks](https://epubs.siam.org/doi/10.1137/07070111X?utm_source=chatgpt.com)
5. 알고리즘: ALS 변형이 표준. 수렴·스케일·정규화 주의. [oai_citation:11‡SIAM Ebooks](https://epubs.siam.org/doi/10.1137/07070111X?utm_source=chatgpt.com)
6. 응용: 화학계량학·심리측정·신호처리·컴퓨터비전·데이터마이닝 등. [oai_citation:12‡SIAM Ebooks](https://epubs.siam.org/doi/10.1137/07070111X?utm_source=chatgpt.com)
7. 소프트웨어: Tensor Toolbox, Tensorlab 등. [oai_citation:13‡SIAM Ebooks](https://epubs.siam.org/doi/10.1137/07070111X?utm_source=chatgpt.com)

3.2 구현 관점(연산 환원)

• 모드-\(n\) 펼치기 → 대부분의 수축을 행렬곱으로 환원(BLAS 활용). [oai_citation:14‡relate.cs.illinois.edu](https://relate.cs.illinois.edu/course/cs598evs-f20/f/lectures/02-lecture.pdf?utm_source=chatgpt.com)
• CP 랭크 판정/추정은 난이도 높음(비볼록). 실무는 초기화·정규화·정칙화가 성패 좌우. [oai_citation:15‡relate.cs.illinois.edu](https://relate.cs.illinois.edu/course/cs598evs-f20/f/lectures/04-lecture.pdf?utm_source=chatgpt.com)
• 도구: Tensorlab 가이드의 예제 스크립트 참조. [oai_citation:16‡tensorlab.net](https://www.tensorlab.net/userguide3.pdf?utm_source=chatgpt.com)

3.3 텐서곱 관점(이론 토대)

텐서곱 \(V\otimes W\)는 “모든 쌍선형사상 \(V\times W\to -\)를 선형사상으로 모아주는 보편대상”이라는 보편성이 핵심. 텐서 계산의 ‘문법’ 역할을 함. [oai_citation:17‡kconrad.math.uconn.edu](https://kconrad.math.uconn.edu/blurbs/linmultialg/tensorprod.pdf?utm_source=chatgpt.com)

1. 개관: Kolda–Bader 리뷰에서 CP/Tucker 비교표 먼저 보기. [oai_citation:24‡SIAM Ebooks](https://epubs.siam.org/doi/10.1137/07070111X?utm_source=chatgpt.com)
2. 연산 감각: UIUC Basics로 수축→행렬곱 환원법 익히기. [oai_citation:25‡relate.cs.illinois.edu](https://relate.cs.illinois.edu/course/cs598evs-f20/f/lectures/02-lecture.pdf?utm_source=chatgpt.com)
3. CP 집중: UIUC CP 노트로 랭크/유일성/초기화 포인트 확인. [oai_citation:26‡relate.cs.illinois.edu](https://relate.cs.illinois.edu/course/cs598evs-f20/f/lectures/04-lecture.pdf?utm_source=chatgpt.com)
4. 실습: Tensorlab로 CP/Tucker 실험(희소·결측 포함). [oai_citation:27‡tensorlab.net](https://www.tensorlab.net/userguide3.pdf?utm_source=chatgpt.com)
5. 응용 읽기: Sandia 보고서로 사례 감각 보정. [oai_citation:28‡Sandia National Laboratories](https://www.sandia.gov/app/uploads/sites/143/2021/10/daniel-dunlavy-2010-DuKoKe10.pdf?utm_source=chatgpt.com)
6. 이론 보강: Conrad 노트로 텐서곱의 보편성 소화. [oai_citation:29‡kconrad.math.uconn.edu](https://kconrad.math.uconn.edu/blurbs/linmultialg/tensorprod.pdf?utm_source=chatgpt.com)

• 텐서는 다차원 배열(N-way array)이며, \(N \ge 3\)일 때의 배열 구조와 분해 방법을 다룹니다. [oai_citation:3‡kolda.net](https://www.kolda.net/publication/TensorReview.pdf?utm_source=chatgpt.com)
• 중점 분해 방식:
  • CANDECOMP / PARAFAC (CP): 랭크-1 텐서들의 합으로 표현
  • Tucker (HOSVD 포함): 모드별 기저 + 코어 텐서로 분해
• 분해의 응용 분야: 화학계량학, 신호 처리, 컴퓨터 비전, 데이터 마이닝 등 [oai_citation:4‡kolda.net](https://www.kolda.net/publication/TensorReview.pdf?utm_source=chatgpt.com)
• 소프트웨어 도구: Tensor Toolbox, N-way Toolbox 등도 소개됨 [oai_citation:5‡kolda.net](https://www.kolda.net/publication/TensorReview.pdf?utm_source=chatgpt.com)

텐서와 차수

\(d\)-차 텐서 \(\mathcal{X} \in \mathbb{R}^{n_1 \times \cdots \times n_d}\). \(d=1\)이면 벡터, \(d=2\)이면 행렬.

CP 분해 (CANDECOMP/PARAFAC)

Tucker / HOSVD

유일성 & 제약

• CP 분해는 (특정 조건 하에서) 유일성 보장 가능 (예: Kruskal 조건)
• Tucker 분해는 일반적으로 유일하지 않으며, 해석 가능성은 제약을 추가해야 함

CP 분해 유일성의 직관

행렬 분해에서는 U, V 스케일 조절 가능 → 유일성 낮음. 반면 텐서는 세 축 이상이므로, 스케일 조절 자유도가 제한되고 랭크-1 표현 간 혼동 가능성이 낮아져 유일성 확보 가능성이 커짐.

HOSVD를 통한 근사

모드별 특잇값 분해(SVD)를 적용하여 각 모드의 주축을 잡고, 코어 텐서를 만들어 절단(truncate)하는 방식 — 완전 최적은 아니지만 실제 근사 용도로 유용.

계산 알고리즘 흐름

• ALS(Alternating Least Squares): 각 모드별 계수 업데이트 반복
• 정규화, 초기화, 스케일링 고려 필요

문제 1 · CP 분해 구조 전개

\(\mathcal{X} \in \mathbb{R}^{2\times 3 \times 4}\)이고, 랭크 \(R=2\)라 가정하자. CP 분해 형태를 적고, 각 모드의 인자 벡터의 차원을 표기하라.

문제 2 · HOSVD 근사

\(\mathcal{X} \in \mathbb{R}^{5\times 6\times 7}\). 각 모드의 기저 행렬 \(U^{(1)}, U^{(2)}, U^{(3)}\) 차원을 어떻게 정하면 좋겠는가?

문제 3 · 유일성 조건 감각

어떤 문맥에서 CP 분해가 유일하게 결정될 수 있을까? 조건 하나 제시하고 이유를 서술하라.

원문 PDF: Tensor Decompositions and Applications (Kolda & Bader, SIAM Review) [oai_citation:6‡kolda.net](https://www.kolda.net/publication/TensorReview.pdf?utm_source=chatgpt.com)

이 요약본은 원문의 내용을 해석해 정리한 것이며, 완전한 증명이나 응용 예시는 원문을 참고하세요.

• 스칼라: 체 \(F\)의 원소.
• 벡터: \(F^n\) (1차원 배열).
• 행렬: \(F^{m\times n}\) (2차원 배열 = 2차 텐서).
• “3차원 행렬”: \(F^{m\times n\times \ell}\) (3차 텐서).
• 일반화: \(k\)차 텐서 \( \mathcal{A}\in F^{n_1\times n_2\times\cdots\times n_k} \).

직관적으로는 “여러 축(모드)을 가진 다차원 배열”; 이론적으로는 다중선형사상을 나타내는 기하학적 객체입니다.

벡터공간 \(V_1,V_2,V_3\) 위의 3차 텐서 \(\mathcal{A}\)는 보통 다음과 같은 다중선형형식으로 생각할 수 있습니다:

좌표계(기저)를 고정하면 텐서는 성분 \(a_{ijk}\)로 이루어진 배열 \( (a_{ijk}) \)와 동치입니다.

만약 스칼라로 쓰는 체가 \(F=\mathbb{R}^a\) (또는 \(\mathbb{C}^a\))처럼 각 원소가 \(a\)-튜플(벡터)라면, “행렬의 각 원소”가 사실상 길이 \(a\)의 벡터가 됩니다. 그러면

즉, 2차 배열이 아니라 3차 텐서가 됩니다. 더 일반적으로 “원소가 \(a\)-튜플”이고 “\(b\)차원 배열(= \(b\)차 텐서)”이면:

즉, 전체는 \((a+b)\)차 텐서가 됩니다. (스칼라의 내부 차원 \(a\)가 텐서의 한 모드로 “펼쳐진” 셈)

따라서 “\(b\)차원 행렬”이라는 표현은 정식으로는 “\(b\)차 텐서”라고 부르는 게 정확합니다.

• 슬라이싱/섹션: 한 모드를 고정하면 더 낮은 차수의 텐서를 얻음 (예: \(a_{ij\color{#888}{k_0}}\)).
• 텐서 수축(contraction): 한 쌍의 인덱스를 합쳐서(합을 취해) 차수를 2 낮춤. \[ (\mathcal{A}\,\text{contract}\,\mathcal{B})_{ij} = \sum_{k} a_{ik}\, b_{kj}\quad\text{(행렬 곱의 일반화)}. \]
• 모드-\(n\) 곱(mode-\(n\) product): 텐서의 \(n\)번째 축에 행렬을 곱해 차원 변환을 수행.
• 리셰이프 / 펼치기(unfolding): 텐서를 특정 모드 기준으로 행렬로 펼쳐 선형대수 도구를 적용.
• 분해: CP/Tucker/HOSVD 등 텐서 전용 분해(기저/랭크 개념의 일반화).