Chapter 07

잡음과 산포의 수학

공학의 수식은 대부분 "이 값을 넣으면 저 값이 나온다"는 결정론입니다. 그런데 실제 물건은 같은 조건에서도 매번 조금씩 다른 값을 냅니다. 픽셀은 같은 빛을 받아도 매 프레임 다른 숫자를 읽고, 같은 레시피로 만든 트랜지스터도 선폭이 나노미터 단위로 들쭉날쭉합니다. 이 '들쭉날쭉'을 없앨 수 없다면, 적어도 얼마나 들쭉날쭉할지 예측하고 그 크기를 설계 변수로 다뤄야 합니다. 그 언어가 확률입니다.

독립적으로 드문드문 일어나는 사건의 개수가 포아송 분포를 따르는 이유를 설명하고, 분산 = 평균에서 SNR = √N을 끌어낸다.
샷 노이즈와 읽기 잡음을 구분하고, 노출·픽셀 크기·멀티프레임 합성이 SNR을 어떻게 바꾸는지 계산한다.
중심극한정리로 공정 산포가 정규분포에 가까운 이유와, 그 근사가 깨지는 조건을 안다.
Cp, Cpk, ppm을 계산하고 '6시그마 = 3.4 ppm'이 1.5σ 평균 이동을 가정한 관례임을 정확히 설명한다.
베이즈 정리로 검사 결과를 해석하고(기저율 무시의 함정), 포아송 결함 모델로 수율 $Y = e^{-AD_0}$를 유도한다.

이 수식이 없었다면밤에도 깨끗한 스마트폰 사진

어두운 곳에서 찍은 사진의 자글자글한 얼룩은 센서가 나빠서 생기는 것만이 아닙니다. 빛은 연속된 물결이 아니라 광자라는 알갱이로 도착하고, 알갱이가 몇 개 들어올지는 매번 무작위입니다. 아무리 완벽한 센서도 이 '알갱이 잡음'(샷 노이즈)은 피할 수 없습니다. 그래서 설계자는 잡음을 없애는 대신 잡음의 통계를 예측합니다. 평균 N개의 광자를 받으면 흔들림은 √N개 — 이 한 줄이 픽셀 크기, 노출 시간, 그리고 야간 모드가 여러 장을 찍어 합치는 이유를 모두 정합니다.

어두운 장면→광자 수의 무작위 흔들림→포아송 분포 · √N 법칙→픽셀·노출·멀티프레임 설계

광자 빗방울: 포아송 분포

같은 빛, 다른 숫자

균일한 회색 벽을 향해 카메라를 고정하고 같은 노출로 100장을 찍었다. 어떤 픽셀은 프레임마다 47, 53, 49, 61, 44 …를 읽는다. 렌즈도, 조명도, 회로도 그대로다. 이 흔들림은 어디서 오며, 얼마나 클지 미리 알 수 있을까?

소나기가 내릴 때 보도블록 한 칸에 1초 동안 떨어지는 빗방울 수를 생각해 봅시다. 빗방울 하나하나는 서로를 모르고 독립적으로 떨어지며, 평균 비율만 일정합니다. 그러면 칸마다 떨어진 수는 평균 근처에서 들쭉날쭉할 수밖에 없습니다. 광자도 똑같습니다. 광원(전구의 열적 방출이든 LED의 재결합이든)에서 나오는 광자의 방출·흡수는 개별적인 양자 사건이고, 일정한 밝기는 "단위 시간당 평균 몇 개"라는 뜻일 뿐입니다.

그림 7-1. 시간축 위에 무작위로 도착하는 광자(점). 같은 길이의 구간(=같은 노출) 10개로 자르면, 평균 밀도가 같아도 구간마다 세는 개수가 다르다. 이 개수의 분포가 포아송 분포다.

이 개수를 계산해 봅시다. 노출 시간 $T$를 아주 잘게 $n$조각으로 나누면, 한 조각에 광자가 들어올 확률은 $p = \lambda/n$으로 작고(둘 이상 들어올 확률은 무시할 만큼 더 작고), 조각들은 서로 독립입니다. 그러면 전체 개수는 동전 $n$번 던지기의 이항분포입니다. $n \to \infty$로 보내면(1장의 극한 $(1-\lambda/n)^n \to e^{-\lambda}$가 여기서 나옵니다):

$$P(K = k) = \lim_{n\to\infty}\binom{n}{k}\Big(\frac{\lambda}{n}\Big)^k\Big(1-\frac{\lambda}{n}\Big)^{n-k} = \frac{\lambda^k e^{-\lambda}}{k!}, \qquad \mathbb{E}[K] = \lambda,\quad \operatorname{Var}[K] = \lambda$$

$\lambda$: 노출 동안 들어올 광자의 평균 개수. 분산이 평균과 같다는 것이 포아송 분포의 지문이다. 이항분포의 분산 $np(1-p)$에서 $p\to0$이면 $np=\lambda$만 남기 때문이다.

이 분포의 이름은 1837년 이를 다룬 시메옹 드니 푸아송(Siméon Denis Poisson)에서 왔고, 1898년 보르트키예비치(Ladislaus Bortkiewicz)가 프로이센 기병대에서 말에 차여 죽은 병사 수 기록에 들어맞음을 보이면서 '드문 사건의 법칙'으로 유명해졌습니다. 전자 회로에서는 1918년 쇼트키(Walter Schottky)가 진공관 전류가 전자 알갱이 때문에 흔들리는 현상을 분석하며 샷 노이즈(Shot Noise)라는 이름을 붙였습니다 — 산탄(shot)이 양철판을 두드리는 소리에 빗댄 것입니다.

SIMULATOR

픽셀 격자에 광자 떨어뜨리기

픽셀 격자 (밝기 = 광자 수)

픽셀별 개수 히스토그램

평균 광자 수 λ (픽셀당)

격자 크기

표본 평균—

표본 분산—

분산/평균—

SNR = 평균/표준편차—

이론 √λ—

막대는 시뮬레이션한 픽셀들의 개수 분포, 점과 선은 포아송 PMF $\lambda^k e^{-\lambda}/k!$, 점선은 같은 평균·분산의 정규분포. 해볼 것: ① λ = 1에서 '광자 0개'인 픽셀이 약 37%(=e⁻¹)인지 확인. ② λ를 바꿔도 분산/평균이 늘 1 근처에 머무는 것을 확인. ③ λ ≥ 20이면 포아송이 정규분포와 거의 겹친다(뒤의 중심극한정리). 모델: 광자는 격자 전체에 균일한 밀도로 서로 독립적으로 도착한다(전체 개수도 포아송). 양자효율 100%, 다른 잡음 없음.

표본 분산이 평균과 거의 같게 나오는 것을 확인했을 겁니다. 그러면 신호 대 잡음비는 곧바로 나옵니다.

$$\mathrm{SNR} = \frac{\text{평균}}{\text{표준편차}} = \frac{N}{\sqrt{N}} = \sqrt{N}, \qquad \mathrm{SNR_{dB}} = 20\log_{10}\sqrt{N} = 10\log_{10} N$$

$N$: 받은 광자(정확히는 광전자) 수의 평균. 잡음의 절대 크기 $\sqrt N$은 신호와 함께 커지지만, 상대 크기 $1/\sqrt N$은 줄어든다. 광자 100개 → SNR 10(20 dB), 1만 개 → SNR 100(40 dB).

√N 법칙의 비정함 SNR을 2배로 올리려면 광자가 4배 필요하다. 노출을 4배로 늘리거나, 픽셀 면적을 4배(한 변 2배)로 키우거나, 조리개를 2스톱 열어야 한다. 밝은 장면은 광자가 넉넉해 거의 문제가 없지만, 밤 장면의 어두운 픽셀이 받는 광자는 수십 개 수준까지 떨어질 수 있고 그러면 SNR이 한 자릿수가 된다. 바로 '자글자글함'이다.

샷 노이즈와 멀티프레임 합성

야간 모드는 왜 여러 장을 찍는가

손떨림 때문에 노출을 1/15초보다 길게 할 수 없다. 그런데 어두운 장면에서는 1/15초 동안 픽셀당 광자가 너무 적다. 스마트폰의 야간 모드는 셔터를 누르면 여러 장을 빠르게 찍어 정렬한 뒤 합친다. 몇 장을 합쳐야 얼마나 깨끗해질까? 그리고 '긴 노출 1장'과 '짧은 노출 여러 장'은 같은가?

센서가 실제로 읽는 숫자에는 샷 노이즈 말고도 잡음이 더 들어갑니다. 아래 그림처럼 광자가 전자로 바뀌고, 전자가 전압으로 읽히고, 그 전압이 숫자로 바뀌는 단계마다 무작위성이 더해집니다.

그림 7-2. 단순화한 픽셀 잡음 사슬. 포아송 개수에서 각 광자를 확률 η로 독립적으로 남기면(양자효율) 결과도 포아송(평균 ηN)이다. 읽기 잡음은 신호 크기와 무관한 가우시안으로, 양자화 잡음은 계단 폭 Δ의 균일 오차로 근사한다. 실제 센서에는 암전류·고정 패턴 잡음 등이 더 있다.

서로 독립인 잡음은 분산끼리 더해집니다(표준편차끼리가 아닙니다). 이 사실 하나로 대부분의 센서 잡음 계산이 끝납니다.

$$\sigma_{\text{total}} = \sqrt{N + \sigma_r^2}, \qquad \mathrm{SNR} = \frac{N}{\sqrt{N + \sigma_r^2}}$$

$N$: 광전자 수, $\sigma_r$: 읽기 잡음(전자 rms). $N \gg \sigma_r^2$이면 샷 노이즈가 지배(SNR ≈ √N), $N \ll \sigma_r^2$이면 읽기 잡음이 지배(SNR ≈ N/σᵣ). 읽기 잡음 2 e⁻인 센서는 광전자가 4개를 넘는 순간부터 샷 노이즈가 더 크다.

프레임 $K$장을 더하면 신호는 $K$배, 분산도 $K$배이므로 SNR은 $\sqrt K$배가 됩니다. 단, 이 계산은 각 프레임이 같은 광자를 받을 때입니다. 같은 총 시간을 $K$조각으로 나누면 광자 총량은 그대로인데 읽기 잡음만 $K$번 더해집니다.

$$\underbrace{\mathrm{SNR}_K = \sqrt{K}\,\frac{N}{\sqrt{N+\sigma_r^2}}}_{\text{프레임마다 } N \text{개, 총 } K \text{배 시간}} \qquad \underbrace{\mathrm{SNR}_{\text{split}} = \frac{N}{\sqrt{N + K\sigma_r^2}}}_{\text{총 } N\text{개를 } K \text{장에 나눔}}$$

SIMULATOR

샷 노이즈 사진과 멀티프레임 평균

1 프레임

K 프레임 평균

가장 밝은 곳의 광전자 수 N 합성 프레임 수 K 읽기 잡음 σᵣ 총 노출 시간 고정(1장을 K조각으로 나눔)

왼쪽 SNR (회색 50%)—

오른쪽 SNR—

개선—

지배 잡음 (중간 회색)—

해볼 것: ① N = 10에서 K를 1 → 16으로 올리면 SNR이 4배(+12 dB)인지 확인. ② '총 노출 시간 고정'을 켜고 σᵣ = 5로 두면, 짧게 여러 장 찍은 쪽이 오히려 나빠진다(읽기 잡음이 K번 들어간다). σᵣ = 0이면 둘은 통계적으로 같다. ③ N = 1000이면 샷 노이즈 지배라서 읽기 잡음 슬라이더가 거의 영향을 못 준다. 모델: 장면은 MB.testImage, 픽셀값 ∝ 광전자 수. 프레임 사이 움직임·정렬 오차 없음. K장 합 = Poisson(K·λ) + √K·σᵣ·𝒩(0,1)로 정확히 같은 분포를 한 번에 샘플링한다. 화면 표시는 선형(감마·노이즈 제거 없음).

실제 야간 모드는 여기에 정렬(손떨림·피사체 움직임 보정), 움직이는 영역의 가중치 조절, 노이즈 제거, 톤 매핑을 더합니다. 하지만 "몇 장을 합치면 얼마나 좋아지는가"의 상한은 이 √K 계산이 정합니다. 그리고 "긴 노출 한 장 vs 짧은 노출 여러 장"의 손익은 읽기 잡음이 결정합니다 — 최신 CMOS 센서의 읽기 잡음이 1–2 e⁻ 수준까지 내려오면서 여러 장으로 나눠 찍는 손해가 작아졌고, 그 덕에 흔들림에 강한 멀티프레임 방식이 실용화되었습니다. 픽셀 자체의 잡음 구조는 SensorBook에서 자세히 다룹니다.

픽셀 크기 논쟁의 핵심 픽셀 한 변을 절반으로 줄이면 픽셀당 광자는 1/4, SNR은 1/2이 된다. 하지만 작은 픽셀 4개를 합치면(비닝) 광자 수는 원래대로 돌아오고, 샷 노이즈만 있다면 SNR도 원래와 같다. 손해는 합칠 때 읽기 잡음이 4번(분산 기준) 들어가는 몫이다. 같은 원리가 위의 '총 시간 고정' 실험이다 — 공간에서 나누든 시간에서 나누든 같은 수학이다.

중심극한정리: 산포는 왜 종 모양인가

선폭 산포의 모양

웨이퍼 위 게이트 선폭(CD)을 수천 곳에서 재면 히스토그램이 거의 언제나 종 모양이 된다. 노광 초점, 도즈, 레지스트 두께, 현상 온도, 식각 속도 … 원인 하나하나의 분포는 종 모양이 아닌데도 그렇다. 왜 결과는 정규분포일까? 그리고 그 가정을 믿고 불량률을 계산해도 될까?

선폭은 수많은 작은 요인의 효과가 더해진 결과입니다. 초점이 조금 어긋나면 +0.3 nm, 도즈가 조금 많으면 −0.2 nm, 레지스트가 조금 두꺼우면 +0.1 nm … 각 요인이 서로 독립이고 어느 하나가 지배적이지 않다면, 그 합의 분포는 개별 분포의 모양을 잊어버리고 정규분포로 수렴합니다. 이것이 중심극한정리(Central Limit Theorem)입니다.

$$\frac{S_n - n\mu}{\sigma\sqrt{n}} \;\xrightarrow{\;n\to\infty\;}\; \mathcal{N}(0, 1), \qquad S_n = X_1 + \dots + X_n$$

$X_i$: 평균 $\mu$, 분산 $\sigma^2$(유한)인 독립 동일 분포 확률변수. 평균은 $n$배, 표준편차는 $\sqrt n$배로 커지므로 $\sqrt n$으로 나눠 표준화한다. 동일 분포가 아니어도 어느 한 항이 전체 분산을 지배하지 않으면 성립한다(린데베르크·랴푸노프 조건).

가장 오래된 형태는 1733년 드무아브르(Abraham de Moivre)가 동전 던지기(이항분포)를 정규 곡선으로 근사한 것이고, 라플라스가 일반화했으며, 1901년 랴푸노프(Aleksandr Lyapunov)가 엄밀한 일반 조건을 증명했습니다. 동전 버전을 눈으로 보여 주는 장치가 골턴(Francis Galton)이 1889년 책 『Natural Inheritance』에 소개한 갈톤 보드입니다.

그림 7-3. 갈톤 보드. 공은 못(점)을 만날 때마다 왼쪽(−1) 또는 오른쪽(+1)으로 반반의 확률로 튄다. 10단을 지나면 위치 = ±1 열 개의 합이고, 칸별 개수는 이항분포 $\binom{10}{k}/2^{10}$(막대)이며 정규 곡선(선)에 가깝다.

SIMULATOR

요인 n개를 더하면

요인 하나의 분포

더하는 요인 수 n

왜도 (표본 / 이론)—

초과 첨도 (표본 / 이론)—

|Z| > 3 비율 (정규 0.27%)—

히스토그램은 합 $S_n$을 표준화한 $Z$, 선은 $\mathcal N(0,1)$. 왼쪽 위 작은 그림이 요인 하나의 분포다. 해볼 것: ① 균일분포는 n = 3만 돼도 거의 종 모양(수렴이 빠르다). ② 지수분포는 치우침(왜도 2/√n)이 천천히 사라진다 — n = 60에서도 오른쪽 꼬리가 길다. ③ 이봉분포를 n = 2로 두면 봉우리 셋, n이 커지면 하나. 모델: 요인은 독립 동일 분포. 이봉 = ±1 + 𝒩(0, 0.15²). 각 막대 높이는 2만 개 표본의 밀도.

중심극한정리에서 공학적으로 가장 쓸모 있는 부산물은 분산의 덧셈입니다. 독립 요인의 합에서 표준편차는 더해지지 않고 제곱합의 제곱근(RSS)으로 합쳐집니다.

$$\sigma_{\text{total}} = \sqrt{\sigma_1^2 + \sigma_2^2 + \dots + \sigma_n^2}$$

예: 선폭 산포 요인이 초점 0.6 nm, 도즈 0.5 nm, 레지스트 0.3 nm, 식각 0.4 nm(각 1σ)이면 합은 $\sqrt{0.36+0.25+0.09+0.16} \approx 0.93$ nm. 최악값을 그냥 더한 1.8 nm보다 훨씬 작다. 공차 누적(tolerance stack-up)의 통계적 방법이 바로 이것이다. 그리고 가장 큰 항을 줄여야 효과가 크다는 것도 보인다 — 0.6을 0.3으로 줄이면 0.79 nm, 0.3을 0으로 줄이면 0.88 nm.

정규 가정이 깨지는 곳 ① 한 요인이 지배하면(예: 특정 장비 하나의 드리프트) 합은 그 요인의 분포를 닮는다. ② 요인이 곱해지면(성장률, 저항의 비율 오차) 합이 아니라 로그의 합이 정규 → 결과는 로그정규분포다. ③ 요인이 서로 상관되어 있으면 분산이 RSS보다 커진다. ④ 중심극한정리는 '가운데'가 정규로 수렴한다는 정리이지, 꼬리 끝(10⁻⁶ 이하)까지 정확하다고 보장하지 않는다. 이 마지막 점이 다음 두 절의 주제다.

시그마와 공정 능력: Cp, Cpk, ppm

규격 안에 몇 개가 들어오나

게이트 선폭 목표는 20.0 nm이고, 회로 설계가 허용하는 범위(규격)는 18.5–21.5 nm다. 공정의 평균은 20.3 nm, 표준편차는 0.35 nm다. 칩 100만 개당 규격을 벗어나는 것은 몇 개일까? 평균을 0.3 nm 맞추는 것과 산포를 줄이는 것 중 무엇이 급할까?

정규분포를 가정하면 이 질문은 꼬리 면적 계산입니다. 규격 한계까지의 거리를 표준편차 단위로 잰 값 $z = (\text{USL}-\mu)/\sigma$만 알면 불량 확률이 정해지기 때문입니다. 그래서 산업계는 '몇 시그마'라는 말로 품질을 이야기합니다.

그림 7-4. 정규분포에서 평균 ±1σ, ±2σ, ±3σ 안에 드는 비율은 68.27%, 95.45%, 99.73%. 3σ 밖으로 나가는 비율은 양쪽 합쳐 약 2,700 ppm이다. 꼬리는 $e^{-z^2/2}$로 줄어들어 4σ는 63 ppm, 5σ는 0.57 ppm, 6σ는 약 0.002 ppm(2 ppb)이다(양쪽 합).

규격 폭과 산포를 비교하는 두 지수가 공정 능력 지수(Process Capability Index)입니다.

$$C_p = \frac{\text{USL} - \text{LSL}}{6\sigma}, \qquad C_{pk} = \min\!\left(\frac{\text{USL}-\mu}{3\sigma},\; \frac{\mu-\text{LSL}}{3\sigma}\right), \qquad \text{불량률} = \Phi\!\Big(\frac{\text{LSL}-\mu}{\sigma}\Big) + 1-\Phi\!\Big(\frac{\text{USL}-\mu}{\sigma}\Big)$$

$C_p$: 평균이 가운데에 있다면 얼마나 여유가 있나(잠재 능력). $C_{pk}$: 실제 평균 위치를 반영한, 가까운 쪽 한계까지의 여유. $C_{pk} = C_p$이면 평균이 정중앙. $3C_{pk}$가 가까운 쪽 '시그마 거리'다. 흔히 $C_{pk} \ge 1.33$(4σ)을 최소 요구로, 중요 특성에는 1.67(5σ) 이상을 요구한다.

SIMULATOR

선폭 분포와 규격: Cpk와 ppm

선폭 분포 (nm)

불량 ppm vs Cpk (로그)

평균 μ 표준편차 σ 규격 20.0 ± T, T 장기 변동: 평균이 1.5σ 더 나쁜 쪽으로 이동

Cp—

Cpk—

불량—

가까운 한계까지—

왼쪽의 빨간 영역이 규격 밖 확률, 오른쪽은 한쪽 꼬리 기준 ppm과 Cpk의 관계(실선: 이동 없음, 점선: 1.5σ 이동)와 현재 공정(점). 해볼 것: ① 기본값(μ 20.3, σ 0.35)에서 μ를 20.0으로 맞출 때와 σ를 0.25로 줄일 때 ppm을 비교. ② Cpk = 2(6σ)를 만든 뒤 '장기 변동'을 켜면 약 3.4 ppm이 되는 것을 확인. ③ 로그 축에서 Cpk가 0.33 오를 때마다 ppm이 몇 자리씩 떨어지는지 보기. 모델: 선폭은 정규분포, 규격은 양쪽(LSL·USL). 장기 이동은 평균이 가까운 쪽 한계로 1.5σ 움직였다고 놓은 관례적 가정.

6시그마 = 3.4 ppm의 정체

'6시그마 품질 = 100만 개당 3.4개 불량'이라는 말은 유명하지만, 정규분포의 6σ 꼬리는 한쪽 약 0.001 ppm(10억 개당 1개)입니다. 3.4 ppm은 사실 4.5σ 한쪽 꼬리(3.40 ppm)입니다. 1980년대 모토로라가 6시그마 운동을 만들면서, 단기 측정으로 얻은 σ로 계산한 공정도 장기적으로는 평균이 흔들리므로 평균이 1.5σ 이동한다고 가정하는 관례를 넣었기 때문입니다: $6\sigma - 1.5\sigma = 4.5\sigma$.

1.5σ는 자연법칙이 아니다 1.5라는 값은 경험적 관례이며 공정마다 실제 평균 이동은 다르다. 이 가정 자체에 대한 비판도 많다. 숫자를 읽을 때는 '단기 σ 기준인지, 이동을 포함한 장기 기준인지'를 반드시 확인하자. 또 '6σ 공정'이 실제로 3.4 ppm을 낸다는 것은 꼬리 끝까지 정규분포라는 가정 위에서만 맞는다.

시그마 수준 (단기)	Cpk	양쪽 꼬리, 중앙 (ppm)	한쪽, 1.5σ 이동 (ppm)
3σ	1.00	2,700	66,800
4σ	1.33	63	6,210
5σ	1.67	0.57	233
6σ	2.00	0.002	3.4

공정을 실시간으로 감시하는 도구도 같은 수학에서 나왔습니다. 1920년대 벨 연구소의 슈와트(Walter Shewhart)가 만든 관리도(Control Chart)는 측정값이 평균 ±3σ 선을 넘으면 "우연이 아니라 원인이 있는 변동"으로 보고 공정을 멈춥니다. 정상 공정에서 3σ를 넘을 확률은 0.27%이므로 거짓 경보가 약 370점에 한 번입니다. 실제 공정 관리 체계는 ProcessBook에서 다룹니다.

꼬리가 중요할 때: 수십억 개 중 하나

칩에는 트랜지스터가 몇 개인가

SRAM 셀 하나가 읽기 오류를 낼 확률이 10⁻⁶이면 꽤 좋아 보인다. 그런데 칩에 셀이 10⁹개 있다면? 칩 하나에 평균 1,000개의 불량 셀이 생긴다. 수십억 개 중 '하나라도' 틀리면 안 되는 설계에서는 분포의 가운데가 아니라 아주 먼 꼬리가 수율을 정한다.

소자 $N$개가 독립이고 각각 불량 확률이 $p$이면 칩 전체가 멀쩡할 확률은

$$Y_{\text{chip}} = (1-p)^N \approx e^{-Np}$$

$Np$는 칩당 기대 불량 소자 수. 이것이 0.01이면 수율 99%. $N = 10^9$에서 $p = 10^{-11}$이 필요하고, 정규분포라면 마진이 약 6.7σ여야 한다. 그래서 메모리 셀 설계에서는 6σ 안팎의 마진을 흔히 이야기한다.

문제는 6σ 바깥을 측정으로 확인하기가 거의 불가능하다는 것입니다. 정규분포는 가운데 데이터로 맞춘 모델이고, 꼬리 끝에서는 다른 메커니즘(드문 결함, 다른 공정 영역, 한 요인이 우연히 크게 튀는 경우)이 섞이기 쉽습니다. 아래에서 '대부분은 정규인데 극히 일부(ε)가 두 배 넓은 분포에서 나온다'는 오염된 정규 모델(Contaminated Normal)을 정규 가정과 비교해 보세요.

SIMULATOR

소자 N개 칩의 수율과 설계 마진

칩당 소자 수 N 설계 마진 z (σ 단위) 넓은 꼬리 비율 ε

소자 불량 p (정규 / 오염)—

칩 수율 (정규)—

칩 수율 (오염)—

수율 99%에 필요한 z—

곡선은 마진 z에 따른 칩 수율. 실선은 꼬리까지 정규 가정, 점선은 비율 ε의 소자가 σ가 2배인 분포를 따르는 경우. 해볼 것: ① N = 10⁹, ε = 0에서 수율 99%에 필요한 z(약 6.7σ)를 확인. ② ε = 0.1%로 두면 같은 z에서 수율이 무너지고, 필요한 마진이 약 11σ로 치솟는다 — 가운데 99.9%의 데이터로는 거의 구별할 수 없는 차이다. ③ N을 10배 늘릴 때 필요한 z가 얼마나 늘어나는지(꼬리가 가우시안이면 조금씩만) 보기. 모델: 소자는 독립, 불량 = 특성이 한쪽 방향으로 z·σ 넘게 벗어남. 오염 모델의 p = (1−ε)Q(z) + εQ(z/2). 실제 SRAM 해석은 중요도 샘플링 등 특수 기법을 쓴다.

ε = 0.1%의 오염은 히스토그램으로는 거의 보이지 않지만, z = 6에서 소자 불량 확률을 약 10⁻⁹에서 1.4 × 10⁻⁶으로 1,000배 이상 키웁니다. 그래서 꼬리가 중요한 설계에서는 ① 정규 가정 대신 꼬리 자체를 모델링하는 극단값 이론(Extreme Value Theory), ② 드문 사건을 일부러 많이 뽑아 가중치로 보정하는 중요도 샘플링(Importance Sampling), ③ 그리고 무엇보다 여분과 수리(예비 행·열, 오류 정정 부호)를 씁니다. 예비 셀로 바꿔 끼우면 '하나라도 불량이면 칩 폐기'라는 가혹한 조건이 '불량이 k개 이하면 살릴 수 있다'로 바뀌고, 수율 계산이 $e^{-Np}$에서 포아송 분포의 누적합 $P(K \le k)$로 바뀝니다. 오류 정정 부호는 8장에서 다룹니다.

주식 수익률도 같은 함정 일일 수익률을 정규분포로 맞추면 '5σ 하락'은 수천 년에 한 번이어야 하지만 실제 시장에서는 훨씬 자주 일어난다. 두꺼운 꼬리(fat tail) 때문이다. 위험 관리가 정규 가정에 기대면 가장 중요한 순간에 틀린다. 금융 쪽 이야기는 StockBook에서.

베이즈: 불량 판정의 역설

"불량" 판정을 받은 칩은 정말 불량인가

최종 검사 장비가 있다. 실제 불량 칩은 99% 확률로 잡아내고(민감도), 양품을 불량으로 잘못 판정하는 비율(위양성률)은 1%뿐이다. 전체 칩 중 불량은 0.1%다. 어떤 칩이 '불량' 판정을 받았다. 이 칩이 실제로 불량일 확률은? 직관은 "99%"라고 하지만 답은 약 9%다.

확률보다 개수로 세면 금방 보입니다. 칩 10,000개를 생각합시다.

그림 7-5. 자연 빈도로 본 검사 결과. '불량' 판정은 약 110개인데 그중 진짜 불량은 약 10개 → 10/110 ≈ 9%. 1%라는 작은 위양성률이 9,990개라는 큰 모집단에 곱해져, 10개짜리 진짜 불량을 압도한다.

이 계산을 일반적인 식으로 쓴 것이 베이즈 정리(Bayes' Theorem)입니다. 18세기 목사 토머스 베이즈(Thomas Bayes)의 유고를 리처드 프라이스가 정리해 1763년에 발표했습니다.

$$P(D \mid +) = \frac{P(+\mid D)\,P(D)}{P(+\mid D)\,P(D) + P(+\mid \bar D)\,P(\bar D)} = \frac{0.99 \times 0.001}{0.99\times0.001 + 0.01\times0.999} \approx 0.090$$

$P(D)$: 사전확률(불량률, 기저율). $P(+\mid D)$: 민감도. $P(+\mid\bar D)$: 위양성률(= 1 − 특이도). $P(D\mid +)$: 사후확률 — 판정을 본 뒤의 불량 확률. 오즈로 쓰면 더 간단하다: 사후 오즈 = 우도비 × 사전 오즈, 우도비 = 0.99/0.01 = 99. 사전 오즈 1:999 × 99 ≈ 1:10.1 → 약 9%.

SIMULATOR

칩 10,000개로 보는 베이즈 정리

불량률 (사전확률) 민감도 P(+|불량) 위양성률 P(+|양품)

검사 횟수 (독립, 둘 다 불량이면 불량)

P(불량 | 불량 판정)—

P(불량 | 통과)—

우도비—

격자의 칸 하나가 칩 하나(기대 개수를 반올림). 진한 칸이 '불량 판정'을 받은 칩이고, 빨강은 실제 불량, 파랑은 실제 양품이다. 해볼 것: ① 기본값에서 진한 칸 중 빨강의 비율(≈9%)을 눈으로 확인. ② 검사를 2회로 → 사후확률 약 91%. 같은 장비를 한 번 더 쓰는 것이 민감도를 99.9%로 올리는 것보다 낫다. ③ 불량률을 10%로 올리면 같은 장비로도 사후확률이 92%가 된다 — 판정의 의미는 장비만이 아니라 모집단에 달렸다. 모델: 반복 검사는 칩 상태가 주어졌을 때 서로 독립(실제로는 같은 원인으로 같은 칩이 반복해서 오판될 수 있어 개선이 이보다 작다).

이 '기저율 무시'의 함정은 검사 공학 어디에나 있습니다. 드문 불량을 잡는 검사일수록 위양성률이 조금만 있어도 판정 대부분이 오경보가 됩니다. 그래서 실제 테스트 흐름은 값싼 1차 선별 → 걸린 것만 정밀 재검사의 2단 구조를 자주 쓰고, 재검사로 '불량'이 확정된 칩만 폐기합니다. 반대 방향도 중요합니다. 통과한 칩 중 불량이 섞일 확률 $P(D\mid -)$은 출하 품질(DPPM)을 정하며, 이를 줄이려면 민감도(테스트 커버리지)를 올려야 합니다. 테스트 설계는 TestBook에서, 같은 추론이 분류기의 정밀도·재현율로 나타나는 모습은 AIBook에서 볼 수 있습니다.

수율 모델: 결함 빗방울과 다이 크기

큰 칩은 왜 비싼가

300 mm 웨이퍼 한 장의 가공비는 칩 크기와 무관하게 거의 일정하다. 다이 면적을 2배로 키우면 웨이퍼당 다이 수는 절반 이하가 된다. 그런데 실제 원가는 2배보다 훨씬 더 오른다. 무엇이 더 깎아 먹을까?

웨이퍼 위에 떨어지는 치명적 결함(파티클, 패턴 결함)을 1절의 광자처럼 무작위 빗방울로 봅시다. 단위 면적당 평균 결함 밀도가 $D_0$이면, 면적 $A$인 다이 하나에 떨어지는 결함 개수는 평균 $\lambda = AD_0$인 포아송 분포를 따릅니다. 다이가 살아남으려면 결함이 0개여야 하므로

$$Y = P(K=0) = \frac{(AD_0)^0 e^{-AD_0}}{0!} = e^{-AD_0}$$

$A$: 다이 면적(cm²), $D_0$: 치명 결함 밀도(개/cm²). 예: $D_0 = 0.1$이면 1 cm² 다이는 90.5%, 6 cm² 다이는 54.9%. 면적이 커지면 다이 수가 줄어드는 효과와 수율이 지수적으로 떨어지는 효과가 겹친다.

실제 결함은 완전히 무작위로 흩어지지 않고 뭉쳐 다니는 경향이 있습니다(장비 하나의 문제, 스크래치, 웨이퍼 가장자리). 결함이 뭉치면 같은 평균 밀도에서도 '결함이 여러 개 몰린 다이'가 생기는 대신 '결함 없는 다이'가 늘어 수율이 올라갑니다. 이를 반영한 대표적 모델이 결함 밀도 자체가 다이마다 감마분포로 흔들린다고 놓은 음이항 수율 모델(Negative Binomial Yield Model)입니다.

$$Y = \Big(1 + \frac{AD_0}{\alpha}\Big)^{-\alpha}$$

$\alpha$: 군집 계수. 작을수록 결함이 심하게 뭉친다. $\alpha \to \infty$이면 $e^{-AD_0}$(포아송)로 돌아간다. $\alpha$는 공정 데이터에 맞춰 정한다.

SIMULATOR

웨이퍼 맵: 결함 밀도와 다이 크기

300 mm 웨이퍼

수율 vs 다이 면적

다이 면적 A 결함 밀도 D₀

결함 분포

다이 수 (전체)—

양품 / 수율 (시뮬)—

포아송 e^(−AD₀)—

음이항 (α = 2)—

초록 칸은 결함이 없는 다이, 빨간 칸은 결함(점)이 하나 이상 떨어진 다이. 오른쪽 곡선: 실선 포아송, 점선 음이항(α = 2), 점은 이 웨이퍼의 결과. 해볼 것: ① D₀ = 0.1/cm²에서 다이를 100 → 600 mm²로 키우면 다이 수와 수율이 함께 줄어 양품 다이가 얼마나 줄어드는지 보기. ② '뭉침'으로 바꾸면 결함 총수는 비슷한데 수율이 포아송보다 높아진다. ③ 같은 설정에서 '새 웨이퍼'를 여러 번 — 작은 다이 수율은 안정적이고 큰 다이 수율은 웨이퍼마다 크게 흔들린다(표본 수가 적다). 모델: 가장자리 3 mm 제외, 다이는 정사각형 격자(스크라이브 라인 무시), 결함 하나면 다이 불량. 뭉침 모드는 결함 평균 8개짜리 무리가 반경 약 6 mm로 퍼진다고 가정.

그래서 큰 칩의 원가는 '면적 × 지수적 수율 손실'로 오릅니다. 최근 대형 프로세서가 큰 칩 하나 대신 작은 칩렛(Chiplet) 여러 개를 패키지에서 잇는 방향으로 가는 이유 중 하나가 이 계산입니다. 작은 다이로 나누면 다이별 수율이 높고, 검사로 양품만 골라 조립할 수 있습니다(다만 연결 비용과 조립 수율이 새로 생깁니다). 수율 모델과 결함 분석은 YieldBook에서, 칩렛 조립은 PackagingBook에서 이어집니다.

이 도구가 쓰이는 곳

포아송 분포, 분산의 덧셈, 정규 꼬리, 베이즈 정리는 시리즈의 거의 모든 책에서 다시 나옵니다.

SENSORBOOK샷 노이즈와 읽기 잡음
광자 전달 곡선(PTC): 분산 = 평균 관계로 변환 이득을 잰다 CAMERABOOK노출과 ISO, 야간 모드
√N 법칙으로 보는 노출 삼각형과 멀티프레임 합성 PHONEBOOK작은 픽셀의 카메라
픽셀 비닝과 컴퓨테이셔널 포토그래피 PROCESSBOOK공정 관리와 Cpk
관리도, 분산 분해, 공차 누적 LITHOBOOK선폭 산포와 확률적 결함
EUV에서도 광자 수 샷 노이즈가 패턴 거칠기를 만든다 YIELDBOOK수율 모델
포아송·음이항 모델, 결함 밀도와 다이 크기 TESTBOOK검사와 판정
위양성·위음성, 테스트 커버리지와 DPPM MEMORYBOOK셀 산포와 6σ 마진
수십억 셀의 꼬리, 예비 셀과 ECC DEVICEBOOK소자 편차
도펀트 개수의 무작위 요동과 문턱 전압 산포 AIBOOK확률 모델과 분류
베이즈 추론, 정밀도와 재현율, 잡음 모델 STOCKBOOK수익률 분포와 위험
분산의 덧셈(분산 투자)과 두꺼운 꼬리 ANALOGBOOK회로 잡음
샷·열 잡음의 전력 합, 소자 부정합 통계

이 장의 확률 분포는 8장에서 '놀라움의 양'인 엔트로피로 이어지고, 잡음의 주파수 성분(백색 잡음, 1/f 잡음)은 5장의 스펙트럼 언어로 다룹니다. 양자화 잡음 Δ²/12는 6장에서 유도합니다.

핵심 정리

독립적으로 드문드문 일어나는 사건의 개수는 포아송 분포 $\lambda^k e^{-\lambda}/k!$를 따른다. 분산 = 평균 = λ.
그래서 광자 N개의 샷 노이즈는 √N, SNR = √N. SNR 2배에는 빛 4배가 필요하다.
독립 잡음은 분산이 더해진다: $\sigma^2 = N + \sigma_r^2$. K장 합성은 SNR을 √K배로 올리지만, 같은 총 노출을 나누면 읽기 잡음만 늘어난다.
많은 독립 요인의 합은 정규분포로 수렴한다(중심극한정리). 표준편차는 RSS로 합쳐지므로 가장 큰 요인부터 줄여야 한다.
Cp는 규격 폭/6σ, Cpk는 가까운 한계까지/3σ. 6σ의 3.4 ppm은 1.5σ 평균 이동을 가정한 4.5σ 한쪽 꼬리다.
수십억 개 중 하나라도 틀리면 안 되는 설계에서는 꼬리 끝이 수율을 정하며, 정규 근사는 그곳에서 가장 믿기 어렵다.
드문 불량을 찾는 검사에서는 기저율 때문에 '불량' 판정의 대부분이 오경보일 수 있다(베이즈 정리).
결함이 포아송으로 떨어지면 수율은 $e^{-AD_0}$. 결함이 뭉치면 음이항 모델이 더 잘 맞는다.

확인 퀴즈

픽셀이 평균 100개의 광전자를 받는다(샷 노이즈만 있음). 노출을 4배로 늘리면 잡음의 표준편차와 SNR은 각각?

신호 400, 잡음 √400 = 20(전에는 10). 잡음의 절대 크기는 커지지만 신호가 더 빨리 커져 SNR은 10 → 20으로 2배(+6 dB)가 된다.

읽기 잡음 3 e⁻인 센서에서 총 노출 시간을 그대로 두고 1장 대신 짧은 9장으로 나눠 찍어 더했다. 중간 회색 픽셀의 총 광전자는 18개다. SNR은?

1장: 18/√(18 + 3²) = 18/√27 ≈ 3.46. 9장: 18/√(18 + 9×3²) = 18/√99 ≈ 1.81. 광자 총량은 같은데 읽기 잡음 분산이 9번 더해졌다. 얻는 것은 손떨림·움직임에 강해진다는 것뿐이다.

선폭 산포 요인 네 개(독립)의 1σ가 0.3, 0.4, 0.0, 1.2 nm다. 전체 σ를 가장 크게 줄이는 조치는?

현재 √(0.09+0.16+1.44) = 1.30. ① 0.3·0.4 제거 → 1.20. ② 1.2 → 0.9: √(0.09+0.16+0.81) = 1.03. ③ 0.4 제거 → √1.53 = 1.24. 분산은 제곱으로 더해지므로 가장 큰 요인을 조금 줄이는 것이 작은 요인을 없애는 것보다 낫다.

규격 18.5–21.5 nm, 평균 20.3 nm, σ = 0.3 nm인 공정의 Cp와 Cpk는?

Cp = 3.0/(6×0.3) = 1.67. 가까운 한계는 USL: (21.5−20.3)/(3×0.3) = 1.2/0.9 = 1.33. Cpk는 Cp보다 클 수 없다.

'6시그마 = 3.4 ppm'에 대한 설명으로 옳은 것은?

정규분포의 6σ 한쪽 꼬리는 약 0.001 ppm이다. 3.4 ppm은 Q(4.5) ≈ 3.4×10⁻⁶로, 장기적으로 평균이 1.5σ 이동한다는 관례적 가정에서 나온 값이다.

불량률 1%, 민감도 99%, 위양성률 1%인 검사에서 '불량' 판정을 받은 칩이 실제로 불량일 확률은?

1만 개 중 불량 100개 → 99개 검출. 양품 9,900개 → 99개 오판. 판정 198개 중 99개가 진짜 → 50%. 사전 오즈 1:99 × 우도비 99 = 1:1.

결함이 포아송으로 떨어지는 공정에서 1 cm² 다이의 수율이 80%다. 같은 공정에서 2 cm² 다이의 수율은?

$e^{-2AD_0} = (e^{-AD_0})^2 = 0.8^2 = 0.64$. 다이 면적이 2배면 '두 영역 모두 결함이 없을 확률'이므로 수율이 제곱된다. 웨이퍼당 양품 다이는 다이 수 절반 × 0.8배 → 약 40%로 줄어든다.