본문 바로가기

Analytic Anti-Aliasing: Procedural Shape에서 AA

@exqt2026. 11. 20. 01:35

AAA 적용 / 미적용

스킬 공격범위를 표시하는 기능을 절차적 도형을 그리는 Decal Material을 만드는 중에 가장자리에서 계단 현상이 발생하는 문제가 있었다.

 

이번 포스트에선 절차적인 도형을 그릴 때 전통적인 Anti-Aliasing (AA) 시스템 없이 Fragment Shader 단계에서 fwidth와 도형의 정보를 활용하여 이를 해결하는 Analytic Anti-Aliasing (AAA) 을 언리얼 Material 구현해본다.

 

Signed Distance Function ( SDF )

SDF는 한 점과 도형이 주어졌을 때 외곽선으로 부터 얼마나 멀리 떨어져 있는지 반환하는 함수다.

이름에서 알 수 있듯이 부호를 가지는데 보통 외곽선 밖으로 나가면 + 내부 이면 - 로 본다.

예를 들어 원과 직사각형 SDF는 다음과 같다.

// 반지름을 r로 하는 circle
return length(p) - r;

// half extent (원점 중심으로부터 꼭짓점까지 거리 vector)를 b로 하는 rect
float2 d = abs(p)-b;
return length(max(d,0.0)) + min(max(d.x,d.y),0.0);

 

더 많은 도형의 SDF 에 대해서는 아래의 블로그에서 확인 가능하다.

https://iquilezles.org/articles/distfunctions2d/

 

언리얼에서 구현

MF_DecalHalfExtent

 

우선 Decal에서 사용할 길이 단위를 전부 World Scale로 통일하고 SDF 를 다루기 쉽게 0,0 이 중심 되는 좌표계로 변환하기 위해 아래와 같은 Material Function을 하나 만들었다.

Decal에 적용하면 중심으로 부터 꼭짓점 까지의 거리인 Half Extent와

각 World Scale의 위치 벡터인 WorldPosition을 반환하도록 구성했다.

 

 

SDF 도형을 렌더링 하려면 SDF 함수값이 0이 되는 지점을 기점으로 음수면 Opacity를 1, 밖이라면 0 으로 설정하면 된다.

M_CircleStep

실제 구현에선 편의를 위해 SDF 함수값 부호를 뒤집어 구현하였다. 이렇게 하면 원중심으로 갈 수록 값이 양수로 커지고 step이후 안쪽 영역 값이 1이 되게 된다.

안 영역인 픽셀과 밖 영역의 픽셀 사이에 따로 Opacity 보간이 없어 계단 현상이 나타난다.

 

 

M_CircleSmoothStep

 

 

SmoothStep를 사용하여 경계면 구간에서 opacity가 0와 1사이 값으로 자연스럽게 이어지게 구성한다.

위의 예시에서는 정확히 외곽선이 되는 부분을 중심으로 World Scale   [-0.5, 0.5]  만큼 구간을 SmoothStep하게 된다.

정확한 경계면에서의 opacity 는 0.5가 되는데

안의 영역을 무조건 opacity를 1로 두고 싶으면 구간을 [-1, 0] 으로 설정할 수도 있다.

 

 

다만 SmoothStep만 사용했을 경우 카메라 거리에 따라  blur 현상이나 여전히 계단 현상이 생긴다.

 

가까이서 보았을 때 / 멀리서 보았을 때

 

문제는 카메라 거리에 따라 [-0.5, +0.5] 대신 적절한 값이 얼마인지 모르기 때문에 위와 같은 현상이 생긴다.

SmoothStep 구간 길이를 카메라 거리에 따라 적절히 맞춰줄 수 있으면 되지 않을까? 

 

여기서 ddx, ddy 가 등장한다. 

https://exqt.tistory.com/22

 

Fragment shader에서 픽셀 변화량을 구하는 함수 - ddx ddy fwidth

ddx와 ddy는 쉐이더 프로그래밍에서 Screen Space 에서 가로축 세로축에 대해 인접 픽셀들을 변화량을 구해주는 함수다. ddx 의미는 특정 값 v에 대해 Screen Space 기준으로 v를 계산했을 때 X축으로 인접

exqt.tistory.com

 

 

SDF 함수값을 D라고 할 때, 벡터 (ddx(D), ddy(D))는 화면 공간에서 D가 증가하는 방향을 나타낸다.

이 예제에서는 원 안쪽으로 갈수록 D가 커지므로, 벡터는 대략 원 중심을 향한다.

 

이 벡터의 길이 w = sqrt(ddx(D)^2 + ddy(D)^2)는 그 방향으로 화면에서 1픽셀만큼 이동할 때 D가 얼마나 변하는지를 나타낸다.

 

w를 SmoothStep의 구간의 길이로 두면, Screen Space 기준에서 원 경계를 중심으로 약 1픽셀 폭에서 알파가 0에서 1로 부드럽게 바뀐다. 

 

벡터의 길이를 계산할 때

L2 Norm이 정확하긴 하지만 L1 Norm인 fwidth를 사용하는데 최대 1.41배 만큼 차이가 날 수 있지만 Aliasing의 경우 눈에 띄는 차이는 아니고 계산 비용이 상대적으로 낮다는 점에서 fwidth를 주로 사용되는 것 같다.

 

 

M_CircleAAA

 

장거리 / 중거리 / 원거리에서 본 원

 

어느 거리에서 보던 Anti Aliasing이 적용되는 것을 알 수 있다.

 

 

 

참고글

https://blog.frost.kiwi/analytical-anti-aliasing/ 

 

 

exqt
@exqt :: exqt

gamedev

안녕하세요.

목차