1.3. 제로 코스트 추상화(Zero-Cost Abstractions)의 계보

고수준의 편리함과 저수준의 제어 능력을 동시에 제공

전통적인 프로그래밍 언어의 세계에서 ‘추상화 수준’과 ‘성능’은 오랜 기간 상충 관계에 놓여 있었습니다. 파이썬(Python)이나 자바(Java)와 같은 고수준 언어는 개발자가 사용하기 편리한 강력한 추상화 기능을 제공하지만, 개발자가 사용하기 편리한 고수준의 기능을 사용할수록, 보이지 않는 런타임 비용(overhead)이 발생하는 것이 당연하게 여겨졌습니다. 반대로 C언어와 같은 저수준 언어는 하드웨어에 가까운 수준의 성능을 제공했지만, 개발자는 모든 것을 수동으로 제어해야 했고 코드의 가독성과 유지보수성이 떨어지는 불편함을 감수해야 했습니다. “읽고 쓰기 편한 아름다운 코드”와 “빠른 성능” 사이에서 하나를 선택해야 했던 것입니다.

C++과 러스트는 이 오랜 상충 관계에 대해 “사용하지 않는 것에 대해서는 비용을 지불하지 않는다”는 강력한 철학을 제시합니다. 이것이 바로 ‘제로 코스트 추상화(Zero-Cost Abstractions, ZCA)’ 원칙입니다. ZCA란, 개발자가 이터레이터(iterator), 제네릭(generics), 트레잇(trait) 등 고수준의 편리한 추상화 기능을 사용해 코드를 작성하더라도, 컴파일된 최종 결과물은 저수준에서 손으로 직접 최적화한 코드와 동일한 성능을 내야 한다는 원칙입니다.

이 원칙의 가장 깊은 뿌리는 C언어에서 찾을 수 있습니다. C는 struct를 통해 개발자가 메모리 레이아웃을 직접 제어하게 하고, inline 함수나 매크로를 통해 함수 호출 비용을 제거하는 등, 프로그래머가 수작업으로 비용 없는 코드를 만들 수 있는 기반을 제공했습니다.

C++은 이 기반 위에 ‘안전하고 확장 가능한 추상화’를 언어 차원에서 구축하는 혁신을 이루었습니다. 핵심은 템플릿(templates)과 RAII(자원 획득은 초기화다)였습니다.

템플릿은 타입 안전성을 보장하면서 컴파일 시점에 여러 타입에 대한 코드를 자동으로 생성해주었고,

RAII는 소멸자를 통해 자원 관리를 자동화하여 프로그래머의 실수를 원천적으로 줄여주었습니다.

물론, C의 강력한 매크로 시스템을 이용하면 이러한 고수준의 추상화를 ‘흉내’ 낼 수 있다는 주장도 있습니다. 실제로 Cello와 같은 언어는 매크로를 통해 C언어에서 객체 지향 프로그래밍과 같은 기능을 제공하기도 합니다. 하지만 이는 런타임 시스템을 도입하여 C의 한계를 극복하려는 매우 인상적인 시도임에도 불구하고, 개발자 스스로 ‘실험적인 해킹’이라 부르듯 그 구조적인 한계를 명확히 보여줍니다. 타입 검사가 컴파일 시점이 아닌 런타임에 이루어지며, 디버깅이 복잡하고, 약간의 성능 오버헤드를 감수해야 하는 등, 언어에 내장된 기능과 외부 라이브러리의 근본적인 차이를 드러내는 방식입니다.

러스트는 바로 이러한 C/C++의 ZCA 철학을 온전히 계승하면서, 여기에 ‘소유권’이라는 강력한 안전장치를 더했습니다. 즉, 추상화에 대한 비용을 런타임이 아닌 컴파일 타임에 처리하여 성능을 보장하는 동시에, 빌림 검사기를 통해 그 모든 추상화가 메모리 안전 규칙을 준수하도록 강제하는 것입니다.

대표적인 예가 바로 이터레이터입니다. 다음의 코드를 보겠습니다.

// 1부터 99까지의 숫자 중, 3의 배수만 골라 제곱한 값들의 합을 구하는 코드

let sum = (1..100).filter(|&x| x % 3 == 0).map(|x| x * x).sum::<u32>();

이 코드는 filter, map, sum과 같은 고수준 메서드를 연쇄적으로 사용하여 “무엇을 할 것인지”를 선언적으로 명확하게 보여줍니다. C언어였다면 for 루프와 if 조건문, 그리고 별도의 합계 변수를 사용하여 복잡하게 작성해야 했을 것입니다. 하지만 러스트 컴파일러는 이 고수준의 이터레이터 코드를 최적화하여, 사실상 손으로 짠 for 루프와 성능상 차이가 없는 기계 코드를 생성해 냅니다. filter나 map과 같은 중간 단계의 호출 비용은 컴파일 과정에서 모두 사라지며, 여기에 더해 모든 메모리 접근이 컴파일 시점에 안전하다는 것까지 보장합니다.

이러한 마법은 러스트의 강력한 타입 시스템과 제네릭, 그리고 컴파일러의 적극적인 인라이닝(inlining)과 모노모피제이션(monomorphization) 같은 기술을 통해 가능해집니다. 컴파일러가 더 많은 일을 하는 대신, 런타임의 사용자는 아무런 비용도 지불하지 않는 것입니다.

이처럼 제로 코스트 추상화는 개발자가 ‘성능 저하’에 대한 걱정 없이, 더 표현력 높고 안전한 방식으로 코드를 작성할 수 있도록 해주는 러스트의 핵심적인 성능 철학입니다.