레이어2 롤업 비교: Optimistic Rollup과 ZK-Rollup의 기술적 구조와 트레이드오프

이더리움 같은 레이어1 블록체인은 보안과 탈중앙성을 우선하는 대신 처리량(TPS)이 낮다는 한계를 가지고 있습니다. 이 문제를 해결하기 위해 등장한 것이 롤업(Rollup) 기반 레이어2입니다. 롤업은 거래 연산을 오프체인에서 처리하고 그 결과만 레이어1에 기록하는 방식으로 확장성을 확보하는데, 크게 Optimistic Rollup과 ZK-Rollup 두 갈래로 나뉩니다. 이 글에서는 두 방식이 내부적으로 어떻게 동작하는지, 그리고 실제로 어떤 트레이드오프가 있는지를 기술적으로 살펴봅니다.

확장성 트릴레마와 롤업의 등장 배경

블록체인은 흔히 보안성, 탈중앙성, 확장성을 동시에 극대화하기 어렵다는 ‘확장성 트릴레마’에 부딪힙니다. 레이어1의 합의 규칙을 바꾸지 않으면서 처리량을 늘리는 방법 중 하나가 연산을 체인 밖으로 옮기고, 그 결과의 정당성만 레이어1에서 검증받는 구조입니다. 롤업은 다음 두 가지를 레이어1에 남깁니다.

• 모든 거래 데이터(또는 그 압축본)를 레이어1에 게시하여 데이터 가용성을 보장
• 오프체인 연산 결과가 올바르다는 것을 증명하는 방식(사기 증명 또는 영지식 증명)

이 두 번째 지점, 즉 ‘결과가 올바름을 어떻게 증명하는가’에서 Optimistic Rollup과 ZK-Rollup의 철학이 갈립니다.

Optimistic Rollup의 동작 구조

Optimistic Rollup은 이름 그대로 ‘일단 맞다고 낙관적으로 가정’하는 방식입니다. 시퀀서(Sequencer)가 거래를 묶어 배치(batch)로 만들고 레이어1에 게시하면, 별도의 즉각적인 검증 절차 없이 그 상태 변화가 곧바로 확정된 것으로 취급됩니다. 대신 일정 기간(챌린지 기간, 통상 7일)을 두어 누구든 그 결과가 잘못되었다고 판단하면 사기 증명(Fraud Proof)을 제출해 이의를 제기할 수 있습니다. 이의가 인정되면 잘못된 상태 전이는 되돌려지고, 시퀀서는 예치했던 담보를 슬래싱당합니다.

이 구조의 핵심은 ‘검증자가 실제로 부정행위를 감시하고 있다’는 경제적 유인에 의존한다는 점입니다. 연산 자체를 매번 증명하지 않기 때문에 일반적인 EVM 연산과의 호환성이 높고, 개발자가 별도의 회로 설계 없이 기존 스마트 컨트랙트를 거의 그대로 배포할 수 있다는 장점이 있습니다. Arbitrum, Optimism(OP Mainnet), Base 등이 이 방식을 채택하고 있습니다.

ZK-Rollup의 동작 구조

ZK-Rollup은 영지식 증명(Zero-Knowledge Proof, 주로 zk-SNARK 또는 zk-STARK)을 이용해 오프체인 연산이 올바르게 수행되었음을 수학적으로 증명합니다. 거래 배치를 처리한 뒤, 프루버(Prover)가 그 연산 전체에 대한 유효성 증명(Validity Proof)을 생성하고, 이 증명을 레이어1의 검증 컨트랙트가 짧은 시간 안에 확인합니다. 증명이 유효하다고 확인되는 즉시 상태가 확정되므로, Optimistic Rollup처럼 며칠씩 이의제기 기간을 기다릴 필요가 없습니다.

다만 임의의 스마트 컨트랙트 연산을 영지식 회로로 변환하는 작업은 오랫동안 기술적 난이도가 높았습니다. 최근에는 zkEVM(영지식 증명과 호환되는 이더리움 가상머신) 기술이 발전하면서 zkSync Era, Starknet, Polygon zkEVM, Scroll 등이 일반 스마트 컨트랙트를 지원하는 수준까지 도달했지만, 증명 생성에 필요한 연산량이 크기 때문에 프루버 하드웨어 비용과 증명 생성 지연 시간이 여전히 중요한 최적화 대상입니다.

두 방식 비교표

실제 사용 사례에서 나타나는 차이

거래소에서 레이어2로 자산을 브릿지할 때 Optimistic Rollup 계열은 표준 출금 시 챌린지 기간을 기다려야 하므로, 사용자 경험을 위해 유동성 공급자가 담보를 걸고 즉시 출금을 대신 처리해주는 ‘패스트 브릿지’ 서비스가 함께 발달했습니다. 반면 ZK-Rollup은 증명 검증 이후 바로 출금이 가능해 이런 중개 서비스에 대한 의존도가 상대적으로 낮습니다.

한편 게임이나 고빈도 거래처럼 처리량과 낮은 지연시간이 중요한 애플리케이션에서는 증명 생성 비용이 낮아지고 있는 ZK 계열이 점차 선호되는 추세이며, 복잡한 온체인 로직을 그대로 옮겨야 하는 기존 대형 프로토콜은 여전히 EVM 호환성이 높은 Optimistic 계열을 우선 검토하는 경우가 많습니다.

레이어2를 선택할 때 확인해야 할 체크리스트

• 자산을 출금할 때 표준 경로의 대기 시간이 며칠인지, 패스트 브릿지 수수료는 얼마인지 확인했는가
• 사용하려는 디앱이 해당 롤업에서 완전히 감사(audit)된 상태로 배포되어 있는지 확인했는가
• 시퀀서가 다운되거나 검열할 경우 사용자가 레이어1로 직접 강제 출금(force exit)할 수 있는 안전장치가 있는지 확인했는가
• 프루버 또는 검증 시스템이 아직 중앙화된 단계인지, 탈중앙화 로드맵이 공개되어 있는지 확인했는가
• 브릿지 컨트랙트 자체의 감사 이력과 과거 보안 사고 여부를 확인했는가

자주 묻는 질문

Q. Optimistic Rollup과 ZK-Rollup 중 어느 쪽이 더 안전한가요?
A. 두 방식 모두 레이어1에 데이터를 게시해 데이터 가용성을 확보한다는 점은 같습니다. 다만 신뢰 모델이 다릅니다. Optimistic Rollup은 최소 한 명의 정직한 검증자가 사기 증명을 제출할 것이라는 경제적 가정에 의존하고, ZK-Rollup은 암호학적 증명 자체의 정확성에 의존합니다. 일반적으로 ZK-Rollup의 신뢰 가정이 더 최소화되어 있다고 평가되지만, 두 방식 모두 브릿지 컨트랙트 구현의 품질과 감사 여부가 실제 보안 수준을 좌우합니다.

Q. 왜 Optimistic Rollup은 출금에 7일이 걸리나요?
A. 챌린지 기간은 누군가 잘못된 상태 전이를 발견하고 사기 증명을 제출할 수 있는 시간적 여유를 주기 위한 안전장치입니다. 이 기간이 너무 짧으면 검증자가 부정행위를 발견하지 못한 채 상태가 확정될 위험이 커지므로, 보안과 사용자 편의성 사이의 트레이드오프로 설정된 값입니다.

Q. zkEVM은 완전히 이더리움과 동일하게 동작하나요?
A. 프로젝트마다 호환 수준이 다릅니다. 바이트코드 수준까지 동일하게 동작하도록 만든 것을 목표로 하는 프로젝트도 있고, 언어 수준(Type 4)에서 호환을 제공하는 프로젝트도 있습니다. 완전한 바이트코드 호환에 가까울수록 기존 컨트랙트를 그대로 옮기기 쉽지만, 증명 생성 효율이 상대적으로 낮아지는 경우가 있어 각 프로젝트가 이 균형점을 다르게 설정하고 있습니다.

Q. 두 방식이 앞으로도 계속 공존할까요?
A. 단기적으로는 EVM 호환성과 개발 편의성이 필요한 영역에서는 Optimistic 계열이, 빠른 확정성과 최소 신뢰가 중요한 영역에서는 ZK 계열이 각각 강점을 유지하며 공존할 가능성이 높습니다. 다만 zkEVM 기술이 성숙하고 증명 생성 비용이 계속 낮아짐에 따라, 장기적으로는 대부분의 롤업이 어떤 형태로든 영지식 증명 기반 검증으로 수렴할 것이라는 전망도 업계에서 자주 제기되고 있습니다.