OSI 7계층 모델 완전정복

어디서 왔나: 1970년대 말~1984년의 표준화

위키백과(OSI model) 기준으로, ISO는 1977년에 범용 네트워킹 표준을 만드는 작업을 시작했고 CCITT(현 ITU-T)도 비슷한 모델을 병행해 개발했습니다. 프랑스 소프트웨어 엔지니어 위베르 지머만(Hubert Zimmermann)이 1978년 2월 워싱턴 D.C.에서 이 모델의 초기 형태를 처음 정의한 것으로 서술되어 있습니다. 1983년 5월 ISO와 CCITT 문서가 합쳐져 「개방형 시스템 상호접속 기본 참조 모델」이 되었고, 1984년에 ISO 7498과 X.200으로 발행되었습니다. 현재 이 문서는 ISO/IEC 7498-1로 불립니다. 이름에 "참조 모델(Reference Model)"이 붙은 점이 중요합니다. 특정 제품을 규정하기보다 기능을 나누는 틀을 제시하려는 문서였습니다.

계층별 데이터 단위와 대표 프로토콜

같은 데이터라도 어느 계층에서 다루느냐에 따라 부르는 이름(PDU, 프로토콜 데이터 단위)이 달라집니다. 아래 표는 위키백과 OSI model 문서의 분류를 요약한 것이며, 프로토콜을 어느 계층에 넣을지는 자료마다 조금씩 다를 수 있습니다.

표에서 TLS가 6계층으로 분류되어 있지만, 위키백과도 TLS가 전송 계층과 표현 계층의 성격을 함께 가져 모델에 깔끔하게 들어맞지 않는다고 설명합니다. TCP·UDP를 4계층이라 부르는 것도 관례일 뿐 OSI의 전송 계층 정의에 엄밀히 맞지는 않는다는 언급이 있습니다.

OSI 모델과 TCP/IP: 참조 모델과 실제 스택

인터넷 프로토콜 묶음(TCP/IP)은 OSI와 비슷한 시기에 미국 국방부(DARPA) 지원 연구에서 발전했습니다. 위키백과(Internet protocol suite) 기준으로 1974년 5월 칸과 서프의 설계가 발표되었고, 1978년 포스텔이 프로그램을 IP와 TCP로 나누었으며, ARPANET은 1983년 1월 1일 NCP에서 TCP/IP로 전환을 마쳤습니다. 이는 OSI 참조 모델이 1984년에 발행되기 직전의 일입니다. 위키백과는 OSI 모델이 지금도 교육과 문서화의 참조로 쓰이는 반면, 인터넷 프로토콜 묶음이 네트워킹의 사실상 표준이 되었고, OSI를 위해 구상된 프로토콜들은 널리 쓰이지 못했다고 서술합니다. OSI 프로토콜이 외면받은 이유로는 지나치게 복잡하고 비효율적이었다는 평가, 기존 프로토콜의 전면 교체가 필요했다는 점, 선택 기능이 많아 구현 간 호환이 어려웠다는 점이 거론됩니다.

위 대응은 편의상의 근사입니다. RFC 1122·1123은 계층 구분보다 구조 원칙을 강조하며 엄격한 계층화를 목표로 하지 않고, 인터넷 구조를 다룬 RFC 3439에는 "Layering Considered Harmful"이라는 제목의 절도 있습니다. 즉 TCP/IP 쪽 사람들도 계층 구분을 절대적 규칙으로 보지 않았습니다. 그럼에도 실무자들이 "L2 스위치", "L3 라우터", "L7 로드밸런서"처럼 OSI 번호로 이야기하는 것은 이 번호 체계가 대화용 약속으로 굳었기 때문입니다.

실제 사례와 적용

사례 1. 1983년 ARPANET의 TCP/IP 전환 (과거, 해외)

위키백과(Internet protocol suite)는 ARPANET이 1983년 1월 1일 "플래그 데이"를 기해 NCP에서 TCP/IP로의 이전을 공식적으로 마쳤다고 기록합니다. 이 시점은 OSI 참조 모델 발행(1984년)보다 앞섭니다. 이미 TCP/IP가 실제 네트워크에서 쓰이기 시작한 상태에서 OSI가 표준화되었다는 뜻입니다. 여기서 얻는 교훈은, 표준 문서의 완성도와 실제 확산은 별개이며 먼저 동작하는 구현과 사용자 기반이 큰 힘을 가진다는 점입니다.

용어 관행: 계층 번호로 말하는 현업의 대화

현업에서는 서비스 거부(DDoS) 공격이나 장비를 "3·4계층", "7계층"처럼 OSI 번호로 구분해 부르는 경우가 흔합니다. 이는 인터넷이 OSI로 만들어졌기 때문이 아니라, 대화 속에서 어느 수준(패킷 단위인지, 웹 요청 단위인지)을 짧게 전달하는 약속으로 쓰이는 것입니다. (널리 쓰이는 용어 관행에 대한 일반적 서술이며, 개별 사건이나 수치는 다루지 않았습니다.)

직접 해보기: 가상 예시로 보는 계층별 점검

가상 예시입니다. 사무실 PC에서 웹사이트가 열리지 않을 때 아래에서 위로 점검하는 순서를 보여 줍니다.

1. 1계층: 랜선이 꽂혀 있는지, 포트의 링크 표시등이 켜지는지, 와이파이라면 신호가 잡히는지 확인합니다.
2. 2계층: 같은 스위치·공유기 아래 다른 PC는 통신되는지 봅니다. 다른 PC는 되는데 이 PC만 안 되면 이 PC의 어댑터 설정이나 포트 문제일 가능성이 큽니다.
3. 3계층: IP 주소를 받았는지, 게이트웨이로 ping이 가는지 확인합니다. 외부 IP 주소로 ping은 되는데 도메인으로는 안 된다면 3계층 아래는 대체로 정상이라는 단서가 됩니다.
4. 4계층: 해당 서비스 포트(예: 웹은 443)로 연결이 맺어지는지 봅니다. 방화벽이 포트를 막는 경우가 여기서 드러납니다.
5. 7계층: DNS 조회, 브라우저 설정, 서버 응답 코드를 확인합니다.

이 순서는 절대 규칙이 아니라 일반적으로 권장되는 접근입니다. 경험이 쌓이면 증상에 따라 가운데 계층부터 시작하기도 합니다.

흔한 오해와 정정

• 오해: 인터넷은 OSI 7계층대로 동작한다. 실제: 인터넷은 TCP/IP 프로토콜 묶음으로 동작하고, OSI는 참조 모델로 쓰입니다.
• 오해: 모든 프로토콜은 하나의 계층에만 속한다. 실제: TLS나 TCP의 연결 종료 기능처럼 여러 계층의 성격이 섞인 경우가 있습니다.
• 오해: 스위치는 항상 2계층, 라우터는 항상 3계층이다. 실제: 3계층 기능을 갖춘 스위치도 있어 장비 이름만으로 계층을 단정할 수 없습니다.
• 오해: 5·6계층은 실무에서 아무 의미가 없다. 실제: 구현상 분리되지 않을 뿐, 세션 관리나 데이터 표현·암호화라는 기능 자체는 존재합니다.

한계와 논쟁

OSI 모델이 현대 프로토콜에 맞지 않는다는 비판은 위키백과에서도 소개됩니다. 일부에서는 더 단순한 모델을 제안합니다. 한편 모델을 점검 순서와 대화의 틀로 쓰는 효용은 여전히 인정받습니다. 따라서 "정답 분류표"로 외우기보다 "문제를 나누는 도구"로 쓰는 편이 안전합니다.

관련 가이드

• TCP와 UDP 차이 완전정복: 4계층의 두 프로토콜 비교
• 허브·스위치·라우터 차이 완전정복: 1~3계층 장비
• 이더넷 프레임 구조: 2계층 데이터 단위 자세히 보기
• TLS 핸드셰이크 가이드: 계층 경계가 모호한 TLS

자주 묻는 질문