윈도우 11에서 DNS over HTTPS(DoH)로 DNS 암호화 방법

DNS 도감청 차단 DoH

윈도우 11은 기본적으로 다양한 보안 기능을 탑재하고 있으며, 그중 하나가 DNS over HTTPS(DoH) 기능이다. DoH는 DNS 요청을 암호화하여 사용자 개인정보와 인터넷 활동을 외부로부터 안전하게 보호하는 데 큰 역할을 한다.

이 글에서는 윈도우 11에서 DoH로 DNS 요청 암호화를 설정하는 모든 방법을 단계별로 자세하게 설명하며, 각 방법의 특징과 주의사항까지 함께 안내한다.


DNS 요청 암호화 DoH, DoT

DNS 요청 암호화는 DNS(도메인 이름 시스템) 쿼리를 암호화하여 인터넷 상에서 사용자 데이터를 보호하는 중요한 기술이다. 이는 인터넷 연결 시 발생할 수 있는 DNS 스니핑 및 DNS 변조 공격을 방지하는 데 중요한 역할을 한다.

일반적으로, DNS 요청은 암호화되지 않은 채로 전송된다. 이 말은 공격자가 네트워크 트래픽을 가로채고 사용자가 접속하려는 웹사이트의 이름을 알아낼 수 있다는 뜻이다. 예를 들어, DNS 스니핑 공격을 통해 공격자는 사용자가 접속하려는 웹사이트 이름을 쉽게 알아낼 수 있으며, 이를 악용해 스푸핑 공격이나 피싱 공격을 시도할 수 있다.

이 문제를 해결하기 위해 Windows 11은 DNS 요청 암호화를 통해 DNS 쿼리를 암호화하고, 데이터가 전송될 때 보안을 강화한다. 이렇게 함으로써 사용자가 요청하는 웹사이트 이름이 외부에서 노출되지 않도록 보호할 수 있다.

암호화된 이름 확인 구성은 DNS over HTTPS(DoH) 또는 DNS over TLS(DoT) 방식을 사용하여 DNS 요청을 암호화한다. 이 두 가지 방식 모두 DNS 쿼리를 암호화하여 사용자 데이터를 보호하며, 인터넷 서비스 제공업체(ISP)나 중간 공격자가 DNS 요청을 볼 수 없도록 한다.

DNS over HTTPS(DoH): HTTPs 프로토콜을 사용하여 DNS 요청을 암호화한다. 일반적으로 443 포트를 사용하며, 보통 웹사이트 접속과 동일한 방식으로 암호화된 DNS 쿼리를 전송한다.

DNS over TLS(DoT): TLS 프로토콜을 사용하여 DNS 요청을 암호화한다. 일반적으로 853 포트를 사용하며, DNS 쿼리가 TLS 터널을 통해 안전하게 전송된다.

이 두 방식은 공통적으로 DNS 트래픽을 암호화하여 공격자가 DNS 요청을 추적하거나 변조하는 것을 방지한다. Windows 11에서 이 설정을 통해 암호화된 DNS 트래픽을 지원하면 사용자의 인터넷 연결이 더욱 안전해진다.


DoH 설정이 중요한 이유

DoH를 설정하면 다음과 같은 보안상 이점을 얻는다:

DNS 스니핑 방지: 공격자가 DNS 요청을 도청하는 것을 방지한다.

DNS 변조(스푸핑) 차단: 잘못된 IP로 리디렉션하는 공격을 막는다.

공공 Wi-Fi에서의 보안 강화: 공공 네트워크에서도 개인정보를 보호한다.

추적 방지: ISP나 외부 서버가 사용자 접속 기록을 추적하는 것을 어렵게 만든다.

DoH(DNS over HTTPS)는 인터넷 사용 시 발생하는 DNS 요청을 HTTPS 프로토콜로 암호화하여 전송하는 기술이다. 일반적인 DNS 요청은 평문으로 전송되므로, 네트워크를 감시하는 제3자가 사용자가 어떤 웹사이트에 접속하고 있는지를 쉽게 파악할 수 있다. 반면 DoH는 DNS 요청을 웹사이트 접속 데이터와 동일한 HTTPS 포트(443번)로 암호화하여 전송하기 때문에, 외부에서 이를 가로채거나 조작하기 매우 어렵다.

암호화된 DNS는 또한 웹사이트의 진위 여부를 확인할 때 유용하다. DNS 요청을 암호화함으로써, 사용자가 접속하려는 웹사이트가 중간에서 변조되거나 피싱 공격에 의해 악성 사이트로 변경되는 것을 방지할 수 있다.


윈도우 11에서 DoH를 설정하는 방법

윈도우 11에서는 그래픽 사용자 인터페이스를 통해 손쉽게 DoH를 설정할 수 있으며, 명령어 방식이나 그룹 정책을 통한 고급 설정도 제공한다.


1. 윈도우 설정 앱을 이용하는 방법

이 방법은 비교적 간단하게 DoH를 설정할 수 있지만, 특정 네트워크 어댑터에 대해서만 설정이 가능하다.

1. 설정 앱 열기: Windows 키 + I 키를 눌러 설정 앱을 실행한다.

2. 네트워크 및 인터넷 메뉴 선택: 설정 앱 좌측 메뉴에서 "네트워크 및 인터넷"을 클릭한다.

3. 현재 연결된 네트워크 선택: 현재 인터넷에 연결된 방식(Wi-Fi 또는 이더넷)을 선택한다.

4. DNS 서버 할당 편집: 연결 속성 화면에서 "DNS 서버 할당" 항목 옆의 "편집" 버튼을 클릭한다.

5. "IP 설정 편집" 드롭다운 메뉴에서 '수동'을 선택한다.

6. IPv4 또는 IPv6 토글 스위치를 '켬'으로 변경한다. (사용하는 IP 버전에 따라 선택)

7. "기본 설정 DNS" 및 "대체 DNS" 필드에 DoH를 지원하는 DNS 서버의 IP 주소를 입력한다. (아래의 "DoH를 지원하는 주요 DNS 서버 목록" 참고)

8. "HTTPS를 통한 DNS" 메뉴를 클릭하고 "켜기(자동 탬플릿)"을 선택한다. 켜기(자동 탬플릿)을 선택하면 윈도우에서 그 DNS 서버의 DoH URL을 지원하는 경우에는 자동적으로 입력되게 한다.

9. 윈도우에서 그 DNS 서버의 DoH URL을 지원하지 않는 경우 '켜기(수동 탬플릿)'을 선택한 뒤 'HTTPS 탬플릿을 통한 DNS' 부분에 그 DNS 서버의 DoH URL을 수동으로 입력한다.

10. '일반 텍스트로 대체'란은 끔 상태로 둔다.

11. 모든 설정을 완료했으면 "저장" 버튼을 클릭한다.


2. 로컬 그룹 정책 편집기를 이용하는 방법

Windows 11의 로컬 그룹 정책: 암호화된 이름 확인 구성(Configure Encrypted Name Resolution) 설정.

이 방법은 윈도우 11 전체 시스템에 DoH 설정을 적용할 수 있다. 윈도우 11 Home 버전 사용자는 로컬 그룹 정책 편집기가 기본적으로 설치되어 있지 않으므로, 별도의 설치 과정을 거쳐야 한다.

1. 로컬 그룹 정책 편집기 실행: Windows 키 + R 키를 눌러 실행 창을 열고 gpedit.msc를 입력한 후 Enter 키를 누른다.

2. 해당 설정 경로 이동: 로컬 그룹 정책 편집기 좌측 패널에서 컴퓨터 구성 → 관리 템플릿 → 네트워크 → DNS 클라이언트 경로로 이동한다.

3. 암호화된 이름 확인 구성(Configure Encrypted DNS Resolution) 항목을 더블 클릭한다.


4. 상태를 사용(Enabled)으로 설정하고, '암호화 옵션 구성'란에서 아래 중 하나를 선택한다.

암호화 필수: 암호화된 DNS만 사용(Force encrypted DNS). 암호화 필수를 선택한 경우 암호화를 지원하는 DNS가 아니면 연결하지 않는다.

암호화 허용: 암호화된 DNS 우선 사용(Prefer encrypted DNS). 암호화를 지원하는 DNS 서버라면 DNS 요청을 암호화하고, 암호화를 지원하지 않는 DNS 서버라면 DNS 요청을 암호하하지 않는다.


5. DoH 관련 옵션 구성

DoH 차단: DoH를 사용하지 않는다.

DoH 허용: 구성된 DNS 서버가 DoH를 지원하면 사용한다.


6. DoT 관련 옵션 구성

DoT 차단: DoT를 사용하지 않는다.

DoT 허용: 구성된 DNS 서버가 DoT를 지원하면 사용한다.


7. 적용 및 확인: '적용' 및 '확인' 버튼을 클릭하여 설정을 저장한다. 시스템 재부팅을 권장한다.

설정을 완료한 후에 명령 프롬프트를 열고 gpupdate /force 명령을 입력하여 그룹 정책을 강제로 업데이트할 수 있다.


8. '제어판을 통한 DNS 변경 방법' 문단을 보고 DoH를 지원하는 DNS 서버로 바꾼다.

위 설정만으로는 DNS 서버를 바꿀 수 없기 때문에 추가로 네트워크 어댑터 설정에서 DoH를 지원하는 DNS 서버를 지정해 주어야 한다.


DoH만 필요: 암호화 허용/DoH 허용/DoT 차단

DoT만 필요: 암호화 허용/DoH 차단/DoT 허용

범용 설정: 암호화 허용/DoH 허용/DoT 허용

'암호화 필수' 설정의 경우 브라우저와 VPN의 DNS 설정과 충돌해 DNS 연결이 되지 않으니 사용하지 않는 것을 추천한다.


그룹 정책기에는 다음과 같이 설명되어 있다.

DNS 클라이언트가 암호화된 프로토콜을 통해 이름 확인을 수행할지를 지정합니다.

기본적으로 DNS 클라이언트는 UDP 또는 TCP 포트 53을 통해 클래식 DNS 이름 확인을 수행합니다. 이 설정은 암호화된 프로토콜을 사용하여 도메인 이름을 확인하도록 DNS 클라이언트를 향상할 수 있습니다.

이 정책 설정을 사용하려면 [사용]을 클릭한 다음 드롭다운 목록에서 다음 옵션 중 하나를 선택합니다.

암호화 금지: 암호화된 이름 확인을 수행하지 않습니다.

암호화 허용: 구성된 서버에서 지원하는 경우 암호화된 이름 확인을 사용합니다. 지원하지 않는 경우 클래식 이름 확인을 시도합니다.

암호화 필수: 암호화된 이름 확인만 허용합니다. 암호화를 처리하는 구성된 DNS 서버가 없으면 이름 확인이 실패합니다.

일반 암호화 정책 외에도 개별 프로토콜 수준에서 추가 정책을 구성할 수 있습니다.

예를 들어 DoT 이름 확인만 강제 적용하려면 "암호화 필수" 및 "DoH 차단"의 조합이 필요합니다(반대로 DoH를 강제 적용하는 경우도 마찬가지임).

위의 예제의 경우 DoT가 강제 적용된 경우 컴퓨터에 유효한 DoT 서버가 구성되어 있는지 확인하는 것은 관리자의 책임입니다(반대로 DoH의 경우도 마찬가지임).

이 정책 설정을 사용하지 않도록 설정하거나 이 정책 설정을 구성하지 않으면 DNS 클라이언트에서 로컬로 구성된 설정을 사용합니다. 암호화 설정을 자동으로 검색하는 데 필요하므로 DDR(Discovery of Designated Resolvers) 일반 텍스트 트래픽이 허용됩니다.


3. 제어판을 통한 DNS 변경 방법

Windows + R 키 입력 → 실행창에 control 입력 → 제어판(Control Panel) 실행

네트워크 및 인터넷 → 네트워크 및 공유 센터로 이동

왼쪽 메뉴에서 어댑터 설정 변경 클릭

사용 중인 네트워크 어댑터(예: Wi-Fi 또는 이더넷 또는 설치된 랜카드 이름)를 오른쪽 클릭 → 속성(Properties) 클릭

목록에서 인터넷 프로토콜 버전 4(TCP/IPv4) 선택 후 속성(Properties) 클릭

하단에 있는 다음 DNS 서버 주소 사용에 체크

기본 DNS 서버와 보조 DNS 서버를 입력한 후 확인(OK) 클릭

IPv6도 설정하려면 인터넷 프로토콜 버전 6(TCP/IPv6)에서도 동일하게 진행한다.


4. 명령 프롬프트로 DoH를 설정하는 방법

윈도우 고급 사용자를 위한 방식으로, 명령어를 사용해 DNS 주소 및 DoH 설정을 적용할 수 있다.

설정 방법:

명령 프롬프트(cmd)를 관리자 권한으로 실행한다.

아래 명령어를 입력하여 DoH를 지원하는 DNS를 추가한다:

netsh interface ipv4 set dnsservers name="이더넷" static 1.1.1.1 primary

netsh interface ipv4 add dnsservers name="이더넷" address=1.0.0.1 index=2

"이더넷"은 실제 네트워크 어댑터 이름으로 바꾸어야 한다. Wi-Fi라면 "Wi-Fi"로.

설정 후 ipconfig /flushdns 명령어를 입력하여 DNS 캐시를 비운다.

DoH가 적용되었는지 확인하려면 nslookup 명령을 통해 테스트한다.


DoH를 지원하는 DNS 서버 목록

다음은 DoH를 지원하는 대표적인 공개 DNS 서버 목록이다. 설정 시 기본 설정 DNS와 대체 DNS에 각각 다른 서버 주소를 입력하여 안정성을 높이는 것을 권장한다.


Cloudflare:

IPv4: 1.1.1.1, 1.0.0.1

IPv6: 2606:4700:4700::1111, 2606:4700:4700::1001

DoH URL: https://cloudflare-dns.com/dns-query


Google Public DNS:

IPv4: 8.8.8.8, 8.8.4.4

IPv6: 2001:4860:4860::8888, 2001:4860:4860::8844

DoH URL: https://dns.google/dns-query


Quad9:

IPv4: 9.9.9.9, 149.112.112.112

IPv6: 2620:fe::fe, 2620:fe::9

DoH URL: https://dns.quad9.net/dns-query


AdGuard DNS:

IPv4 (기본): 94.140.14.14, 94.140.15.15

IPv6 (기본): 2a0d:2a00:1::, 2a0d:2a00:2::

DoH URL (기본): https://dns.adguard.com/dns-query


VPN 사용 시 DoH 설정

VPN을 사용하는 경우, VPN 연결 설정 내에서 DoH 설정을 지원하는지 확인해 보는 것이 좋다. VPN 클라이언트 자체에서 DoH 설정을 제공하는 경우가 많으며, 이를 통해 VPN 연결 시에도 DNS 쿼리를 암호화하여 보안을 강화할 수 있다.

만약 VPN 클라이언트에서 DoH 설정을 지원하지 않는다면, 위에서 설명한 윈도우 설정 또는 로컬 그룹 정책 설정을 통해 DoH를 적용할 수 있지만, DNS 누출 방지를 위해 VPN 설정도 함께 확인하는 것이 중요하다.


DoH 설정 후 확인하는 방법

DoH가 제대로 작동하는지 확인하려면 DNS Leak Test 웹사이트를 이용하여 테스트할 수 있다.

1. 브라우저에서 https://www.dnsleaktest.com 접속한다.

2. Standard Test 또는 Extended Test를 실행한다.

3. 결과에서 자신이 설정한 DoH DNS 서버(예: Cloudflare, Google 등)가 표시되는지 확인한다.


터미널(CMD)를 관리자 권한으로 실행한 뒤 아래 명령어를 순서대로 입력 실행한다.

pktmon filter remove

pktmon filter add -p 53

pktmon start --etw -m real-time

실행한 뒤 마지막 줄에 '처리하는 중...' 메시지가 나오고 그 다음에 트래픽이 표시되지 않는다면 DoH가 제대로 작동하는 것이다.


DoH 설정 시 주의할 점

모든 DNS 제공자가 DoH를 지원하지는 않는다. 반드시 DoH를 공식적으로 지원하는 DNS 서버를 사용해야 한다.

방화벽이나 보안 소프트웨어가 DoH 트래픽을 차단할 수 있다. 이 경우 예외 처리를 해주어야 한다.

일부 인터넷 서비스 제공업체(ISP)는 자체 DNS를 우선시하기 때문에, 네트워크 설정에 따라 DoH가 무시될 수 있다.

일부 네트워크 환경에서는 DoH 통신이 차단될 수 있다.

"암호화만 사용" 옵션을 선택하면 DoH를 지원하지 않는 서버를 사용하는 경우 인터넷 연결에 문제가 발생할 수 있다.


결론

윈도우 11에서 DoH를 설정해 인터넷 보안을 강화하자.

윈도우 11에서 DNS over HTTPS(DoH) 기능을 설정하면 사용자의 DNS 요청이 HTTPS로 암호화되어 외부로부터의 감시나 조작으로부터 안전해진다. 설정 방법도 비교적 간단하며, 개인 사용자는 물론 기업 환경에서도 쉽게 적용할 수 있다.

공공 Wi-Fi 사용이 잦거나, 인터넷 사용 중 개인 정보 노출을 우려하는 사용자라면 반드시 DoH 기능을 활성화하는 것이 바람직하다. 단순한 DNS 주소 변경만으로도 높은 수준의 보안 효과를 얻을 수 있으니, 오늘 바로 설정해보길 권장한다.

Next Post Previous Post
No Comment
Add Comment
comment url