VMware Workstation 17.5 버전의 XTS 모드 암호화 변환 방법
VMware Workstation 17 가상화 프로그램이 최근 17.5 버전으로 업데이트가 되었으며, 업데이트 내용 중에 주목할 항목이 있어서 살펴보도록 하겠습니다.
업데이트 내역 중에 "Enhanced security for virtual machine encryption (가상 머신 암호화를 위한 향상된 보안)" 항목을 통해 "Virtual machine encryption/decryption uses XTS algorithms for robust security. (가상 머신 암호화/복호화가 튼튼한 보안을 위한 XTS 알고리즘을 사용합니다.)"이 적용되었다는 내용이 포함되어 있습니다.
실제로 VMware Workstation 17.5 버전으로 업데이트한 후 Windows 11 운영 체제가 설치된 가상 머신(Virtual Machine)을 사용할 때 다음과 같은 안내 메시지가 생성되는 것을 확인할 수 있습니다.
The virtual machine is encrypted using old encryption algorithm. You can upgrade VM to latest supported encryption mode. Please note that the upgrade may break backward compatibility which means that the virtual machine after upgrade may not work on older versions of Workstation. Before upgrading, refer below KB for more details.
해당 메시지 창에서는 오래된 암호화 알고리즘을 사용하여 암호화된 가상 머신이며, 최신 암호화 모드로 업그레이드를 할 수 있다는 내용입니다.
안내 링크(Upgrading existing VMs from CBC to XTS in VMware Fusion and Workstation (93071))에서는 오래된 CBC 모드로 암호화 알고리즘을 XTS 모드 암호화 알고리즘으로 변환하는 내용이 포함되어 있습니다.
Previously created Encrypted VMs are encrypted using CBC mode. From upcoming release onwards:
(a) Newly created Encrypted VMs will be encrypted using XTS mode.
(b) For Existing encrypted VMs, there will be a Alert/Message shown to upgrade those VMs from CBC to XTS at VM PowerOn.
그런데 문제는 업그레이드(Upgrade) 버튼을 클릭하여 XTS 암호화로 변환을 시도할 경우 "Failed to reencrypt virtual machine. Please restart VMware Workstation and try again later." 메시지를 띄우면서 실패할 수 있으며, VMware Workstation 가상 머신을 재실행하여 시도하여도 동일하게 실패할 수 있습니다.
해당 문제를 해결하기 위해서는 VMware Workstation 가상 머신을 종료한 후 프로그램 실행 시 "관리자 권한으로 실행"을 하시기 바랍니다.
관리자 권한으로 실행된 VMware Workstation 가상화 프로그램에서는 XTS 암호화 알고리즘으로 변환이 정상적으로 진행되는 것을 확인할 수 있습니다.
이 단계에서 주의할 부분은 해당 가상 머신이 디스크 파일이 위치한 드라이브에서 실제 사용하고 있는 디스크 용량(※ 예시 : C 드라이브 기준으로 100GB 중 40GB 사용 중)만큼 호스트 장치의 여유 디스크 용량이 존재해야 합니다.
그 이유는 CBC 모드에서 XTS 모드로 재암호화가 이루어지는 과정에서 사용 중인 디스크 용량만큼 일시적으로 디스크 용량이 감소하기 때문이며 암호화 완료 후에는 이전 디스크 용량으로 복구가 이루어집니다.
VMware Workstation 17.5 버전으로 업데이트 이후 Windows 11 운영 체제를 가상 머신으로 사용할 경우 참고하시기 바랍니다.