이 문서는 참고 문헌 목록을 포함하고 있으나, 각주가 불충분하거나 존재하지 않아 출처가 모호합니다. 더욱 정확한 각주를 적용하여 이 문서가 향상되도록 도와 주세요.

비즈네르 암호(프랑스어: Vigenère 暗號)는 프랑스 외교관이었던 블레즈 드 비즈네르에 의하여 1586년에 발표된 암호이다.

외교관이었던 비즈네르는 26세 되던 해 로마로 발령받아 2년간 근무 하던 중 알베르티의 글을 읽고 크립토그래피에 관심을 기울이게 된다. 39세에 그는 평생 연구에 매달릴수 있을만큼 돈을 모았다고 판단하고 외교관을 그만 둔다. 알베르티의 논문을 자세히 분석하여, 이를 통해 '비즈네르 사이퍼'라 부르는 것을 만들게 된다.

비즈네르 암호의 장점은 '빈도분석법'으로 해독이 거의 불가능하다는 사실이다. 또한, 열쇠의 개수가 무궁무진하다는 것도 큰 장점이다. 비즈네르 암호는 '복합 알파벳'에 속한다. 이러한 장점으로 인해 '난공불락의 사이퍼'라는 별명이 붙게 되었다.

먼저 암호문 제작을 위해서 아래의 표와 같은 이른바 '비즈네르 표'를 만들어야 한다.

이 '비즈네르 표'는 원문 알파벳 아래에 26가지 사이퍼 알파벳이 나열되어있다. 사이퍼 알파벳은 한 줄 내려갈 때마다 한 자씩 뒤로 이동하게 되며,1번 줄은 1칸 이동 카이사르 사이퍼(카이사르 암호) 알파벳과 동일하다.

이런 식으로 2번 줄은 2칸 이동,3번 줄은 3칸 이동 카이사르 사이퍼 알파벳과 같다.

예) 사이퍼 알파벳 4번 사용

• a->E로 대체
• g->K로 대체

암호문 작성시 한가지 사이퍼 알파벳만 사용하게 되면 보완성이 낮은 카이사르 알파벳과 동일하여 빈도분석법으로 충분히 해독이 가능하게 된다.

이를 보완하기 위해 키워드(열쇠)를 이용한다. 키워드(열쇠)는 수신자와 송신자가 아무 단어나 선택할 수 있다.

예)키워드: sky

'divert troops to east ridge'(부대를 동쪽 산등성이로 철수 시켜라)를 암호로 바꾸어 보자.

위의 암호화된 텍스트를 보면 같은 'o'에 대해서 'M','G','Y'세가지가 나온 것을 알 수 있다. 즉, 위에서 언급한대로 빈도분석법으로는 해독이 불가능하게 된다.

A–Z를 0–25의 수로 바꾸고, 26으로 나누어 나머지를 구하는 방법이면 대수학으로 설명된다. 열쇠로 ${\displaystyle K}$를 사용하는 비제네르 암호화 ${\displaystyle E}$는 이렇게 쓸 수 있다.

${\displaystyle C_{i}=E_{K}(M_{i})=(M_{i}+K_{i})\mod {26}}$

복호화 ${\displaystyle D}$는,

${\displaystyle M_{i}=D_{K}(C_{i})=(C_{i}-K_{i})\mod {26}}$,

여기서 ${\displaystyle M=M_{1}\dots M_{n}}$은 평문이고, ${\displaystyle C=C_{1}\dots C_{n}}$는 암호문이다. ${\displaystyle K=K_{1}\dots K_{n}}$는 열쇠를 ${\displaystyle \lceil n/m\rceil }$만큼 반복해서 얻는다. 여기서 ${\displaystyle n}$은 평문의 길이이고, ${\displaystyle m}$은 열쇠의 길이다.

예를 들어 평문 ${\displaystyle M_{i}}$가 T이고, 열쇠 ${\displaystyle K_{i}}$가 E이면 각각 ${\displaystyle T{\widehat {=}}19}$와 ${\displaystyle E{\widehat {=}}4}$이다. 계산하면,

${\displaystyle 23=(19+4)\mod {26}}$

그러므로 암호문 ${\displaystyle C_{i}}$는 ${\displaystyle X{\widehat {=}}23}$다.

복호화는 암호문 ${\displaystyle C_{i}}$인 ${\displaystyle X{\widehat {=}}23}$에서 열쇠 ${\displaystyle K_{i}}$인 ${\displaystyle E{\widehat {=}}4}$를 빼면,

${\displaystyle 19=(23-4)\mod {26}}$

로 다시 평문 ${\displaystyle M_{i}}$인 ${\displaystyle T{\widehat {=}}19}$를 얻을 수 있다.

• 사이먼 싱,《사이먼 싱의 암호의 과학》,영림카디널, 2005, p80-87