Vitalik SF 소설 《설월》 제30장

제 30장

엘레나 숲, 비리디아·3725 설월 30일

제이는 화면을 주의 깊게 살피며 북극 드론 함대가 돌파할 수 있는 징후를 찾고 있었다. 사십 분 전, 그는 모든 부대에 천천히 후퇴하면서 나무를 베어 설지 드론의 속도를 늦추고 함정을 설치하라고 제안했으며, 주요 목표는 전투를 더 오래 끄는 것이었다. 렉토르는 그의 제안을 받아들였고, 이 전략이 적어도 일출 전까지는 잘 작동하기를 바란다고 전했다. 지금까지 그는 옳았다.

제이의 시계가 울렸다. 드루인이다.

당신의 우려를 이해하며, 현재 당신이 나를 신뢰할 충분한 이유가 없다는 점에 전적으로 동의합니다.

불행히도, 드론에 탑재된 언어 모델의 원본 가중치를 당신에게 제공할 수는 없습니다. 이는 철저히 보호되고 있으며, 극소수만이 접근할 수 있는데, 상대방이 이 가중치를 사용해 경사 하강 공격을 수행할 것을 우려하기 때문입니다.

하지만 가장 근접한 대안을 드릴 수 있습니다. 그들의 시뮬레이션 환경 API에 접근하는 것입니다. 여기에는 북극 드론의 시뮬레이션 복사본이 포함되어 있으며, 전체 세계 모델 시뮬레이션과 입력 양식만을 다루는 부분 시뮬레이션 모두 있습니다. 후자는 분류 결과를 제공합니다. 특정 시각 데이터 스트림을 입력하면 드론이 어떤 종류의 물체를 보았다고 판단하는지 알려줍니다.

다음은 네트워크 주소와 접근 키, 그리고 당신이 프록시를 통해 접속할 수 있는 훙쥔 북극 극점의 주소와 키입니다. 보안을 유지하고 발각 위험을 최소화하십시오.

제이는 즉시 쪽지를 바이에게 전달했다. 그는 또한 펜에게도 사본을 보냈고, 페이추이에게 펜에게 최우선순위 긴급 경보를 보내고 상황을 설명하라는 지시를 내렸다.

펜은 거의 즉시 응답했다.

"좋아 제이, 무엇이 필요한가?"

"보고 있어……" "그래, 실현 가능해 보인다. 잘 알려지지 않은 사실이 하나 있는데, 적대적 공격을 효과적으로 훈련하는 데 모델의 원본 가중치가 실제로 필요하지는 않다는 것이다. 반송페이에 분명 이 일에 매우 능숙한 사람이 있을 거야 — '언어 모델'은 언어와 밀접하게 관련되어 있으니까!"

제이는 쪽지를 무에게도 전달했다. 페이추이가 자동으로 실시간 채팅 그룹을 구성했다. 일 분 후, 약 열 명이 인사이트를 공유하기 시작했고, 병렬로 이 문제를 해결하기 시작했다.

"우리의 공격 벡터가 설지 드론이고, 우리에게 물건을 인쇄할 수 있는 접착지가 있다고 가정하자. 일출 후에 배치한다고 가정하자. 해야 할 일은 이것이다. 하나의 패턴으로 시작해서 시뮬레이터에서 실행하고, 우리 드론이 천천히 목표에 접근하게 한 다음, 목표가 그것을 감지하는 데 얼마나 걸리는지 보는 것이다. 감지 시간을 측정해서 우리가 얼마나 잘 숨겨져 있는지를 나타내는 스칼라 신호를 얻는 것이지, 단순한 이진 신호가 아니라."

"계속해서 모든 방향으로 패턴을 조금씩 수정해 나가라. 목표 감지 시간을 연장하는 모든 수정을 유지하라. 과정에 노이즈가 많으면 신호가 계속 축적되고, 노이즈는 시간이 지나면 평균화되므로 중요하지 않다. 경사 하강만큼 빠르지는 않지만, 여전히 효과가 있다. 결국 상대를 확실하게 속이는 패턴을 얻게 될 것이다."

"우리는 더 잘할 수 있다. 우리에게는 북극 모델과 유사한 방식으로 훈련된 자체 모델이 있고, 분명히 그 모델들의 원본 가중치를 가지고 있다. 따라서 우리 모델에 경사 하강을 사용할 수 있다. 우리 시뮬레이터의 모델에 따르면, 감지 시간을 최대화하는 최적의 직교 방향 열 개를 식별하고, 그것들을 시뮬레이터에서 모델에 대한 실험 편향으로 사용한다. 동시에, 각 쿼리의 결과를 사용해 우리 모델을 미세 조정하여 북극 모델이 이러한 공격에 어떻게 반응할지 더 잘 예측하게 한다."

"이 작업이 작동하게 하는 데 얼마나 걸릴까?" 제이가 끼어들었다.

"코딩은 최대 십 분이면 된다, 페이추이가 빨리 할 수 있다. 전체 훈련 루프는…… 아마 한 장시 정도?"

"그럼 일출 전후로 완료되겠네?"

"맞다. 그런 다음 드론 측면에 실제로 공격 패턴을 인쇄하는 데 몇 분이 걸릴지는 나도 모른다, 준비가 되는 즉시 시작할 수 있도록 네 쪽에서 이 프로세스를 준비해 둬야 한다."

"좋아, 모두들, 시작하자."

제이는 의자에 기대어 확대된 전투 지도와 실시간 화면을 계속 살펴보았다. 비리디아 드론 함대의 약 삼분의 일이 이미 손실되었지만, 사상률은 크게 감소했다. 느린 후퇴 전략이 잘 작동했다. 이는 또한 전투 피해로 움직일 수 없지만 무기는 여전히 온전한 비리디아 드론이 저전력 모드로 들어가, 북극군이 스스로 그들의 위치로 전진할 때 깨어나 최후의 폭발 피해를 입힐 수 있다는 것을 의미했다.

약 십오 분 후, 제이의 시계가 다시 울렸다. 페이추이가 그에게 채팅에 다시 참여하라고 알렸다.

"초기 좋은 소식이 있다", 반송페이 연구원이 외쳤다.

"뭔데?"

"우리가 북극 시뮬레이션 플랫폼에 성공적으로 접근했고, 시뮬레이터에서 이미 초기 수백 회의 실험을 실행했다. 우리 패턴이 감지 시간을 약 오 퍼센트 연장했다."

"겨우 오 퍼센트?"

"이는 파이프라인이 작동하기 시작했다는 의미일 뿐이다."

"오, 방금 십일 퍼센트로 올랐다."

"이건 확실히 효과가 있다", 다른 연구원이 끼어들었다. "우리는 페이추이를 병렬로 계속 실행하며 소프트웨어를 최적화할 것이다. 각 쿼리에서 더 많은 정보를 추출하는 방법과 쿼리를 더 잘 병렬화하여 모든 것이 더 빨리 진행되도록 하는 방법을 찾고 있다."

제이의 시계가 울렸다.

당신들이 이미 쿼리를 시작한 것을 보았습니다! 하지만 더 신중해야 합니다 — 내가 볼 수 있다면, 센티넬도 볼 수 있을지 모릅니다. 여기 몇 가지 추가 프록시 엔드포인트가 있습니다.

또한, 다른 작업을 수행하는 더미 쿼리를 잔뜩 추가하고, 각 쿼리가 동시에 여러 다른 공격을 시도하게 만들어서 그것이 무엇을 하는지 명확하지 않게 하십시오.

좋은 제안이야, 제이는 생각했다. 그는 전달했다.

시뮬레이터의 유효성을 검증하기 위해, 그들은 야간 환경에서도 시뮬레이션을 수행했으며, 야간 초에 발생한 소규모 전투의 현실 세계 환경을 완전히 복제했다. 두 명의 연구원과 페이추이 인스턴스로 구성된 또 다른 팀은 야간 환경에서 시뮬레이터와 현실 간의 차이를 자동으로 분석하여 현실 세계 상황에 더 잘 맞는 시뮬레이터 쿼리를 구성하는 방법을 학습하기 시작했다.

제이는 공격 패턴이 점점 더 최적화되는 것을 지켜보았다. 종이 한 장 한 장이 휘갈겨 쓴 곡선과 그림으로 가득 차 있었고, 어딘가 익숙하면서도 완전히 낯설어 보였다. 시뮬레이터 내에서, 북극 드론 AI가 접근하는 드론을 감지하는 데 필요한 시간이 두 배 이상 증가했다.

삼십 분이 더 지나자, 다시 두 배가 되었다.

렉토르는 현재 위치 뒤로 약 이 킬로미터 지점에 인쇄 인프라를 구축하라고 명령했다 — 일출 시 그곳에서 안전하게 후퇴를 조직할 수 있었다.

인간 비리디아 병사들은 이미 로봇 전선 뒤 수십 킬로미터 지점에 있었고, 렉토르는 그들에게 전방으로 이동하기 시작하라고 명령하여 설지 드론에 공격 패턴을 붙일 수 있게 했다. 인간의 손재주는 여전히 AI의 큰 약점이었다.

천천히, 하늘은 거의 완전한 암흑에서 짙은 파란색으로 변하기 시작했으며, 특히 극동 지역에서 두드러졌다. 시간이 흐르면서 파란색은 더 밝아졌다.

"좋아, 우리는 좋은 패턴을 몇 개 가지고 있다. 북안이 일출에 가까워지고 있으니, 지금 패턴을 하달하는 것을 제안한다."

"동의한다." 제이가 대답했다.

"그럼 시작하자", 무가 덧붙였다.

제이는 디스플레이의 실시간 화면을 넘겨보았다. 그들의 드론 함대 대부분은 이미 일 킬로미터 후퇴했고, 대량의 종이가 인쇄되어 거의 즉시 배포된 후 각 설지 드론과 공중 드론의 사방에 붙여졌다. 계획이 진행 중이었다.

"북방 클러스터 보고: 모든 비전선 드론 장비 완료."

"중앙 클러스터 보고: 모든 비전선 드론 장비 완료."

"남방 클러스터 보고: 모든 비전선 드론 장비 완료."

"해상 클러스터 보고: 우리는 북림지 외곽 마을에서 장비를 징발했다, 현지인들이 대단하다, 많은 사람들이 한밤중에 깨어나 우리를 도왔다. 대부분의 비전선 드론이 장비되었다."

"좋다." 렉토르의 목소리는 부드럽지만 단호했다. "작전 개시."

제이는 실시간 화면을 확인하며 최종적으로 채택된 공격 패턴이 어떤 모습인지 궁금했다. 그는 끝이 보이지 않는 설지 드론을 보았고, 기체 사방에 큰 종이가 붙어 있었다. 각 종이에는 다채롭고 구불구불한 패턴이 많았으며, 정중앙에는 거대한 글씨로 "DOG(개)"라고 쓰여 있었다. 몇 분 후, 효과가 나타났다. 비리디아 설지 드론이 빠르게 진격하여 적 방어선을 돌파했고, 양측 드론이 전선에서 뒤엉킨 혼전에 빠졌다. 전손 교환비가 십 대 일을 넘어, 비리디아 측이 절대적 우위를 점했다.

북림지

제이는 잠시 기쁨을 느끼게 했다 — 그것은 그의 밤새 처음으로 진정으로 느낀 기쁨이었다.

그는 그날 자신이 홍쥔 대통령의 아들을 구출하는 임무를 거의 실패하게 만들었을 때 덩이 자신에게 했던 말을 떠올렸다. "소위 틀을 깨는 것이란, 콘솔 의자에서 뛰어내려 달려가서 다른 플레이어의 얼굴을 때리는 것이다."

상대의 시뮬레이션 환경에 침입하여 수백만 개의 쿼리를 실행해 종이에 그릴 수 있는 곡선을 최적화하고, 상대 드론이 당신의 드론을 개라고 생각하도록 속이는 것 — 이것도 해당될까?

아마도 그럴 것이다, 제이는 결론지었다. 덩은 자랑스러워할 것이다.

제이가 충분히 축하했다고 느꼈을 때, 그는 진정으로 중요한 통계를 직관적으로 보기 시작했다. 전손 교환비였다. 이 숫자는 육 대 일로 떨어졌다. 지금까지 북극군은 적응하지 못했지만, 그들은 시간을 벌기 위해 각 소대의 드론이 대형을 이루며 선회하는 긴급 방어 진지를 구축했다. 제이는 그들이 곧 적응할 것이라는 것을 알고 있었다.

반송페이와 쿤가오페이 구성원들의 북극 시뮬레이션 환경 쿼리 채팅은 더 단순한 공격 최적화로 전환되었다. 감지를 최대한 지연시키고 조준 운동 패턴을 방해하며, 그들의 음성을 속일 수 있고, 그들 자신의 사격 정확도를 방해하는 것 — 새로운 종이에 인쇄해 붙일 필요가 없는 모든 메커니즘이었다. 그들은 또한 드루인이 최초 메시지와 함께 보낸 몇 가지 공격적인 미세 전술도 통합했다.

전손 교환비는 잠시 비리디아인에게 유리하게 반등했다가 다시 하락하기 시작했지만, 속도는 느렸다. 제이는 계속 지켜보았다.

십오 분 후, 시뮬레이션 환경에 대한 모든 접근이 갑자기 차단되었다. 거의 동시에, 전손 교환비가 갑자기 일 대 오로 떨어져 비리디아인에게 유리해졌다.

그들은 북극 드론 함대의 대부분을 파괴했지만, 여전히 상당 부분이 남아 있었다. 그들은 현재 복잡한 진지전에 있으며, 양측 드론 소대가 전장에 무질서하게 흩어져 있고 명확한 전선이 없었다.

비리디아 인간 병사들은 전선 뒤 불과 수백 미터 지점에서 빠르게 수리할 수 있는 설지 드론을 찾아 수리했다. 그들은 발각 기회를 최소화하기 위해 단열 망토를 입었고, 근처에서 타는 나무의 연기가 추가 엄폐를 제공했다. 일부 영상에서 제이는 멀리 북극 병사들도 같은 일을 하는 것을 볼 수 있었지만, 그들의 수는 적었다. 비리디아인들이 야간에 후퇴할 때, 그들은 이동 경로를 따라 함정을 설치해 두었고, 이 함정들은 드론보다 인간에게 더 효과적이었다.

몇 분 후, 제이의 시계가 다시 울렸다.